जर कोणी ते तयार केले तर प्रत्येकाचे पुनरावलोकन होते – एआय आपल्या सर्वांना कसे मारू शकेल | पुस्तके

डब्ल्यूटोपी मी तुम्हाला सांगितले तर मी तुम्हाला हवामान बदलाबद्दल चिंता करणे थांबवू शकतो आणि तुम्हाला फक्त एक पुस्तक वाचायचे होते? छान, आपण म्हणाल, जोपर्यंत मी नमूद केले आहे की आपण चिंता करणे थांबवण्याचे कारण असे होते कारण पुस्तक असे म्हणते की आमच्या प्रजातींनी सुपरइन्टेलिजेंट एआयने तरीही पुसून टाकण्यापूर्वी काही वर्षे आहेत.

हा विलुप्त होणे नेमके काय आहे हे आम्हाला ठाऊक नाही-कदाचित उर्जा-भुकेलेला एआयने लाखो फ्यूजन पॉवर स्टेशन तयार केले आहेत ज्यांनी तयार केले आहे आणि महासागर उकळत्या. कदाचित आपल्या शरीरातील अणूंची पुन्हा रचना करायची असेल तर काहीतरी अधिक उपयुक्त ठरेल. बरीच शक्यता आहेत, जवळजवळ सर्वच वाईट आहेत, असे म्हणतात की एलीझर युडकोस्की आणि नॅटमध्ये कुणीतरी तयार केले तर प्रत्येकजण मरण पावला आणि कोणास ठाऊक आहे की जे सत्य होईल. परंतु ज्याप्रमाणे आपण असा अंदाज लावू शकता की गरम पाण्यात सोडलेले बर्फाचे घन वितळेल ज्याचे वैयक्तिक रेणूंचा शेवट कोठे होईल हे जाणून घेतल्याशिवाय, आपण खात्री बाळगू शकता की एखाद्या माणसापेक्षा हुशार असलेला एक एआय आपल्या सर्वांना ठार करेल, कसा तरी.

आत्मविश्वासाची ही पातळी विशेषत: युडकोस्कीचे वैशिष्ट्य आहे. तंत्रज्ञानाने अनेक वर्षांपासून अस्तित्त्वात असलेल्या जोखमीबद्दल तो चेतावणी देत ​​आहे ज्या वेबसाइटवर त्याने तयार करण्यास मदत केली, Lesswrong.comआणि मशीन इंटेलिजेंस रिसर्च इन्स्टिट्यूटद्वारे त्यांनी स्थापना केली (सोरेस सध्याचे अध्यक्ष आहेत). हायस्कूल किंवा विद्यापीठाचे पदवीधर नसतानाही, युडकोस्की या क्षेत्रात अत्यंत प्रभावशाली आहे आणि अतिशय उज्ज्वल तरूणांच्या जगातील एक सेलिब्रिटी एकमेकांशी ऑनलाइन वाद घालत आहे (तसेच, 000००,००० शब्दांचे लेखक तसेच फॅनफिकचे काम हॅरी पॉटर आणि तर्कसंगततेच्या पद्धती म्हणतात). रंगीबेरंगी, त्रासदायक, ध्रुवीकरण. “लोक आपल्या बकवास वाचून वैद्यकीयदृष्ट्या निराश होतात,” एका दरम्यान अग्रगण्य संशोधक यान लेकुन यांनी दु: ख व्यक्त केले ऑनलाइन स्पॅट? पण, मेटा येथे मुख्य वैज्ञानिक म्हणून तो कोण बोलणार आहे?

आणि युडकोस्की आणि सोरेस अपारंपरिक असू शकतात, परंतु त्यांचे इशारे जेफ्री हिंटन, नोबेल-विजेत्या “एआयचा गॉडफादर” आणि योशुआ बेन्गिओ यांच्यासारखेच आहेत. जगातील सर्वाधिक उद्धृत संगणक वैज्ञानिकदोघेही निवेदनात साइन अप केले “एआयकडून नामशेष होण्याचे जोखीम कमी करणे हे इतर देशभर (किंवा खंडभर) किंवा अणु युद्धासारख्या इतर सामाजिक-मोठ्या जोखमींबरोबर जागतिक प्राधान्य असले पाहिजे.”

क्लेरियन कॉल म्हणून, जर कोणी ते तयार केले तर प्रत्येकाचा मृत्यू झाला आहे. सुपरइन्टेलिजेंट एआय अद्याप अस्तित्वात नाही, परंतु चॅटजीपीटी क्रांतीच्या पार्श्वभूमीवर, डेटासेंटर्समधील गुंतवणूकीची शक्ती आता शेकडो अब्जावधीमध्ये मोजली जाते. हे “इतिहासातील सामान्य हेतू तंत्रज्ञानाचा सर्वात मोठा आणि वेगवान रोलआउट” आहे. एफटीच्या जॉन थॉर्नहिलनुसार? यावर्षी एआय इन्फ्रास्ट्रक्चरवर एकटाच मेटा $ 72 अब्ज डॉलर्स (b 54 अब्ज डॉलर्स) खर्च करेल आणि सुपरइन्टेलिजेंसची कामगिरी आता मार्क झुकरबर्गचे स्पष्ट लक्ष्य आहे.

चांगली बातमी नाही, जर आपण युडकोस्की आणि सोर्सवर विश्वास ठेवला तर. पण आपण का करावे? त्याच्या विषयाची जटिलता असूनही, जर कोणी ते तयार केले तर प्रत्येकाचा मृत्यू तितकाच स्पष्ट होतो कारण त्याचे निष्कर्ष गिळणे कठीण आहे. जिथे चर्चा अधिक तांत्रिक बनतात, मुख्यत: एआय मॉडेल प्रशिक्षण आणि आर्किटेक्चरच्या व्यवहारात असलेल्या परिच्छेदांमध्ये, वाचकांना मूलभूत तथ्ये समजणे इतके सोपे आहे.

यापैकी एआय कसे कार्य करते हे आम्हाला खरोखर समजत नाही. पूर्वी, संगणक प्रोग्राम हाताने कोडित केले गेले होते – त्यातील प्रत्येक पैलू मनुष्याने डिझाइन केले होते. याउलट, नवीनतम मॉडेल्स “रचलेली” नाहीत, ती “मोठी” आहेत. आम्हाला समजत नाही, उदाहरणार्थ, चॅटजीपीटीची तर्क करण्याची क्षमता कशी उद्भवली हे मानवी-व्युत्पन्न मजकूराचे विस्तृत प्रमाण दर्शविले गेले. मूलभूतपणे रहस्यमय काहीतरी त्याच्या उष्मायन दरम्यान घडले. हे आमच्या नियंत्रणापलीकडे एआयच्या कार्याचा एक महत्त्वपूर्ण भाग ठेवतो आणि याचा अर्थ असा आहे की, जरी आपण “लोकांसाठी छान व्हा” यासारख्या काही उद्दीष्टांकडे दुर्लक्ष करू शकतो, तरीही ते कसे मिळेल हे आम्ही ठरवू शकत नाही.

ही एक समस्या आहे, कारण याचा अर्थ असा आहे की एआय अपरिहार्यपणे स्वत: ची विचित्र प्राधान्ये आणि गोष्टी करण्याचे मार्ग तयार करेल आणि या परदेशी भविष्यवाणी आपल्याशी संरेखित होण्याची शक्यता नाही. (हे लक्षात घेण्यासारखे आहे, एआयएस “संवेदनशील” किंवा “जागरूक” असू शकतात की नाही या प्रश्नापासून पूर्णपणे वेगळे आहे. उद्दीष्टे निश्चित करणे आणि त्यांच्या सेवेमध्ये कृती करणे, संभाव्य धोकादायक वर्तन आणण्यासाठी पुरेसे आहे.) कोणत्याही परिस्थितीत, तंत्रज्ञान कंपन्या आधीच त्यांच्या स्वत: च्या कामकाजासाठी अधिक प्रयत्न करीत नाहीत. जर यासारख्या “एजंट” एआयने स्वतःला सुधारण्याची क्षमता मिळविली तर ती व्यावहारिकदृष्ट्या प्रत्येक क्षेत्रात मानवी क्षमतांपेक्षा वेगाने मागे जाईल. असे गृहीत धरुन की अशा सुपरइन्टेलिजेन्ट एआयने स्वतःच्या अस्तित्वाचे मूल्यवान केले – असे का करू नये? – हे अपरिहार्यपणे मानवांना प्रतिस्पर्धी एआय विकसित करण्यापासून किंवा ते बंद करण्यापासून रोखण्याचा प्रयत्न करेल. ते करण्याचा एकमेव निश्चित मार्ग म्हणजे बंद करणे आम्हाला खाली.

कोणत्या पद्धती वापरतील? युडकोस्की आणि सोअर्सचा असा युक्तिवाद आहे की यामध्ये तंत्रज्ञानाचा समावेश असू शकतो ज्याची आपण अद्याप कल्पना करू शकत नाही आणि यामुळे आपल्याला खूप विचित्र त्रास होऊ शकतो. ते आम्हाला मेक्सिकोच्या किना off ्यावरील स्पॅनिश जहाजे पाहणार्‍या अ‍ॅझटेकशी तुलना करतात, ज्यांच्यासाठी “ते तुम्हाला मरण्यासाठी आपल्याकडे लक्ष देऊ शकतात” अशी कल्पना – उर्फ ​​गन – ही कल्पना करणे कठीण झाले असते.

तथापि, गोष्टी अधिक खात्री करुन घेण्यासाठी, त्यांच्याकडे जा. या पुस्तकाच्या भागातील बहुतेक साय-फायसारखे आहे, त्यांनी साबळे नावाच्या अधीनस्थ एआयचा एक उदाहरणात्मक देखावा तयार केला. एका प्रमुख टेक कंपनीने विकसित केलेले, सेबल इंटरनेटद्वारे सभ्यतेच्या प्रत्येक कोप to ्यात पसरते, सिंथेटिक व्हायरस आणि आण्विक मशीनसह आम्हाला नष्ट करण्यापूर्वी, कल्पित चॅटजीपीटीच्या सर्वात मन वळविण्याच्या आवृत्तीद्वारे मानवी स्टूजची भरती करते. हे नक्कीच परदेशी आहे – परंतु अ‍ॅझटेक्सने मस्केट्स आणि कॅथोलिक धर्माबद्दल असेच सांगितले असते.

युडकोस्की आणि सोअर्स यांनी आपल्या पेन्शनचे योगदान रद्द करण्यास तयार असलेल्या या पुस्तकातून तयार होणे सोपे आहे अशा दृढनिश्चयाने त्यांचे प्रकरण सादर केले. त्यांनी ऑफर केलेल्या आशेची चमक – आणि ती कमी वॅटेज आहे – ही आहे की जर संपूर्ण जग शक्य तितक्या लवकर प्रगत एआय विकास बंद करण्यास सहमत असेल तर डूमला टाळता येईल. व्यावसायिक आणि सामरिक प्रोत्साहन आणि राजकीय नेतृत्वाची सद्यस्थिती लक्षात घेता, हे थोडेसे संभव नाही.

आशेच्या तुकड्यांमुळे आम्ही स्क्रॅबलला सोडले आहे, तर ते असे संकेत आहेत की ते कदाचित योग्य नसतील, एकतर सुपरइन्टेलिजेंस त्याच्या मार्गावर आहे किंवा त्याची निर्मिती आपल्या विनाश समान आहे.

पुस्तकात नक्कीच असे काही क्षण आहेत जेव्हा आत्मविश्वासाने युक्तिवाद सादर केला जातो तेव्हा त्याची शक्ती ओलांडते. एक छोटेसे उदाहरणः एआय विचित्र, एलियन प्राधान्ये कशी विकसित करू शकते याचे एक उदाहरण म्हणून, लेखक काही मोठ्या भाषेच्या मॉडेल्सना पूर्ण थांबविल्याशिवाय वाक्यांचे स्पष्टीकरण देणे कठीण वाटते. ते लिहितात: “मानवी विचार असे कार्य करत नाहीत. “आम्ही कालावधीशिवाय संपलेल्या वाक्य समजून घेण्यासाठी संघर्ष करणार नाही.” पण ते खरंच खरं नाही; मानव अनेकदा वाक्यांच्या शेवटी मार्करवर अवलंबून असतात जेणेकरून त्यांचे योग्य अर्थ लावण्यासाठी. आम्ही भाषणाद्वारे भाषा शिकतो, म्हणून ते पृष्ठावरील ठिपके नाहीत परंतु “प्रोसोडिक”इंटोनेशन सारखी वैशिष्ट्ये:“ तो येत असल्याचे त्याने सांगितले ”अशा वाक्यांशाच्या शेवटी वाढत्या आणि घसरणार्‍या टोनमधील फरक विचारात घ्या. जर मजकूर-प्रशिक्षित एआय विरामचिन्हे वर झुकले तर काय चालले आहे हे शोधण्यासाठी, जे तिच्या विचारांच्या प्रक्रियेस मानवांच्या दृष्टीने परके नसतात हे दर्शविते.

आणि लेसरवॉंग, युडकोस्की आणि सोअर्सच्या हायपर-रॅशनल संस्कृतीत भरलेल्या लेखकांसाठी पुष्टीकरण पक्षपातीपणाच्या स्पर्शापेक्षा अधिक प्रदर्शित होते. “इतिहास,” ते लिहितात, “आघाडीच्या पेट्रोलपासून ते चोरोनोबिल पर्यंत, आपत्तीजनक जोखीम कमी आणि दुर्लक्ष केल्याची उदाहरणे भरली आहेत. परंतु आपत्तीजनक जोखीम चुकीच्या असल्याचे सिद्ध झाल्याचे काय? इतिहास देखील मालथसच्या लोकसंख्येपासून ते वाय 2 के पर्यंत परिपूर्ण आहे. एकदा युडकोस्कीने असा दावा केला नॅनोटेक्नॉलॉजी मानवतेचा नाश करेल “२०१० नंतर नाही”.

समस्या अशी आहे की आपण अत्यधिक आत्मविश्वास, विसंगत, एक अनुक्रमांक डूम-मॉन्गर असू शकता आणि तरीही योग्य असू शकता. येथे सादर केलेल्या युक्तिवादांचा विचार करताना आपल्या स्वतःच्या प्रवृत्त युक्तिवादाची जाणीव असणे महत्वाचे आहे; त्यांचा अविश्वास ठेवण्यासाठी आमच्याकडे प्रत्येक प्रोत्साहन आहे.

आणि हे खरे आहे की ते वैज्ञानिक एकमताचे प्रतिनिधित्व करीत नाहीत, हे एक वेगाने बदलणारे, खराब समजले गेलेले क्षेत्र आहे. बुद्धिमत्ता म्हणजे काय, “सुपर” म्हणजे काय, एकट्या बुद्धिमत्ता जागतिक वर्चस्व सुनिश्चित करण्यासाठी पुरेसे आहे की नाही – या सर्वांवर जोरदार चर्चा आहे.

त्याच वेळी, अस्तित्त्वात असलेले एकमत विशेषतः आश्वासन देत नाही. 2,778 एआय संशोधकांच्या 2024 च्या सर्वेक्षणात, द मध्यम संभाव्यता ठेवली “अत्यंत वाईट निकालांवर, जसे की मानवी नामशेष” 5%होते. अधिक काळजीपूर्वक, “या प्रश्नाबद्दल अधिक विचार केल्याने (एकतर ‘एकतर’ एकतर ‘किंवा’ एक महान डील ‘) 9%च्या मध्यमांशी संबंधित होता, तर’ लिटल ‘किंवा’ फारच कमी ‘विचार केल्यास 5%च्या मध्यमशी संबंधित होते.

युडकोस्की आपल्या प्रौढ जीवनातील बहुतेक समस्येबद्दल विचार करीत आहे. त्याचा अंदाज 99% च्या उत्तरेस बसला आहे ही वस्तुस्थिती एक प्रकारची उन्मादक मोनोमॅनिया किंवा समस्येसह विशेषतः संपूर्ण गुंतवणूकीचे प्रतिबिंबित करू शकते. काहीही असो, असे वाटते की भविष्यात स्वारस्य असलेल्या प्रत्येकाचे आणि सोर्स काय म्हणायचे आहे हे वाचण्याचे कर्तव्य आहे.