मानवी-स्तरीय एआय अपरिहार्य नाही. आमच्याकडे कोर्स बदलण्याची शक्ती आहे | गॅरिसन सुंदर

“तंत्रज्ञान घडते कारण ते शक्य आहे,” ओपनईचे मुख्य कार्यकारी अधिकारी, सॅम ऑल्टमॅन, सांगितले न्यूयॉर्क टाइम्स 2019 मध्ये, अणुबॉम्बचे वडील रॉबर्ट ओपेनहाइमर जाणीवपूर्वक पॅराफ्रॅसिंग करतात.

ऑल्टमॅनने सिलिकॉन व्हॅली मंत्र कॅप्चर केला: तंत्रज्ञान अनियंत्रितपणे पुढे जाते.

आणखी एक व्यापक टेकीची खात्री आहे की प्रथम मानवी-स्तरीय एआय-ज्याला कृत्रिम जनरल इंटेलिजेंस (एजीआय) म्हणून ओळखले जाते-दोन फ्युचर्सपैकी एक बनते: एक विस्कळीतपणा टेक्नो-यूटोपिया किंवा मानवतेचा नाश?

साठी इतर असंख्य प्रजातीमानवांचे आगमन शब्दलेखन doom. आम्ही कठोर, वेगवान किंवा मजबूत नव्हते – फक्त हुशार आणि चांगले समन्वयित. बर्‍याच प्रकरणांमध्ये, नामशेष होणे हे आमच्याकडे असलेल्या इतर ध्येयाचे अपघाती उप -उत्पादन होते. एक खरी एजीआय तयार करणे नवीन प्रजातीजे पटकन कदाचित आउटस्मार्ट किंवा जास्तीत जास्त आम्हाला. हे मानवतेला एक किरकोळ अडथळा म्हणून पाहू शकते, जसे अँथिल नियोजित हायड्रोइलेक्ट्रिक धरणाच्या मार्गाने किंवा ए शोषण करण्यासाठी संसाधनफॅक्टरी शेतात मर्यादित कोट्यवधी प्राण्यांप्रमाणे.

ऑल्टमॅन, इतर शीर्ष एआय लॅबच्या डोक्यांसह, असा विश्वास आहे की एआय-चालित विलुप्त होणे ए वास्तविक शक्यता (शेकडो अग्रगण्य एआय संशोधक आणि प्रमुख व्यक्तींमध्ये सामील होणे).

हे सर्व दिले तर हे विचारणे स्वाभाविक आहे: आपण खरोखर एखादे तंत्रज्ञान तयार करण्याचा प्रयत्न केला पाहिजे जे आपल्या सर्वांना चुकले तर मारू शकेल?

कदाचित सर्वात सामान्य उत्तर म्हणते: एजीआय अपरिहार्य आहे. हे तयार न करणे खूप उपयुक्त आहे. तथापि, एजीआय हे अंतिम तंत्रज्ञान असेल – lan लन ट्युरिंगचा सहकारी म्हणतात “माणसाला कधीही आवश्यक असलेला शेवटचा शोध”. याव्यतिरिक्त, तर्क एआय लॅबमध्ये आहे, जर आपण तसे केले नाही तर कोणीतरी हे करेल – कमी जबाबदारीने नक्कीच.

सिलिकॉन व्हॅलीच्या बाहेर एक नवीन विचारसरणी, प्रभावी प्रवेगवाद (ई / एसी), दावे एजीआयची अपरिहार्यता हा थर्मोडायनामिक्सच्या दुसर्‍या कायद्याचा परिणाम आहे आणि त्याचे इंजिन “टेक्नोकॅपिटल” आहे. ई/एसी मॅनिफेस्टो ठामपणे सांगते: “हे इंजिन थांबविले जाऊ शकत नाही. प्रगतीचा रॅचेट केवळ एका दिशेने वळतो. परत जाणे हा एक पर्याय नाही.”

साठी ऑल्टमॅन आणि ई/एसीसीएस, तंत्रज्ञान एक गूढ गुणवत्ता घेते – आविष्काराचा मोर्चा निसर्गाची वस्तुस्थिती मानला जातो. पण नाही. तंत्रज्ञान हे हेतुपुरस्सर मानवी निवडींचे उत्पादन आहे, असंख्य शक्तिशाली शक्तींनी प्रेरित केले आहे. आमच्याकडे त्या सैन्यास आकार देण्याची एजन्सी आहे आणि इतिहास दर्शवितो की आम्ही हे आधी केले आहे.

कोणतेही तंत्रज्ञान अपरिहार्य नाही, एजीआयसारखे मोहक काहीतरी देखील नाही.

काही एआय चिंताग्रस्तांना आवडते दर्शवा वेळा मानवतेने प्रतिकार केला आणि मौल्यवान तंत्रज्ञानावर प्रतिबंध केला.

कादंबरीच्या जोखमीच्या भीतीने, जीवशास्त्रज्ञ सुरुवातीला बंदी घातली आणि नंतर यशस्वीरित्या नियमन १ 1970 s० च्या दशकात रिकॉम्बिनेंट डीएनएवरील प्रयोग.

माध्यमातून कोणत्याही मानवी पुनरुत्पादित केले गेले नाही क्लोनिंगजरी ते झाले आहे तांत्रिकदृष्ट्या शक्य एका दशकापेक्षा जास्त काळ, आणि अनुवांशिक अभियंता मानवांचा एकमेव वैज्ञानिक होता कैद त्याच्या प्रयत्नांसाठी.

आण्विक शक्ती प्रदान करू शकता सातत्यपूर्ण, कार्बन-मुक्त उर्जा, परंतु आपत्तीची ज्वलंत भीती आहे प्रवृत्त स्टिफलिंग नियम आणि पूर्णपणे बंदी?

आणि जर ऑल्टमॅन असते अधिक परिचित मॅनहॅटन प्रकल्पाच्या इतिहासासह, कदाचित त्याला हे समजले असेल की 1945 मध्ये अण्वस्त्रांची निर्मिती प्रत्यक्षात होते एक अत्यंत आकस्मिक आणि संभव नाही, प्रवृत्त बॉम्बच्या “शर्यतीत” जर्मन पुढे होते या चुकीच्या विश्वासाने. फिलिप झेलिको, 9/11 कमिशनचे नेतृत्व करणारे इतिहासकार, म्हणाले: “मला वाटते की अमेरिकेने दुसर्‍या महायुद्धात अणुबॉम्ब बांधले नव्हते, हे मला प्रत्यक्षात स्पष्ट झाले नाही जेव्हा किंवा शक्यतो अगदी जर अणुबॉम्ब कधीही बांधला जातो. ”

अण्वस्त्रे नसलेल्या जगाची कल्पना करणे आता कठीण आहे. पण थोड्या ज्ञात भागामध्ये तत्कालीन अध्यक्ष रोनाल्ड रेगन आणि सोव्हिएत नेते मिखाईल गोर्बाचेव्ह जवळजवळ सहमत त्यांचे सर्व बॉम्ब खंदक (“एक गैरसमज”स्टार वॉर्स”उपग्रह डिफेन्स सिस्टमने या आशा धडपडल्या). जरी संपूर्ण शस्त्रेचे स्वप्न फक्त तेच राहिले तरी, नुके मोजले जातात पेक्षा कमी त्यांच्या 1986 शिखरापैकी 20%, मोठ्या प्रमाणात धन्यवाद आंतरराष्ट्रीय करार?

या निवडी व्हॅक्यूममध्ये केल्या नव्हत्या. रेगन एक होता कट्टर विरोधक आधी नि: शस्त्रीकरण लाखो-मजबूत विभक्त फ्रीझ चळवळ त्याच्याकडे आली. 1983 मध्ये, तो टिप्पणी दिली त्याच्या राज्य सचिवांना: “जर गोष्टी अधिक गरम आणि गरम झाल्या आणि शस्त्रास्त्रांवर नियंत्रण राहिले तर कदाचित मी पहावे [Soviet leader Yuri] अँड्रोपोव्ह आणि सर्व अण्वस्त्रे काढून टाकण्याचा प्रस्ताव. ”

जीवाश्म इंधन ज्वलंत ठेवण्यासाठी अत्यंत मजबूत आर्थिक प्रोत्साहन आहेत, परंतु हवामान वकिलांनी आहे प्रीड ओपन ओव्हरटन विंडो आणि आमच्या डेकार्बनायझेशन प्रयत्नांना लक्षणीय गती दिली.

एप्रिल 2019 मध्ये, यंग क्लायमेट ग्रुप विलोपन बंडखोरी (एक्सआर) आणले 2025 पर्यंत यूके लक्ष्यित निव्वळ शून्य कार्बन उत्सर्जनाची मागणी करीत लंडनला थांबले. त्यांच्या वादग्रस्त नागरी अवज्ञाने संसदेला प्रवृत्त केले घोषित करा 2030 चा अवलंब करण्यासाठी हवामान आपत्कालीन आणि कामगार पक्ष लक्ष्य ब्रिटनचे कामकाज वीज उत्पादन?

सिएरा क्लबचा कोळशाच्या पलीकडे मोहीम कमी ज्ञात होती पण अत्यंत प्रभावी? त्याच्या पहिल्या पाच वर्षांत, मोहिमेमुळे अमेरिकन कोळसा वनस्पतींपैकी एक तृतीयांशपेक्षा जास्त शटरला मदत झाली. धन्यवाद प्रामुख्याने कोळशापासून त्याच्या वाटेवर, यूएस दरडोई कार्बन उत्सर्जन आता आहेत 1913 मध्ये त्यांच्यापेक्षा कमी होते.

अनेक मार्गांनी, एजीआय तयार करण्याच्या प्रयत्नांचे नियमन करण्याचे आव्हान डेकार्बोनिझिंगपेक्षा खूपच लहान आहे. बत्तीस टक्के जागतिक उर्जा उत्पादन जीवाश्म इंधनातून येते. ऊर्जा हीच सभ्यतेचे कार्य करते, परंतु जगाला गोलंदाजी करण्यासाठी आम्ही काल्पनिक एजीआयवर अवलंबून नाही.

पुढे, भविष्यातील प्रणालींच्या विकासास मंद करणे आणि मार्गदर्शन करणे याचा अर्थ असा नाही की औषध, हवामान आणि इतरत्र महत्त्वपूर्ण समस्या सोडविण्यासाठी आम्हाला विद्यमान प्रणाली वापरणे किंवा तज्ञ एआय विकसित करणे थांबविणे आवश्यक आहे.

इतके भांडवलदार एआय उत्साही का आहेत हे स्पष्ट आहे: ते अशा तंत्रज्ञानाचा अंदाज लावतात जे कामगारांना लूप (आणि ताळेबंद) बाहेर काढण्याचे दीर्घकाळ स्वप्न साध्य करू शकतात.

परंतु सरकार नफा कमाल नाही. निश्चितच, त्यांना आर्थिक वाढीची काळजी आहे, परंतु त्यांना रोजगार, सामाजिक स्थिरता, बाजारातील एकाग्रता आणि कधीकधी लोकशाही यासारख्या गोष्टींचीही काळजी आहे.

एजीआय एकूणच या डोमेनवर कसा परिणाम करेल हे अगदी कमी स्पष्ट आहे. बहुतेक लोक तंत्रज्ञानाने बेरोजगार असलेल्या जगासाठी सरकार तयार नाहीत.

भांडवलदारांना बर्‍याचदा त्यांना पाहिजे ते मिळते, विशेषत: अलिकडच्या दशकात आणि नफ्याच्या अनुरुप पाठपुरावामुळे एआयच्या विकासाची गती कमी करण्याचा कोणताही नियामक प्रयत्न कमी होऊ शकतो. पण भांडवलदार तसे करत नाहीत नेहमी त्यांना पाहिजे ते मिळवा.

फेब्रुवारी महिन्यात सॅन फ्रान्सिस्कोमधील एका बारमध्ये, दीर्घकाळ ओपनई सुरक्षा संशोधकाने एका गटाला उच्चारले की ई/एसीसीएसला “अत्यंत” एआय सेफ्टी लोकांबद्दल काळजी वाटू नये, कारण त्यांच्याकडे कधीही शक्ती नसते. बूस्टरना खरोखर एओसी आणि सिनेटचा सदस्य जोश हॉलीला घाबरायला हवे कारण ते “आपल्यासाठी खरोखर गोष्टी चोखू शकतात”.

मानव अनेक सहस्राब्दीसाठी चिकटून राहतात असे गृहीत धरुन, आम्ही शेवटी एजीआय तयार करणार नाही हे जाणून घेण्याचा कोणताही मार्ग नाही. परंतु हे खरोखर अपरिहार्यवादी म्हणत नाही. त्याऐवजी, संदेश असा आहे: एजीआय जवळपास आहे. प्रतिकार व्यर्थ आहे.

परंतु आम्ही पाच, 20 किंवा 100 वर्षात एजीआय तयार करतो खरोखर महत्त्वाचे आहे? आणि बूस्टर कबूल करण्यापेक्षा टाइमलाइन आमच्या नियंत्रणाखाली आहे. खोलवर, मला शंका आहे की त्यांच्यापैकी बर्‍याच जणांना याची जाणीव होते, म्हणूनच त्यांनी इतरांना पटवून देण्याचा प्रयत्न करण्याचा प्रयत्न करण्याचा काहीच अर्थ नाही की त्यांनी इतका प्रयत्न केला. याव्यतिरिक्त, जर तुम्हाला असे वाटते की एजीआय अपरिहार्य आहे, तर कोणासही खात्री पटवून देण्यास त्रास का करावा?

आम्ही प्रत्यक्षात होते ओपनईने प्रत्यक्षात हे करण्यापूर्वी एक दशकापेक्षा जास्त काळ जीपीटी -2 ला प्रशिक्षण देण्यासाठी संगणकीय शक्ती आवश्यक आहे, परंतु हे करणे योग्य आहे की नाही हे लोकांना माहित नव्हते.

परंतु आत्ता, शीर्ष एआय लॅब अशा तीव्र शर्यतीत लॉक आहेत की ते अंमलबजावणी करत नाहीत त्यांच्या स्वत: च्या सुरक्षा कार्यसंघांना देखील पाहिजे असलेल्या सर्व खबरदारी. (एक ओपनई कर्मचारी घोषित अलीकडेच त्याने “एजीआयच्या वेळेस जबाबदारीने वागेल असा आत्मविश्वास गमावल्यामुळे” त्याने सोडले.) तेथे एक “सेफ्टी टॅक्स” आहे जो स्पर्धात्मक राहण्याची आशा असल्यास लॅबला पैसे देऊ शकत नाहीत; चाचणी मंदावते उत्पादन कंपनीचे संसाधने रिलीझ करते आणि वापरते.

दुसरीकडे सरकार समान आर्थिक दबावांच्या अधीन नसतात.

अलीकडेच एक अविभाज्य तंत्रज्ञान उद्योजक म्हणाले एआय विकासाचे नियमन करणे अशक्य आहे “जोपर्यंत आपण लेखी कोडची प्रत्येक ओळ नियंत्रित करत नाही”. जर कोणी त्यांच्या लॅपटॉपवर एजीआय फिरवू शकले तर ते खरे असेल. परंतु असे दिसून आले की इमारत प्रगत, सामान्य एआय मॉडेल आवश्यक आहे सुपर कॉम्प्यूटरच्या प्रचंड अ‍ॅरे, चिप्ससह एक द्वारे उत्पादित मूर्खपणाने एकाधिकारशाही उद्योग. यामुळे, बर्‍याच एआय सुरक्षा वकिलांनी “पाहिले”गणना प्रशासन”एक आशादायक दृष्टिकोन म्हणून. सरकार क्लाउड कंप्यूटिंग प्रदात्यांना पुढील पिढीचे प्रशिक्षण थांबविण्यास भाग पाडू शकते जे स्थापित चे पालन करीत नाहीत रेलिंग? अपस्टार्ट्स लॉक करणे किंवा ऑरवेलियन पातळीवरील पाळत ठेवण्याऐवजी, केवळ खर्च करणार्‍या खेळाडूंवर परिणाम करण्यासाठी उंबरठा निवडला जाऊ शकतो $ 100 मी पेक्षा जास्त एकाच प्रशिक्षण धाव वर.

आंतरराष्ट्रीय स्पर्धा आणि एकतर्फी नि: शस्त्रीकरण होण्याच्या जोखमीबद्दल सरकारांना चिंता करण्याची गरज आहे, म्हणून बोलण्यासाठी. पण आंतरराष्ट्रीय करार लॅब आंधळेपणाने सिस्टम स्केलिंग करत नाहीत हे सुनिश्चित करताना अत्याधुनिक एआय सिस्टमचे फायदे मोठ्या प्रमाणात सामायिक करण्यासाठी वाटाघाटी केली जाऊ शकते. समजत नाही?

आणि जगाला काल्पनिक वाटू शकते, परंतु प्रतिस्पर्धी राष्ट्रांनी आश्चर्यकारक अंशांमध्ये सहकार्य केले आहे.

मॉन्ट्रियल प्रोटोकॉल निश्चित क्लोरोफ्लोरोकार्बनवर बंदी घालून ओझोन थर. जगातील बहुतेक लोकांनी सैन्यदृष्ट्या उपयुक्त शस्त्रास्त्रांवर नैतिकदृष्ट्या प्रेरित बंदी घालण्यास सहमती दर्शविली आहे, जसे की जीवशास्त्रीय आणि रासायनिक शस्त्रे, आंधळे लेसर शस्त्रेआणि “हवामान युद्ध”.

1960 आणि 70 च्या दशकात, बरेच विश्लेषक भीती की प्रत्येक देश जो नुक्स तयार करू शकेल, असे होईल. पण सर्वाधिक जगातील अंदाजे तीन-डझन अणु कार्यक्रम बेबंद केले होते? हा घटनेचा परिणाम नव्हता, तर 1968 च्या जबरदस्त राज्यशास्त्राद्वारे जागतिक नॉन -प्रोलिफोरेशनच्या सर्वसामान्य प्रमाण तयार करणे नॉन-प्रोलिफरेशन करार?

काही प्रसंगी जेव्हा अमेरिकन लोकांना विचारले गेले की त्यांना सुपरह्यूमन एआय पाहिजे आहे का, मोठा प्रमुख म्हणाला “नाही”. एआयला विरोध वाढले आहे तंत्रज्ञान अधिक प्रचलित झाल्यामुळे. जेव्हा लोक असा युक्तिवाद करतात की एजीआय अपरिहार्य आहे, ते खरोखर काय म्हणत आहेत ते म्हणजे लोकप्रिय इच्छेनुसार काही फरक पडू नये. बूस्टर जनतेला प्रांतीय नव-लुडिट्स म्हणून पाहतात ज्यांना त्यांच्यासाठी काय चांगले आहे हे माहित नाही. म्हणूनच अपरिहार्यतेमुळे त्यांच्यासाठी असा वक्तृत्व आहे; हे त्यांना त्यांचा वास्तविक युक्तिवाद करणे टाळतो, जे त्यांना माहित आहे की जनमताच्या न्यायालयात ते हरले आहेत.

एजीआयचा ड्रॉ मजबूत आहे. परंतु त्यात सामील होण्याचे जोखीम संभाव्य सभ्यता-समाप्ती आहेत. त्यास प्रतिकार करण्यासाठी आवश्यक शक्तींना भाग पाडण्यासाठी सभ्यता-मोठ्या प्रयत्नांची आवश्यकता आहे.

तंत्रज्ञान घडते कारण लोक ते घडवून आणतात. आम्ही अन्यथा निवडू शकतो.