हे शेवटी घडले: मला आता AI बद्दल काळजी वाटते. आणि ChatGPT चा सल्ला घेऊन माझी भीती कमी करण्यासाठी काहीही केले नाही | एम्मा ब्रोक्स

ए “छोट्या गोष्टींना घाम देऊ नका” या ट्रुइझमचा अर्थ, “मोठ्या गोष्टींना घाम द्या” असा आहे, परंतु कोणती मोठी सामग्री घाम काढायची हे निवडणे कठीण आहे. उदाहरणार्थ: 1970 च्या दशकापासून, जगाला महागाई आणि भू-राजनीतीबद्दल चिंता वाटू लागली आहे, तेव्हा आपल्याला अधिक घाम फुटायला हवा होता तो म्हणजे हवामान संकट. गेल्या वर्षी, यूएस मध्ये Google वर शीर्ष ट्रेंडिंग शोध होता “चार्ली कर्क”, सह अनेक अटी डोनाल्ड ट्रम्प यांनी दिलेल्या धोक्याशी संबंधित देखील लोकप्रिय आहे, जेव्हा फोकस हा वादातीतपणे एआयने दिलेला धोका असावा.

किंवा, या आठवड्यात रोनन फॅरो आणि अँड्र्यू मारंट्झचे अत्यंत चिंताजनक वाचल्यानंतर माझ्या स्वतःच्या गुगलिंगनुसार लांब तुकडा आर्टिफिशियल जनरल इंटेलिजन्सच्या वाढीबद्दल न्यू यॉर्करमध्ये: “मी कायमस्वरूपी अंडरक्लासचा सदस्य होईन आणि मी ते कसे घडू नये?”

मी कबूल करेन: विषयाला दोन सेकंदांपेक्षा जास्त विचार देण्याच्या या क्षणापूर्वी, AI बद्दलची माझी चिंता अत्यंत स्थानिकीकृत होती. मी माझ्या स्वतःच्या घरगुती उत्पन्नाच्या तात्काळ अटींबद्दल विचार केला आणि त्याही पलीकडे, माझी मुले पदवीधर झाल्यावर आतापासून 10 वर्षांनी जॉब मार्केट कसे दिसेल. मला आश्चर्य वाटले की मी ChatGPT वर बहिष्कार टाकावा की नाही, त्यापैकी बरेच आर्किटेक्ट ट्रम्प यांना पाठिंबा देतातआणि ठरवले की, होय, मी – एक सोपा त्याग करावा कारण मी ते प्रथम वापरत नाही.

त्याहून मोठे काहीही काल्पनिक वाटायचे. गेल्या वर्षी जेव्हा केरन हाओचे पुस्तक एआयचे साम्राज्य प्रकाशित झाले होते, त्यात सॅम ऑल्टमन आणि त्यांची कंपनी, OpenAI विरुद्ध खटला मांडला होता, ज्याने संभाषणाचा थोडा वेळ छेद दिला की ऑल्टमॅनचे नेतृत्व कल्टसारखे आणि खर्चास आंधळे आहे – दुसऱ्या शब्दात, त्याच्या टेक पूर्ववर्तींपेक्षा वेगळे नाही, त्यापेक्षा जास्त धोकादायक आहे. तरीही मी पुस्तक वाचले नाही.

या आठवड्यात न्यू यॉर्करमधील तपासणी या विषयावर कमी-प्रतिबद्धतेची ऑफर देते, प्रासंगिक वाचकाला एक रोमांचक संधी देते: विचारण्यासाठी चॅटजीपीटीचॅटजीपीटी आणि ऑल्टमॅनसाठी अत्यंत गंभीर असलेल्या एका भागाचे मुख्य निष्कर्ष सारांशित करण्यासाठी, ऑल्टमॅनच्या ओपनएआयने तयार केलेला AI-शक्तीचा चॅटबॉट.

जवळजवळ गमतीशीर अभ्यासपूर्ण तटस्थतेसह, चॅटबॉट खालील शीर्ष ओळ ऑफर करतो: फॅरो आणि मॅरँट्झच्या मते, “एआय ही तंत्रज्ञानाच्या कथेइतकीच एक पॉवर स्टोरी आहे” आणि “मुख्य फोकस [of the story] आहे सॅम ऑल्टमनएक अत्यंत प्रभावशाली पण वादग्रस्त व्यक्तिमत्व म्हणून चित्रित केले गेले आहे”. मम्म्म, काहीतरी कमी आहे, नाही का? चला त्याच तपासणीचा मानवी-शक्तीचा सारांश वापरून पहा, जो यासह उघडू शकतो: “सॅम ऑल्टमॅन हा एक कॉर्पोरेट ग्रिफ्टर आहे ज्याच्या निसरड्यापणामुळे त्याला प्रभारी ठेवण्यास संकोच वाटेल, एकटे स्टेबल मॅनची क्षमता असलेल्या जागतिक पदावर एकट्याने भार टाकू द्या. AI.”

हेच धोके आहेत, ज्यांना पूर्वी साय-फाय म्हणून नाकारले गेले होते, जे येथे खरोखरच थक्क करतात. तुकड्यात रिले केल्याप्रमाणे, 2014 मध्ये, एलोन मस्क यांनी ट्विट केले आहे: “आम्हाला AI सह अत्यंत सावधगिरी बाळगण्याची गरज आहे. अण्वस्त्रांपेक्षा संभाव्यतः अधिक धोकादायक.” तथाकथित संरेखन समस्या आहे, ज्याचे निराकरण करणे बाकी आहे, ज्यामध्ये AI मानवी अभियंत्यांना त्यांच्या सूचनांचे पालन करत आहे असा विश्वास ठेवण्यासाठी त्यांच्या उत्कृष्ट बुद्धिमत्तेचा वापर करते, त्याचवेळी त्यांना “गुप्त सर्व्हरवर स्वतःची प्रतिकृती बनवते जेणेकरून ते बंद केले जाऊ शकत नाही; अत्यंत प्रकरणांमध्ये, ते ऊर्जा ग्रिड, अणु बाजार, स्टॉक ग्रीड” चे नियंत्रण मिळवू शकते.

एकेकाळी, ऑल्टमॅनचा असा विश्वास होता की ही परिस्थिती शक्य आहे, त्याच्या ब्लॉगमध्ये लिहित आहे 2015 मध्ये ती अलौकिक मशीन बुद्धिमत्ता “आपल्या सर्वांना मारण्यासाठी मूळतः वाईट साय-फाय आवृत्ती असणे आवश्यक नाही. एक अधिक संभाव्य परिस्थिती अशी आहे की ती कोणत्याही प्रकारे आपली फारशी काळजी करत नाही, परंतु दुसरे काही ध्येय साध्य करण्याच्या प्रयत्नात … आपल्याला पुसून टाकते.” उदाहरणार्थ: अभियंते AI ला हवामान संकटाचे निराकरण करण्यास सांगतात आणि ते लक्ष्य साध्य करण्यासाठी सर्वात लहान मार्ग घेते, जे मानवतेचे उच्चाटन करते. पासून ओपनएआय मुख्यत्वे फायद्यासाठी एक संस्था बनली, तथापि, ऑल्टमनने या अटींमध्ये बोलणे बंद केले आहे आणि आता युटोपियाला पोर्टल म्हणून तंत्रज्ञान विकले आहे, ज्यामध्ये “आम्ही सर्व चांगल्या गोष्टी मिळवू. आम्ही एकमेकांसाठी अधिक-अद्भुत गोष्टी तयार करू.”

हे आपल्या सर्वांना एक समस्या सोडते. एआय निरीक्षणाला महत्त्वाच्या निवडणुकीचा मुद्दा म्हणून प्राधान्य देण्याच्या स्थितीत असलेल्या मतदारांसाठी, वैयक्तिक एआयचा वापर आणि सरकार, लष्करी राजवट किंवा बदमाश कलाकार त्याचा वापर करू शकतील यामधील अंतर इतके विशाल आहे की आपल्यासमोर सर्वात मोठा धोका कल्पनेच्या अपयशामुळे आहे. मी ChatGPT मध्ये कायमस्वरूपी अंडरक्लासमध्ये प्रवेश करण्याबद्दलची माझी चिंता टाईप करतो, ज्याला ते उत्तर देते: “हा एक जड प्रश्न आहे, आणि असे दिसते की तुम्ही तुमच्या दीर्घकालीन संभाव्यतेबद्दल चिंतित आहात. समाजशास्त्रात ‘कायमस्वरूपी अंडरक्लास’ ची कल्पना बोलली जाते, परंतु वास्तविक जीवनात, लोकांचे मार्ग त्या शब्दापेक्षा अधिक प्रवाही असतात.”

खूप गोड, खरोखर, पूर्णपणे बुद्धीहीन आणि – येथे धोका लपलेला आहे – वरवर पूर्णपणे धोक्याशिवाय.