‘आतापर्यंतचा सर्वात मोठा निर्णय’: AI ला स्वतःला प्रशिक्षित करण्याची परवानगी देण्यावर जेरेड कॅप्लान | तंत्रज्ञान
2030 पर्यंत मानवतेला हे ठरवावे लागेल की कृत्रिम बुद्धिमत्ता प्रणालींना स्वतःला अधिक शक्तिशाली होण्यासाठी प्रशिक्षित करण्याची “अंतिम जोखीम” घ्यायची की नाही, असे जगातील आघाडीच्या AI शास्त्रज्ञांनी म्हटले आहे.
$180bn (£135bn) यूएस स्टार्टअप अँथ्रोपिकचे मुख्य शास्त्रज्ञ आणि सह-मालक, जेरेड कॅप्लन म्हणाले की विकसित होण्यासाठी सिस्टमला किती स्वायत्तता द्यायची याविषयी एक निवड सुरू आहे.
या हालचालीमुळे एक फायदेशीर “बुद्धिमत्ता स्फोट” होऊ शकतो – किंवा जेव्हा मानवांचे नियंत्रण गमावले जाते.
आर्टिफिशियल जनरल इंटेलिजन्स (AGI) पर्यंत पोहोचण्याच्या तीव्र स्पर्धात्मक शर्यतीबद्दल एका मुलाखतीत – ज्याला काहीवेळा सुपरइंटिलिजन्स म्हटले जाते – कॅप्लानने आंतरराष्ट्रीय सरकारांना आणि समाजाला “सर्वात मोठा निर्णय” म्हणण्यात गुंतण्याचे आवाहन केले.
एन्थ्रोपिक हे OpenAI, Google DeepMind, xAI, Meta आणि DeepSeek च्या नेतृत्वाखालील चीनी प्रतिस्पर्ध्यांसह, AI वर्चस्वासाठी शर्यत असलेल्या फ्रंटियर AI कंपन्यांच्या पॅकचा एक भाग आहे. त्याचा मोठ्या प्रमाणावर वापरला जाणारा AI सहाय्यक, Claude, विशेषतः व्यावसायिक ग्राहकांमध्ये लोकप्रिय झाला आहे.
कॅप्लान म्हणाले की, मानवी हितसंबंधांनुसार वेगाने प्रगत तंत्रज्ञानाचे संरेखन करण्याचे प्रयत्न आजपर्यंत यशस्वी झाले आहेत, परंतु ते वारंवार स्वत: ची सुधारणा करण्यासाठी मोकळे करणे “काही प्रकारे अंतिम धोका आहे, कारण ते AI ला जाऊ देण्यासारखे आहे”. 2027 ते 2030 दरम्यान निर्णय येऊ शकतो, असे ते म्हणाले.
“जर तुमची कल्पना असेल की तुम्ही ही प्रक्रिया तयार करत असाल जिथे तुमच्या पेक्षा हुशार एआय आहे, किंवा तुमच्यासारखे स्मार्ट आहे, [then] एआय बनवणे जे जास्त स्मार्ट आहे.”
“हे एक प्रकारची भितीदायक प्रक्रिया वाटते. तुमचा शेवट कुठे होतो हे तुम्हाला माहीत नाही.”
कॅप्लन हे सैद्धांतिक भौतिकशास्त्रज्ञ शास्त्रज्ञ ते AI अब्जाधीश म्हणून सात वर्षांत क्षेत्रात काम करत आहेत. एका विस्तृत मुलाखतीत त्यांनी असेही म्हटले:
-
एआय सिस्टीम दोन ते तीन वर्षांत “सर्वात जास्त व्हाईट-कॉलर वर्क” करण्यास सक्षम असतील.
-
निबंध लिहिणे किंवा गणिताची परीक्षा देणे यासारख्या शैक्षणिक कामात त्याचा सहा वर्षांचा मुलगा एआयपेक्षा कधीही चांगला असू शकत नाही.
-
जर एआयने स्वत:ला सुधारायला सुरुवात केली तर तंत्रज्ञानावरील नियंत्रण गमावून बसण्याची काळजी करणे योग्य आहे.
-
AGI च्या शर्यतीतील दावे “धरावदायक” वाटतात.
-
सर्वोत्कृष्ट परिस्थितीमुळे AI ला बायोमेडिकल संशोधनाला गती मिळू शकते, आरोग्य आणि सायबर सुरक्षा सुधारते, उत्पादकता वाढते, लोकांना अधिक मोकळा वेळ मिळतो आणि मानवांना भरभराट होण्यास मदत होते.
कॅप्लानने सॅन फ्रान्सिस्को येथील अँथ्रोपिकच्या मुख्यालयात गार्डियनची भेट घेतली, जिथे विणलेल्या रग्ज आणि उत्स्फूर्त जाझ संगीताचा आतील भाग विकसित होत असलेल्या तंत्रज्ञानाविषयीच्या अस्तित्वाच्या चिंतांवर विश्वास ठेवतो.
कॅप्लन हे स्टॅनफोर्ड-आणि हार्वर्ड-शिक्षित भौतिकशास्त्राचे प्राध्यापक आहेत ज्यांनी 2019 मध्ये OpenAI मध्ये सामील होण्यापूर्वी आणि 2021 मध्ये Anthropic सह-संस्थापक होण्यापूर्वी जॉन्स हॉपकिन्स विद्यापीठ आणि स्वित्झर्लंडमधील सर्न येथे संशोधन केले.
चिंता व्यक्त करण्यात तो अँथ्रोपिकमध्ये एकटा नाही. त्याच्या सह-संस्थापकांपैकी एक जॅक क्लार्क यांनी ऑक्टोबरमध्ये सांगितले आशावादी आणि “खूप घाबरलेले” दोन्ही एआयच्या प्रक्षेपणाबद्दल, ज्याला त्याने “एक साधे आणि अंदाज लावणारे मशीन नव्हे तर एक वास्तविक आणि रहस्यमय प्राणी” म्हटले.
कॅप्लान म्हणाले की ते मानवतेच्या हितसंबंधांसह AI प्रणालींच्या संरेखनाबद्दल मानवी बुद्धिमत्तेच्या पातळीपर्यंत खूप आशावादी आहेत, परंतु ते उंबरठा ओलांडल्यास आणि केव्हा होणाऱ्या परिणामांबद्दल चिंतित होते.
तो म्हणाला: “जर तुमची कल्पना असेल की तुम्ही ही प्रक्रिया तयार करत असाल जिथे तुमच्या पेक्षा हुशार एआय आहे किंवा तुमच्याइतकेच स्मार्ट आहे, [then] एआय बनवणे जे जास्त स्मार्ट आहे. एआयला त्यापेक्षा अधिक स्मार्ट बनवण्यासाठी AI मदत करणार आहे. ही एक प्रकारची भितीदायक प्रक्रिया वाटते. तुझा शेवट कुठे होतो हे तुला माहीत नाही.”
अर्थव्यवस्थेत एआय तैनात केल्याने झालेल्या नफ्यावर शंका व्यक्त केली जात आहे. अँथ्रोपिकच्या मुख्यालयाच्या बाहेर, दुसऱ्या टेक कंपनीच्या बिलबोर्डने “सर्व ते एआय आणि कोणतेही ROI नाही?”, गुंतवणुकीवर परतावा देणारा संदर्भ विचारला. सप्टेंबरमध्ये हार्वर्ड बिझनेस रिव्ह्यू अभ्यासात असे म्हटले आहे “कार्यशाळा” AI – निकृष्ट AI सक्षम-काम जे मानवांना निश्चित करायचे आहे – उत्पादकता कमी करत होते.
संगणक कोड लिहिण्यासाठी AIs वापरून काही स्पष्ट नफा मिळाले आहेत. सप्टेंबरमध्ये, अँथ्रोपिकने त्याचे अत्याधुनिक AI, क्लॉड सॉनेट 4.5, संगणक कोडिंगचे मॉडेल उघड केले जे AI एजंट तयार करू शकते आणि संगणक स्वायत्तपणे वापरू शकते.
30 तास अखंडित जटिल मल्टीस्टेप कोडिंग टास्कवर लक्ष केंद्रित केले आणि कॅप्लानने सांगितले की काही प्रकरणांमध्ये AI वापरल्याने त्याच्या फर्मचे प्रोग्रामर ज्या गतीने काम करू शकत होते ते दुप्पट करत होते.
परंतु नोव्हेंबरमध्ये अँथ्रोपिकने सांगितले की त्याचा विश्वास आहे की चीनी राज्य प्रायोजित गट आहे त्याचे क्लॉड कोड साधन हाताळले – केवळ मानवांना सायबर हल्ला करण्यात मदत करण्यासाठीच नाही तर सुमारे 30 हल्ले स्वतःच अंमलात आणण्यासाठी, त्यापैकी काही यशस्वी झाले. कॅप्लान म्हणाले की AIs ला पुढील AIs ला प्रशिक्षित करण्याची परवानगी देणे हा “अत्यंत उच्च-स्तरीय निर्णय” होता.
“हीच गोष्ट आहे जी आम्ही सर्वात मोठा निर्णय किंवा सर्वात भयावह गोष्ट म्हणून पाहतो… एकदा या प्रक्रियेत कोणीही सामील झाले नाही, तर तुम्हाला खरोखरच कळत नाही. तुम्ही प्रक्रिया सुरू करू शकता आणि म्हणू शकता, ‘अरे, हे खूप चांगले चालले आहे. आम्हाला जे अपेक्षित होते तेच आहे. ते खूप सुरक्षित आहे.’ पण तुम्हाला माहीत नाही – ही एक गतिमान प्रक्रिया आहे. ते कुठे घेऊन जाते?”
ते म्हणाले की जर पुनरावृत्ती होणारी आत्म-सुधारणा, जसे की ही प्रक्रिया कधीकधी ओळखली जाते, अनियंत्रित मार्गाने परवानगी दिली गेली तर दोन जोखीम होती.
“एक म्हणजे तुम्ही त्यावरचे नियंत्रण गमावले आहे का? तुम्हाला AIs काय करत आहेत हे देखील माहित आहे का? मुख्य प्रश्न असा आहे: AIs मानवतेसाठी चांगले आहेत का? ते उपयुक्त आहेत का? ते निरुपद्रवी असतील का? ते लोकांना समजतात का? ते लोकांना त्यांच्या आयुष्यावर आणि जगावर एजन्सी चालू ठेवू देणार आहेत का?”
“मला वाटते की वीज बळकावणे रोखणे, तंत्रज्ञानाचा गैरवापर रोखणे हे देखील खूप महत्वाचे आहे.”
“ते चुकीच्या हातात पडणे खूप धोकादायक वाटते”
दुसरा धोका म्हणजे वैज्ञानिक संशोधन आणि तंत्रज्ञानाच्या विकासात मानवी क्षमतेपेक्षा जास्त स्वयं-शिकवलेल्या AIs च्या परिणामी सुरक्षिततेला.
“ते चुकीच्या हातात पडणे खूप धोकादायक आहे,” तो म्हणाला. “तुम्ही एखाद्या व्यक्तीची कल्पना करू शकता [deciding]: ‘मला हा AI फक्त माझा गुलाम बनवायचा आहे. मला ते माझ्या इच्छेला लागू करायचे आहे.’ मला वाटते की पॉवर बळकावणे रोखणे – तंत्रज्ञानाचा गैरवापर रोखणे – हे देखील खूप महत्वाचे आहे.
चॅटजीपीटीसह फ्रंटियर एआय मॉडेल्समधील स्वतंत्र संशोधन, एआय करू शकणाऱ्या कार्यांची लांबी दर्शवते दर सात महिन्यांनी दुप्पट.
The future of AI
The rivals racing to create super-intelligence. This was put together in
collaboration with the Editorial Design team. Read more from the series.
Words
Nick Hopkins, Rob Booth, Amy Hawkins, Dara Kerr, Dan Milmo
Design and Development
Rich Cousins, Harry Fischer, Pip Lev, Alessia Amitrano
Picture Editors
Fiona Shields, Jim Hedge, Gail Fletcher
कॅप्लान म्हणाले की त्यांना चिंता आहे की प्रगतीचा वेग म्हणजे मानवतेने पुन्हा पुढे जाण्यापूर्वी तंत्रज्ञानाची सवय लावली नाही.
“मला याबद्दल काळजी वाटते … माझ्यासारखे लोक वेडे असू शकतात आणि हे सर्व पठार असू शकते,” तो म्हणाला. “कदाचित सर्वोत्तम एआय हे आत्ता आमच्याकडे असलेले एआय आहे. परंतु आम्हाला असे वाटत नाही. आम्हाला वाटते की ते अधिक चांगले होत जाईल.”
तो पुढे म्हणाला: “हे असे काहीतरी आहे जिथे ते खूप वेगाने फिरत आहे आणि लोकांना ते आत्मसात करण्यासाठी किंवा काय करावे हे शोधण्यासाठी वेळ नसतो.”
एन्थ्रोपिक AGI कडे ढकलण्यासाठी अधिक प्रगत AI प्रणाली विकसित करण्यासाठी OpenAI, Google DeepMind आणि xAI सोबत स्पर्धा करत आहे. कॅप्लानने बे एरियातील वातावरणाचे वर्णन “एआय आणि स्पर्धात्मकतेच्या दृष्टिकोनातून निश्चितपणे खूप तीव्र” असे केले.
“आम्ही त्याबद्दल विचार करतो तो मार्ग [that] गुंतवणूक, महसूल, एआयची क्षमता, कार्ये किती गुंतागुंतीची आहेत या सर्व गोष्टी या घातांकीय ट्रेंडवर आहेत [are that] एआय करू शकते,” तो म्हणाला.
प्रगतीचा वेग म्हणजे रेसर्सपैकी एक वर घसरण्याचा आणि मागे पडण्याचा धोका मोठा आहे. “तुम्ही घातांकावरून पडता या अर्थाने, सीमेवर राहण्यासाठी दावे जास्त आहेत [curve] आणि फार लवकर तुम्ही संसाधनांच्या बाबतीत खूप मागे असाल.”
2030 पर्यंत, डेटासेंटरना जगभरात $6.7tn ची आवश्यकता असेल असा अंदाज आहे मागणीसह गती ठेवा गणना शक्तीसाठी, मॅकिन्सेने अंदाज लावला आहे. गुंतवणुकदारांना पॅकच्या समोरील सर्वात जवळच्या कंपन्यांना पाठिंबा द्यायचा आहे.
त्याच वेळी, एन्थ्रोपिक हे AI च्या नियमनाला प्रोत्साहन देण्यासाठी ओळखले जाते. त्याची उद्देशाचे विधान शीर्षक असलेला विभाग समाविष्ट आहे: “आम्ही सुरक्षित प्रणाली तयार करतो.”
“आम्हाला खरोखर ही स्पुतनिक सारखी परिस्थिती नको आहे जिथे सरकार अचानक जागे होईल आणि ‘अरे, व्वा, एआय ही एक मोठी गोष्ट आहे’ … आम्हाला धोरणकर्त्यांना मार्गावर शक्य तितकी माहिती हवी आहे जेणेकरून ते ते विचारात घेऊ शकतील.”
ऑक्टोबरमध्ये, अँथ्रोपिकच्या स्थितीमुळे डोनाल्ड ट्रम्पच्या व्हाईट हाऊसमधून पुट-डाउन सुरू झाले. डेव्हिड सॅक्स, यूएस अध्यक्षांचे एआय सल्लागार, यांनी अँथ्रोपिकवर राज्य-दर-राज्य नियमनाला प्रोत्साहन देण्यासाठी “भीती निर्माण” केल्याचा आरोप केला ज्यामुळे त्याच्या स्थितीचा फायदा होईल आणि स्टार्टअप्सचे नुकसान होईल.
सॅक्सने स्वतःला ट्रम्प प्रशासनाचा “शत्रू” म्हणून स्थान दिल्याचा दावा केल्यानंतर, कॅप्लानचे सह-संस्थापक आणि अँथ्रोपिकचे मुख्य कार्यकारी डारियो अमोदेई यांनी कंपनीचे जाहीरपणे कौतुक केले आहे असे सांगून प्रत्युत्तर दिले. ट्रम्पची AI कृती योजनारिपब्लिकन सोबत काम केले आणि व्हाईट हाऊस प्रमाणेच ते AI मध्ये यूएसची आघाडी कायम ठेवू इच्छित होते.
Source link
