एआय स्वयं-संरक्षणाची चिन्हे दर्शविते आणि मानवांनी प्लग खेचण्यासाठी तयार असले पाहिजे, पायनियर म्हणतो | कृत्रिम बुद्धिमत्ता (AI)

AI च्या प्रवर्तकाने अनुदान देण्याच्या कॉलवर टीका केली आहे तंत्रज्ञान अधिकारचेतावणी दिली की ते स्व-संरक्षणाची चिन्हे दर्शवत आहे आणि आवश्यक असल्यास मानवांनी प्लग खेचण्यासाठी तयार असले पाहिजे.

योशुआ बेन्गिओ म्हणाले की, तंत्रज्ञानातील प्रगती त्यांना रोखण्याच्या क्षमतेपेक्षा जास्त आहे या भीतीने, अत्याधुनिक AIs ला कायदेशीर दर्जा देणे हे शत्रुबाहेरील लोकांना नागरिकत्व देण्यासारखे असेल.

बेंजिओ, चेअर ऑफ ए अग्रगण्य आंतरराष्ट्रीय AI सुरक्षा अभ्यासम्हणाले की चॅटबॉट्स जागरूक होत आहेत ही वाढती समज “वाईट निर्णय घेणार आहे”.

कॅनेडियन संगणक शास्त्रज्ञाने चिंता व्यक्त केली की एआय मॉडेल्स – तंत्रज्ञान जे चॅटबॉट्स सारख्या साधनांना अधोरेखित करते – ते स्व-संरक्षणाची चिन्हे दर्शवित आहेत, जसे की निरीक्षण प्रणाली अक्षम करण्याचा प्रयत्न करत आहे. एआय सुरक्षा प्रचारकांमध्ये मुख्य चिंतेची बाब आहे की शक्तिशाली प्रणाली रेलिंग टाळण्याची आणि मानवांना हानी पोहोचवण्याची क्षमता विकसित करू शकतात.

“एआयना अधिकार आहेत अशी मागणी करणारे लोक ही एक मोठी चूक असेल,” बेंजिओ म्हणाले. “फ्रंटियर एआय मॉडेल्स आज प्रायोगिक सेटिंग्जमध्ये आधीपासूनच स्व-संरक्षणाची चिन्हे दर्शवतात आणि शेवटी त्यांना अधिकार दिल्याचा अर्थ असा होतो की आम्हाला ते बंद करण्याची परवानगी नाही.

“त्यांच्या क्षमता आणि एजन्सीची पदवी जसजशी वाढत जाईल, तसतसे आम्हाला हे सुनिश्चित करणे आवश्यक आहे की आम्ही त्यांना नियंत्रित करण्यासाठी तांत्रिक आणि सामाजिक रेलिंगवर अवलंबून राहू शकतो, आवश्यक असल्यास त्यांना बंद करण्याच्या क्षमतेसह.”

AIs स्वायत्तपणे कार्य करण्याच्या आणि “तर्क” कार्ये करण्याच्या त्यांच्या क्षमतेमध्ये अधिक प्रगत झाल्यामुळे, मानवांनी, त्यांना कधीतरी, अधिकार द्यावेत की नाही यावर वादविवाद वाढला आहे. सेंटिअन्स इन्स्टिट्यूट या अमेरिकन थिंकटँकने केलेले सर्वेक्षण नैतिक अधिकारांचे समर्थन करते सर्व संवेदनशील प्राण्यांपैकी, 10 पैकी चार यूएस प्रौढ आढळले समर्थित कायदेशीर अधिकार संवेदनशील एआय प्रणालीसाठी.

Anthropic, एक अग्रगण्य यूएस AI फर्मने ऑगस्टमध्ये सांगितले की ते क्लॉड ओपस 4 मॉडेलला वापरकर्त्यांशी संभाव्य “दुःखदायक” संभाषणे बंद करू देत आहे, आणि ते AI चे “कल्याण” संरक्षित करण्यासाठी आवश्यक आहे. एलोन मस्क, ज्यांच्या xAI कंपनीने Grok चॅटबॉट विकसित केला आहे, त्यांनी त्याच्या X प्लॅटफॉर्मवर लिहिले की “AI चा छळ करणे ठीक नाही”.

एआय चेतनेवरील संशोधक रॉबर्ट लाँग यांनी म्हटले आहे की, “एआयचा नैतिक दर्जा विकसित होत असेल तर, आम्हाला चांगले माहित आहे असे मानण्याऐवजी आम्ही त्यांना त्यांच्या अनुभवांबद्दल आणि प्राधान्यांबद्दल विचारले पाहिजे”.

बेंजिओने गार्डियनला सांगितले की मानवी मेंदूमध्ये “चेतनेचे वास्तविक वैज्ञानिक गुणधर्म” आहेत ज्याची मशीन, सिद्धांतानुसार, प्रतिकृती बनवू शकतात – परंतु मानव चॅटबॉट्सशी संवाद साधणे ही “वेगळी गोष्ट” होती. ते म्हणाले की हे असे होते कारण लोक असे गृहीत धरू लागले – पुराव्याशिवाय – की एआय पूर्णपणे मनुष्याप्रमाणेच जागरूक आहे.

“एआयमध्ये कोणत्या प्रकारची यंत्रणा चालू आहे याची लोकांना पर्वा नाही,” तो पुढे म्हणाला. “त्यांना कशाची काळजी आहे ते असे वाटते की ते एखाद्या बुद्धिमान घटकाशी बोलत आहेत ज्याचे स्वतःचे व्यक्तिमत्व आणि ध्येये आहेत. म्हणूनच असे बरेच लोक आहेत जे त्यांच्या AI शी संलग्न होत आहेत.

“असे लोक असतील जे नेहमी म्हणतील: ‘तुम्ही मला जे काही सांगाल, मला खात्री आहे की ते जाणीवपूर्वक आहे’ आणि नंतर इतर लोक उलट म्हणतील. याचे कारण म्हणजे चेतना ही अशी एक गोष्ट आहे जिच्याबद्दल आपल्याला तीव्र भावना आहे. चेतनेच्या व्यक्तिनिष्ठ धारणाची घटना वाईट निर्णयांना कारणीभूत ठरते.

“कल्पना करा की काही परदेशी प्रजाती आल्या ग्रहाकडे आणि कधीतरी आपल्या लक्षात येते की त्यांचे आपल्यासाठी वाईट हेतू आहेत. आम्ही करू त्यांना नागरिकत्व आणि अधिकार द्या किंवा आम्ही आमच्या जीवाचे रक्षण करू?

बेंजिओच्या टिप्पण्यांना प्रतिसाद देताना, सेंटिअन्स इन्स्टिट्यूटची सह-संस्थापना करणारे जेसी रीझ अँथिस म्हणाले की जर संबंध नियंत्रण आणि जबरदस्तीने असेल तर मानव डिजिटल मनासह सुरक्षितपणे एकत्र राहू शकणार नाहीत.

अँथिस पुढे म्हणाले: “आम्ही AI ला अति-विशेषता किंवा कमी-विशेषता अधिकार देऊ शकतो आणि सर्व संवेदनशील प्राण्यांच्या कल्याणाचा काळजीपूर्वक विचार करून तसे करणे हे आमचे ध्येय असले पाहिजे. सर्व AI चे अधिकार किंवा कोणत्याही AI चे अधिकार पूर्णपणे नाकारणे हे एक निरोगी दृष्टीकोन असू शकत नाही.”

मॉन्ट्रियल युनिव्हर्सिटीमधील प्राध्यापक बेन्जिओ यांनी 2018 ट्युरिंग पुरस्कार जिंकल्यानंतर “एआयचे गॉडफादर” हे टोपणनाव मिळवले, ज्याला संगणकीय नोबेल पारितोषिकाच्या समतुल्य मानले जाते. त्याने ते जेफ्री हिंटनसोबत शेअर केले, ज्याला नंतर नोबेल मिळालेआणि Yann LeCun, Mark Zuckerberg’s Meta मधील आउटगोइंग चीफ AI शास्त्रज्ञ.