मानवी-स्तरीय प्रणाली तयार करण्याच्या धोक्यांकरिता एआय कंपन्या ‘तयार नसलेल्या’, रिपोर्ट चेतावणी | कृत्रिम बुद्धिमत्ता (एआय)

कृत्रिम बुद्धिमत्ता कंपन्या मानवी-स्तरीय बौद्धिक कामगिरीसह प्रणाली तयार करण्याच्या परिणामासाठी “मूलभूतपणे तयार नसतात”, असे ए. अग्रगण्य एआय सुरक्षा गट.

लाइफ इन्स्टिट्यूटचे भविष्य (एफएलआय) म्हणाले की त्यावरील कोणत्याही कंपन्या एआय सेफ्टी इंडेक्स “अस्तित्वात्मक सुरक्षा नियोजन” साठी डीपेक्षा जास्त स्कोअर केले.

एफएलआयच्या अहवालाच्या पाच पुनरावलोकनकर्त्यांपैकी एकाने म्हटले आहे की, कृत्रिम जनरल इंटेलिजेंस (एजीआय) विकसित करण्याचे उद्दीष्ट असूनही, कोणत्याही कंपन्यांनी “सुसंगत, कृतीशील योजनेसारखे काहीही केले नाही की ही प्रणाली सुरक्षित आणि नियंत्रित राहिली आहे.

एजीआय एआयच्या विकासाच्या सैद्धांतिक अवस्थेचा संदर्भ देते ज्यावर कोणतीही बौद्धिक कार्य पार पाडण्यासाठी एखाद्या माणसाशी जुळण्यास सक्षम आहे. ओपनई, चॅटजीपीटीचा विकसक आहे, असे म्हटले आहे की एजीआय “सर्व माणुसकीचा फायदा” हे सुनिश्चित करणे हे त्याचे ध्येय आहे. सुरक्षा प्रचारकांनी असा इशारा दिला आहे की एजीआय मानवी नियंत्रणापासून दूर राहून अस्तित्वातील धोका देऊ शकेल आपत्तीजनक कार्यक्रमास चालना देत आहे?

एफएलआयच्या अहवालात म्हटले आहे: “उद्योग स्वतःच्या नमूद केलेल्या उद्दीष्टांसाठी मूलभूतपणे तयार नसतो. कंपन्यांचा असा दावा आहे की ते दशकात कृत्रिम सामान्य बुद्धिमत्ता (एजीआय) साध्य करतील, परंतु अस्तित्वातील सुरक्षा नियोजनात डी वरील कोणीही नाही. ”

इंडेक्स “सध्याच्या हानी” आणि “अस्तित्वात्मक सुरक्षा” यासह सहा क्षेत्रांमध्ये गूगल डीपमिंड, ओपनई, मानववंश, मेटा, झई आणि चीनच्या झिपू एआय आणि दीपसेक या सात एआय विकसकांचे मूल्यांकन करते.

अँथ्रॉपिकला सी+सह सर्वाधिक एकूण सुरक्षितता स्कोअर प्राप्त झाला, त्यानंतर सी आणि सी- सह Google डीपमाइंडसह ओपनएआय.

एफएलआय ही एक यूएस-आधारित नानफा आहे जी अत्याधुनिक तंत्रज्ञानाच्या सुरक्षित वापरासाठी मोहिम करते आणि क्रिप्टो उद्योजकांकडून “बिनशर्त” देणगीमुळे स्वतंत्रपणे ऑपरेट करण्यास सक्षम आहे. व्हिटेलिक बुटरिन?

सेफेराई, आणखी एक सुरक्षा-केंद्रित नानफा, गुरुवारी एक अहवालही जाहीर केला प्रगत एआय कंपन्यांकडे “कमकुवत ते अत्यंत कमकुवत जोखीम व्यवस्थापन पद्धती” असा इशारा देऊन आणि त्यांच्या सध्याच्या दृष्टिकोनाचे “अस्वीकार्य” असे लेबल लावले.

ब्रिटिश संगणक वैज्ञानिक स्टुअर्ट रसेल आणि एआय रेग्युलेशन मोहिमेच्या गट एन्कोड न्यायाचे संस्थापक स्नेहा रेव्हनूर यांच्यासह एआय तज्ञांच्या पॅनेलद्वारे एफएलआय सेफ्टी ग्रेड नियुक्त केले गेले आणि त्यांचे पुनरावलोकन केले गेले.

एफएलआयचे सह-संस्थापक आणि मॅसेच्युसेट्स इन्स्टिट्यूट ऑफ टेक्नॉलॉजीचे प्राध्यापक मॅक्स टेगमार्क म्हणाले की, एआय कंपन्या या घटनेस सामोरे जाण्यासाठी योजना न करता अत्याधुनिक एआय कंपन्या अति-बुद्धिमत्ता प्रणाली तयार करण्याचे लक्ष्य ठेवत होते.

ते म्हणाले: “हे असे आहे की जणू काही कोणी न्यूयॉर्क शहरातील एक विशाल अणु उर्जा प्रकल्प तयार करीत आहे आणि पुढच्या आठवड्यात ते उघडणार आहे – परंतु ते वितळण्यापासून रोखण्याची कोणतीही योजना नाही.”

टेगमार्क म्हणाले की तंत्रज्ञान सुरू आहे आउटप्रेस अपेक्षातज्ञांना एजीआयच्या आव्हानांना सामोरे जाण्यासाठी दशके असतील असा विश्वास असल्याचे सांगून. ते म्हणाले, “आता कंपन्या स्वत: म्हणत आहेत की हे काही वर्ष बाकी आहे.”

ते म्हणाले की एआय क्षमतांमध्ये प्रगती “उल्लेखनीय” होती फेब्रुवारीमध्ये पॅरिसमध्ये ग्लोबल एआय समिटझईच्या ग्रोक 4, गूगलचे मिथुन 2.5, आणि त्याचा व्हिडिओ जनरेटर व्हीईओ 3 सारख्या नवीन मॉडेल्ससह, सर्व त्यांच्या पूर्वजांवर सुधारणा दर्शवित आहेत.

Google दीपमाइंडच्या प्रवक्त्याने सांगितले की अहवाल “सर्व Google Depmind चे सर्व एआय सुरक्षा प्रयत्न” विचारात घेत नाहीत. त्यांनी जोडले: “एआय सुरक्षा आणि सुरक्षिततेकडे आमचा व्यापक दृष्टीकोन काय पकडला गेला आहे त्यापेक्षा चांगला आहे.”

ओपनई, मानववंश, मेटा, झई, झिपू एआय आणि दीपसीक यांच्याकडेही टिप्पणीसाठी संपर्क साधला गेला आहे.