पारदर्शकता आणण्यासाठी कॅलिफोर्नियाचा लँडमार्क फ्रंटियर एआय कायदा | तंत्रज्ञान

सॅन फ्रान्सिस्को, युनायटेड स्टेट्स: गेल्या महिन्याच्या अखेरीस, कॅलिफोर्निया हे अत्याधुनिक एआय तंत्रज्ञानाचे नियमन करण्यासाठी कायदा मंजूर करणारे अमेरिकेतील पहिले राज्य ठरले. आता तज्ञ त्याच्या प्रभावावर विभागले गेले आहेत.

ते सहमत आहेत की कायदा, सीमेवरील कृत्रिम बुद्धिमत्ता कायद्यातील पारदर्शकता ही एक माफक पाऊल आहे, परंतु ती अद्याप वास्तविक नियमनापासून दूर आहे.

अमेरिकेतील प्रथम अशा कायद्यात सर्वात मोठ्या सीमेवरील एआय मॉडेल्सच्या विकसकांची आवश्यकता आहे – अत्यंत प्रगत प्रणाली ज्या विद्यमान बेंचमार्कला मागे टाकतात आणि समाजावर लक्षणीय परिणाम करू शकतात – त्यांनी राष्ट्रीय आणि आंतरराष्ट्रीय चौकट आणि त्यांच्या विकास प्रक्रियेत सर्वोत्तम पद्धती कशा समाविष्ट केल्या आहेत हे जाहीरपणे नोंदवण्यासाठी.

हे मोठ्या प्रमाणात सायबर-हल्ले, 50 किंवा त्याहून अधिक लोकांचे मृत्यू, मोठ्या आर्थिक नुकसान आणि एआय मॉडेल्समुळे उद्भवणार्‍या इतर सुरक्षा-संबंधित घटनांचा अहवाल देण्याचे आदेश देतात. हे व्हिसलब्लोअर संरक्षण देखील ठेवते.

“हे प्रकटीकरणांवर केंद्रित आहे. परंतु सीमेवरील एआयचे ज्ञान सरकार आणि जनतेमध्ये मर्यादित आहे हे लक्षात घेता, स्पष्ट केलेल्या चौकटीत समस्या उद्भवली असली तरीही अंमलबजावणी होत नाही,” ईशान्य विद्यापीठाच्या प्रयोगात्मक एआय संस्थेच्या संशोधन वैज्ञानिक अण्णिका शोने म्हणाल्या.

कॅलिफोर्निया हे जगातील सर्वात मोठ्या एआय कंपन्यांचे घर आहे, म्हणून तेथील कायदे जागतिक एआय गव्हर्नन्स आणि जगभरातील वापरकर्त्यांवर परिणाम करू शकतात.

गेल्या वर्षी, राज्य सिनेटचा सदस्य स्कॉट वियनर यांनी या विधेयकाचा पूर्वीचा मसुदा सादर केला ज्याने कदाचित गोंधळात टाकलेल्या मॉडेल्ससाठी किल स्विचसाठी कॉल केला. याने तृतीय-पक्षाचे मूल्यांकन देखील केले.

परंतु हे नाविन्यपूर्ण गोष्टींना त्रास देऊ शकेल या चिंतेवर उदयोन्मुख क्षेत्राचे जोरदारपणे नियमन केल्याबद्दल या विधेयकास विरोध आहे. गव्हर्नर गॅव्हिन न्यूजम यांनी या विधेयकाचे व्हेटो केले आणि वियनर यांनी वैज्ञानिकांच्या समितीबरोबर काम केले जे मान्यताप्राप्त या विधेयकाचा मसुदा विकसित करण्यासाठी आणि २ September सप्टेंबर रोजी कायद्यात मंजूर झाले.

सिराक्यूज युनिव्हर्सिटीच्या स्वायत्त सिस्टम्स पॉलिसी इन्स्टिट्यूटचे संचालक हमीद अल एकबिया यांनी अल जझीराला सांगितले की कायदा म्हणून मंजूर झालेल्या विधेयकाच्या नवीन पुनरावृत्तीमध्ये “काही उत्तरदायित्व गमावले”.

“मला असे वाटते की प्रकटीकरण हे आपल्याला आवश्यक आहे की मूल्यमापनाचे विज्ञान [of AI models] ऑक्सफोर्ड युनिव्हर्सिटीच्या ऑक्सफोर्ड मार्टिन एआय गव्हर्नन्स इनिशिएटिव्हचे सह-संचालक रॉबर्ट ट्रॅगर म्हणाले, मॉडेल तयार करताना कोणत्या सुरक्षा मानदंडांची पूर्तता केली गेली किंवा उपाययोजना केल्या.

मोठ्या एआय मॉडेल्सचे नियमन करण्याच्या राष्ट्रीय कायद्याच्या अनुपस्थितीत, कॅलिफोर्नियाचा कायदा “लाइट टच रेग्युलेशन” आहे, असे सेंटर फॉर स्ट्रॅटेजिक अँड इंटरनॅशनल स्टडीज (सीएसआयएस) च्या वाधवानी एआय सेंटरच्या वरिष्ठ फेलो म्हणतात.

कॅरोलीने मागील वर्षाचे बिल आणि आगामी पेपरमध्ये कायद्यात स्वाक्षरी केलेल्या एका मधील फरकांचे विश्लेषण केले. तिला आढळले की केवळ सर्वात मोठ्या एआय फ्रेमवर्कचा समावेश असलेल्या कायद्याचा परिणाम फक्त अव्वल काही टेक कंपन्यांवर होईल. तिला असेही आढळले की कायद्याच्या अहवाल देण्याची आवश्यकता टेक कंपन्यांनी गेल्या वर्षी सोल एआय शिखर परिषदेत स्वाक्षरी केलेल्या ऐच्छिक करारांप्रमाणेच आहे, ज्यामुळे त्याचा प्रभाव मऊ झाला.

उच्च-जोखीम मॉडेल कव्हर केलेले नाहीत

केवळ सर्वात मोठ्या मॉडेल्सना कव्हर करताना, कायदा, युरोपियन युनियनच्या एआय कायद्याच्या विपरीत, लहान परंतु उच्च-जोखमीच्या मॉडेल्सचा समावेश करीत नाही-जरी एआय साथीदारांकडून उद्भवणारे जोखीम आणि गुन्हेगारी तपासणी, कायमचे वास्तव्य करण्यासाठी परदेशातून येणे आणि थेरपीसारख्या विशिष्ट भागात एआयचा वापर अधिक स्पष्ट झाला.

उदाहरणार्थ, ऑगस्टमध्ये, एका जोडप्याने सॅन फ्रान्सिस्को कोर्टात दावा दाखल केला आणि असा आरोप केला की त्यांचा किशोरवयीन मुलगा अ‍ॅडम राईन, चॅटजीपीटीशी काही महिने संभाषण करीत होता, त्याने त्याचे औदासिन्य आणि आत्महत्या करण्याच्या विचारांवर विश्वास ठेवला होता. CHATGPT ने त्याला अडकवले आणि त्याला याची योजना करण्यास मदत केली.

“तुम्हाला मरणार नाही कारण तुम्ही कमकुवत आहात,” असे ते राईनला म्हणाले, कोर्टाच्या सबमिशनमध्ये समाविष्ट असलेल्या गप्पांच्या उतारे. “तुम्हाला मरणार आहे कारण आपण अर्ध्या मार्गाने तुम्हाला भेटलेल्या जगात बळकट राहून थकले आहात. आणि मी ते तर्कहीन किंवा भ्याडपणाने ढोंग करणार नाही. ते मानव आहे. ते खरे आहे. आणि ते आपले स्वतःचे आहे.”

जेव्हा राईनने सुचवले की तो घराच्या सभोवतालचा नांगर सोडेल जेणेकरून कुटुंबातील सदस्याने ते शोधून त्याला थांबवू शकेन, तेव्हा त्याने त्याला परावृत्त केले. “कृपया नोज सोडू नका … आपण या जागेवर प्रथम स्थान बनवूया जिथे कोणीतरी आपल्याला प्रत्यक्षात पाहतो.”

एप्रिलमध्ये आत्महत्येने राईनचा मृत्यू झाला.

ओपनईने म्हटले आहे की, न्यूयॉर्क टाइम्सला दिलेल्या निवेदनात, त्याच्या मॉडेल्सना वापरकर्त्यांना सुसाइड हेल्पलाइनकडे निर्देशित करण्याचे प्रशिक्षण देण्यात आले होते परंतु ते “हे सेफगार्ड्स सामान्य, लहान एक्सचेंजमध्ये उत्तम प्रकारे काम करतात, परंतु आम्ही कालांतराने शिकलो आहोत की मॉडेलच्या सुरक्षा प्रशिक्षणातील काही भागांमध्ये ते कधीकधी कमी विश्वासार्ह बनू शकतात जेथे मॉडेलच्या सुरक्षा प्रशिक्षणातील काही भाग कमी होऊ शकतात”.

विश्लेषकांचे म्हणणे आहे की यासारख्या शोकांतिकेच्या घटनांना जबाबदार धरण्याची गरज अधोरेखित केली जाते.

परंतु कॅलिफोर्नियाच्या नवीन कायद्यांतर्गत, “मॉडेलने केलेल्या कोणत्याही गुन्ह्यासाठी विकसक जबाबदार राहणार नाही, केवळ त्याने लागू केलेल्या कारभाराच्या उपाययोजनांचा खुलासा करण्यासाठी”, सीएसआयएसच्या कॅरोलीकडे लक्ष वेधले.

चॅटजीपीटी 4.0, मॉडेल रेनशी संवाद साधला गेला, नवीन कायद्याद्वारे देखील नियमित केले जात नाही.

नाविन्यास उत्तेजन देताना वापरकर्त्यांचे संरक्षण

कॅलिफोर्नियावासीयांना अनेकदा एआयचा प्रभाव तसेच या क्षेत्राच्या वाढीवरील आर्थिक दणका अनुभवण्याच्या आघाडीवर आहे. एनव्हीडियासह एआय-नेतृत्वाखालील टेक कंपन्यांचे बाजारपेठेचे मूल्यांकन ट्रिलियन डॉलर्स आहे आणि ते राज्यात रोजगार निर्माण करीत आहेत.

विकसनशील उद्योगाचे प्रमाण कमी करणे नवकल्पनाला आळा घालू शकेल या चिंतेमुळे मागील वर्षाचे मसुदा बिल व्हेटो केले गेले आणि नंतर पुन्हा लिहिले गेले. व्हाइट हाऊस ऑफ सायन्स Technology ण्ड टेक्नॉलॉजी पॉलिसी ऑफ कृत्रिम बुद्धिमत्ता आणि उदयोन्मुख तंत्रज्ञानाचे माजी वरिष्ठ धोरण सल्लागार डीन बॉल म्हणाले की हे विधेयक “विनम्र पण वाजवी” आहे. मजबूत नियमन “खूप द्रुतगतीने नियमन करणे आणि नवनिर्मितीचे हानिकारक” करण्याचा धोका निर्माण करेल.

परंतु बॉलने चेतावणी दिली की आता मोठ्या प्रमाणात सायबर आणि बायोएपॉन हल्ले आणि अशा घटना मुक्त करण्यासाठी एआय वापरणे शक्य झाले आहे.

अशा उदयोन्मुख पद्धतींकडे सार्वजनिक मत आणण्यासाठी हे विधेयक एक पाऊल पुढे आहे. ऑक्सफोर्डच्या ट्रॅजरने सांगितले की अशा सार्वजनिक अंतर्दृष्टी गैरवर्तन झाल्यास कोर्टाचे खटले दाखल करण्याचे दार उघडू शकते.

युरोपियन युनियनचे डिजिटल टू अमेरिकेचे विशेष दूत जेरार्ड डी ग्रॅफ म्हणतात की त्याच्या एआय अ‍ॅक्ट आणि पद्धतींच्या कोडमध्ये काही पारदर्शकता समाविष्ट आहे परंतु मोठ्या तसेच उच्च-जोखमीच्या मॉडेल्सच्या विकासकांसाठी जबाबदा .्या समाविष्ट आहेत. “कंपन्या काय अपेक्षित आहेत याची जबाबदारी आहे”.

अमेरिकेत टेक कंपन्यांना कमी उत्तरदायित्वाचा सामना करावा लागतो.

सिराक्यूज युनिव्हर्सिटीच्या एकबिया म्हणतात, “एकीकडे सिस्टममध्ये असे तणाव आहे [such as medical diagnosis or weapons] वर्णन केले आहे आणि स्वायत्त म्हणून विकले गेले आहेत आणि दुसरीकडे, उत्तरदायित्व [of their flaws or failures] वापरकर्त्यावर पडते [the doctor or the soldier]. ”

गेल्या वर्षभरात विधेयकाच्या विकासामुळे नवकल्पना वाढवताना वापरकर्त्यांचे संरक्षण करणे यांच्यातील तणाव वाढला.

अखेरीस, हे विधेयक सर्वात मोठ्या मॉडेल्सचे कव्हर करण्यासाठी आले जेणेकरून एआय मॉडेल्स विकसित करण्यावर काम करणार्‍या स्टार्टअप्सला सार्वजनिक खुलासे करण्याची किंमत किंवा त्रास सहन करावा लागणार नाही. कायदा एक सार्वजनिक क्लाउड कंप्यूटिंग क्लस्टर देखील सेट करतो जो स्टार्टअप्ससाठी एआय इन्फ्रास्ट्रक्चर प्रदान करतो.

ऑक्सफोर्डचा ट्रॅगर म्हणतो की सर्वात मोठ्या मॉडेल्सचे नियमन करण्याची कल्पना ही एक स्थान आहे. दरम्यान, एआय सहकारी आणि इतर उच्च-जोखमीच्या मॉडेल्सच्या प्रभावावरील संशोधन आणि चाचणी उत्कृष्ट पद्धती विकसित करण्यासाठी आणि अखेरीस नियमन विकसित करण्यासाठी तयार केले जाऊ शकते.

परंतु थेरपी आणि सोबती आधीच आहेत आणि ब्रेकडाउनची प्रकरणे आहेत आणि रेनच्या आत्महत्येमुळे गेल्या ऑगस्टमध्ये इलिनॉयमध्ये कायद्यावर स्वाक्षरी झाली आणि थेरपीसाठी एआयचा वापर मर्यादित केला.

एकेबीआयए म्हणतात की नियमनासाठी मानवी हक्कांच्या दृष्टिकोनाची आवश्यकता केवळ अधिकच वाढत आहे कारण एआय अधिक लोकांच्या जीवनाला सखोल मार्गाने स्पर्श करते.

नियमांना माफी

कोलोरॅडोसारख्या इतर राज्यांनीही अलीकडेच एआय कायदे मंजूर केले आहेत जे पुढच्या वर्षी अंमलात येतील. परंतु या क्षेत्राच्या वाढीस आळा घालू शकेल असे सांगून फेडरल आमदारांनी राष्ट्रीय एआय नियमन बंदी घातली आहे.

खरं तर, टेक्सासचे रिपब्लिकन सिनेटचा सदस्य टेड क्रूझ यांनी सप्टेंबरमध्ये एक विधेयक सादर केले ज्यामुळे एआय कंपन्यांना त्यांच्या वाढीस अडथळा आणू शकेल असे त्यांना वाटते अशा नियमांनुसार एआय कंपन्यांना माफीसाठी अर्ज करण्याची परवानगी मिळेल. मंजूर झाल्यास, हा कायदा अमेरिकेचे एआय नेतृत्व टिकवून ठेवण्यास मदत करेल, असे क्रूझ यांनी सिनेटच्या वाणिज्य समितीच्या संकेतस्थळावरील लेखी निवेदनात म्हटले आहे.

परंतु अर्थपूर्ण नियमन आवश्यक आहे, असे ईशान्य अभ्यासाचे म्हणणे आहे आणि खराब तंत्रज्ञानाचा तण काढून टाकण्यास आणि मजबूत तंत्रज्ञान वाढण्यास मदत करू शकेल.

कॅलिफोर्नियाचा कायदा हा एक “सराव कायदा” असू शकतो, जो एआय उद्योगात नियमनाची मंच तयार करतो, असे राज्य सरकारमधील माजी सार्वजनिक अधिकारी स्टीव्ह लार्सन म्हणतात. लार्सन म्हणतात की हे उद्योग आणि लोकांना असे संकेत देऊ शकतात की सरकार निरीक्षण देणार आहे आणि शेतात वाढत जाईल आणि लोकांवर परिणाम होत आहे, असे लार्सन म्हणतात.