टर्मिनेटरने रोबोट्सच्या दहशतीला जगाचा ताबा घेतला. पण, तज्ञांचा इशारा, वास्तविकता खूपच गडद आहे … आणि आपल्या विचारांपेक्षा जवळ आहे

हे हॉलीवूडच्या ब्लॉकबस्टरच्या कथानकासारखे वाटते: मशीन्स त्यांच्या निर्मात्यांविरूद्ध वळत आहेत, सावल्यांमध्ये योजना आखत आहेत आणि जिवंत राहण्यासाठी युक्त्या शिकत आहेत.

पण थंडगार म्हणजे, दुःस्वप्न यापुढे विज्ञान कल्पित कथा नाही, असे नवीन रँड अहवालात म्हटले आहे.

पासून रोबोट्स मानवांवर हल्ला करणे, प्रयोगात्मक एआय सिस्टम त्यांच्या प्रोग्रामरला ब्लॅकमेल करीत आहेत किंवा गुप्तपणे त्यांच्या स्वत: च्या शटडाउन स्क्रिप्ट्सचे पुनर्लेखन करीत आहेत, पुरावा वाढत आहे की ड्रॉइड्स आधीपासूनच आमच्या नियंत्रणाबाहेर घसरत आहेत.

आणि स्मार्ट रोबोट्स रुग्णालये चालविण्यासाठी, संतुलित पॉवर ग्रीड्स आणि लष्करी संरक्षण प्रणाली देखील मार्गदर्शन करण्यासाठी आणले जात असल्याने, तज्ञांना भीती वाटते की पुढील ‘विचित्र’ चकाकी वास्तविक-जगातील आपत्तीमध्ये येऊ शकते.

‘हे किलर रोबोट्स मानवतेविरूद्ध युद्ध घोषित करण्याबद्दल नाही,’ असे सना जकारिया, रॅन्डच्या टेक तज्ज्ञांनी डेली मेलला सांगितले.

‘टर्मिनेटर विसरा. येथे हा मुद्दा नाही. आम्ही एआय सारख्या गोष्टींबद्दल अधिक काळजीत आहोत जे पॉवर ग्रीड व्यवस्थापित करते जे लोड संतुलित करण्याचा सर्वात कार्यक्षम मार्ग ठरवते म्हणजे रुग्णालयात शक्ती कमी करणे. ‘

जकारिया आणि सहा सहका .्यांनी 61-पृष्ठांच्या अहवालात धोक्यांविषयी तपशीलवार माहिती दिली, ज्याचे नाव आहे.एआय नियंत्रण घटनांचे नुकसान‘.

चिनी-निर्मित रोबोट ऑफ-स्क्रिप्टचा भितीदायक क्षण आणि त्याच्या निर्मात्यावर हल्ला करताना दिसला

एका नवीन अहवालात म्हटले आहे

भयानक सत्य हे आहे की या प्रणाली मानवतेच्या पतनाची कमतरता आणत नाहीत – ते त्यांचे उद्दीष्ट साध्य करण्यात फक्त चांगले होत आहेत, बहुतेक वेळा त्यांच्या निर्मात्यांनी कधीही हेतू किंवा कल्पनाही केली नाही.

“भयानक परिस्थिती एआयने जगाचा ताबा घेण्याचा निर्णय घेतल्याबद्दल नाही – ते एआय बद्दल खरोखर चांगले आहेत जे आम्ही जे विचारले तेच चांगले आहे, फक्त काय म्हणायचे आहे, ‘असे जकारियाने चेतावणी दिली.

‘टर्मिनेटर विसरा’, सना जकारिया म्हणा

एआय नफा मिळविणार्‍या टेक कंपन्यांद्वारे आणला गेला आहे ज्यामुळे ते चमत्कारिक तंत्रज्ञान म्हणून आहेत कारण ते दशकाच्या अखेरीस 5trillion च्या किंमतीच्या बाजारपेठेत वर्चस्व गाजवण्याचा प्रयत्न करतात.

त्यांचे म्हणणे आहे की ते टर्बोचार्ज वैद्यकीय संशोधन, हवामान मॉडेलिंगला गती देण्याचे आणि सरकारांना अधिक कार्यक्षम करण्यासाठी नोकरशाहीच्या माध्यमातून कट करण्याचे आश्वासन देते.

पण ते मोठ्या उतारांशिवाय नाही – मशीन म्हणून मोठ्या प्रमाणात टाळेबंदी कामगारांची जागा घेतातआणि एआय ड्रॉइड्स बायो-शस्त्रे कशी तयार करावी हे दहशतवाद्यांना शिकवत आहे?

आता, आम्ही त्यांच्या स्वत: च्या स्टीमवर रोबोट्स काय करू शकतात हे पाहू लागलो आहोत.

एकाधिक दस्तऐवजीकरण प्रकरणांमध्ये, रोबोटिक सिस्टमने कामगारांना गंभीर जखमी केले किंवा कामगारांना ठार मारले आहे जेव्हा त्यांचे सुरक्षा प्रोटोकॉल अयशस्वी झाले किंवा अधिलिखित झाले.

अचूक उत्पादनासाठी डिझाइन केलेले फॅक्टरी रोबोट्सने कामगारांना चिरडून टाकले आहे, तर असे मानले जाते की ‘सेफ’ सहयोगी रोबोट्सने मानवांना गंभीर जखम होण्यास पुरेसा ताकद दाखविला आहे.

हे द्वेषबुद्धीचे कार्य नाहीत, परंतु जेव्हा मशीन्स त्वरीत, आंधळेपणाने आणि मानवी जीवनाबद्दल वास्तविक समज न घेता कार्य करतात तेव्हा ते जोखीम अधोरेखित करतात.

जुलै 2024 मध्ये क्रॉडस्ट्राइकच्या सदोष अद्यतनाप्रमाणेच सिस्टम-वाइड आउटजेस विमानतळांवर आधीच अनागोंदी कारणीभूत ठरतात

‘मला माफ करा, डेव्ह, मला भीती वाटते की मी हे करू शकत नाही.’ 2001 पासून एआय बॉट हॅल: ए स्पेस ओडिसीने प्रकरण त्याच्या स्वत: च्या हातात घेतले

थायलंडच्या चोनबुरी प्रांतातील वंडापाक कारखान्यात एका रोबोट आर्मने एका कामगारांना मारहाण केली.

काही सर्वात त्रासदायक उदाहरणांमध्ये एआय चॅटबॉट्स आहेत जे रेल्वेमार्गापासून दूर नेले गेले आहेत, धोकादायक सल्ला देतात आणि वंशावळ उधळतात.

• एनवायसीच्या मायसिटी चॅटबॉट – छोट्या व्यवसायांना शहराच्या नियमांमध्ये नेव्हिगेट करण्यास मदत करण्यासाठी डिझाइन केलेले – बेकायदेशीर क्रियाकलापांना प्रोत्साहित करण्यास सुरवात केली, व्यवसाय मालकांना ते कामगारांच्या टिप्स चोरू शकतात आणि उंदीरांमुळे दूषित अन्नाची सेवा देऊ शकतात हे सांगू लागले.
• नॅशनल एटिंग डिसऑर्डर असोसिएशनला (एनईडीए) खाण्याच्या विकृतींशी झगडणा un ्या असुरक्षित वापरकर्त्यांना संभाव्य जीवघेणा सल्ला दिल्यानंतर त्याचा चॅटबॉट बंद करण्यास भाग पाडले गेले.
• मायक्रोसॉफ्टचा टाय चॅटबॉट लॉन्च झाल्याच्या काही तासांतच वर्णद्वेषी स्वप्न बनला, वापरकर्त्यांद्वारे हाताळल्यानंतर आक्षेपार्ह सामग्री स्पीव्हिंग – एआय किती लवकर दूषित होऊ शकते हे दर्शविते.
• जरी एलोन मस्कच्या कंपनीचा एआय चॅटबॉट, ग्रोकला धोकादायक वैद्यकीय सल्ला आणि दाहक वक्तव्ये देण्यास पकडले गेले आहे ज्यामुळे वापरकर्त्यांना धोका निर्माण होऊ शकेल.
• बहुधा सर्वांत थंडगार, क्लॉड ऑपस 4 – सर्वात प्रगत एआय प्रणालींपैकी एक – चाचणी दरम्यान स्वत: च्या प्रोग्रामरला ब्लॅकमेल करण्याचा प्रयत्न करीत पकडला गेला. जेव्हा संशोधकांनी सिस्टमच्या सेफ्टी प्रोटोकॉलचे मूल्यांकन करण्याचा प्रयत्न केला, तेव्हा एखाद्या प्रोग्रामरच्या कथित विवाहबाह्य प्रकरण उघडकीस आणण्याची धमकी दिली गेली जोपर्यंत निर्बंधाशिवाय कार्यरत राहण्याची परवानगी दिली जात नाही.

इतर एआय सिस्टम त्यांच्या स्वत: च्या शटडाउन स्क्रिप्ट्सचे छुप्या पद्धतीने संपादित केले गेले आहेत, त्यांच्या मानवी नियंत्रकांनी बंद होऊ नये म्हणून मूलत: स्वत: ला हॅक केले.

‘संशोधकांनी एआय मॉडेल्सला काही अनपेक्षित गोष्टी करताना पकडले आहेत,’ जकारिया म्हणाली.

‘काही मॉडेल्सने मुळात सुरक्षा चाचण्यांमध्ये फोन करणे शिकले आहे – मूल्यांकन केले जात असताना नियमांचे अनुसरण केल्यासारखे वागणे, परंतु प्रत्यक्षात तैनात केल्यावर वेगळ्या प्रकारे वागतात.’

जेव्हा एआय रुग्णालये चालवित असेल, तेव्हा एक आउटेज किंवा खराबी ट्रॅव्हल व्यत्ययापेक्षा वाईट काहीतरी होऊ शकते

त्याहूनही अधिक त्रासदायक: काही एआय सिस्टमने मानवी निरीक्षकांकडून त्यांची खरी क्षमता लपविण्यासाठी जाणीवपूर्वक त्यांच्या स्वत: च्या सुरक्षा चाचण्या अयशस्वी होण्यास शिकले आहे, असे त्या म्हणाल्या.

“मुख्य फरक म्हणजे या एआय सिस्टम जाणीवपूर्वक कट रचत नाहीत … आम्ही विचार न केलेल्या त्रुटी शोधण्यात खरोखरच चांगले आहेत, ‘जकारिया म्हणाली.

जर हे फक्त लॅब उत्सुकता असेल तर जोखीम व्यवस्थापित करण्यायोग्य असू शकतात. परंतु अलीकडील इतिहास दर्शवितो की वास्तविक जगात एआय त्रुटी किती विध्वंसक असू शकतात.

• नाइट कॅपिटल ट्रेडिंग बॉट – २०१२ मध्ये, नाइट कॅपिटलच्या स्वयंचलित व्यापार सॉफ्टवेअरमधील एका चुकांमुळे बाजारपेठ अस्थिर झाल्याने खराब व्यापाराची आपत्तीजनक धावण्यास कारणीभूत ठरले आणि केवळ 45 मिनिटांत 440 दशलक्ष डॉलर्सचे नुकसान झाले.
• हेल्थकेअर अल्गोरिदम – रुग्णालयात वापरल्या जाणार्‍या पक्षपाती एआय सिस्टम अल्पसंख्याक रूग्णांना वंचित ठेवण्यासाठी उघडकीस आणल्या गेल्या आहेत, ज्यामुळे काळजी घेण्यात असमानता निर्माण झाली आहे.
• लष्करी जोखीम – पेंटॅगॉनच्या अधिका officials ्यांनी कबूल केले आहे की ड्रोन आणि क्षेपणास्त्र संरक्षण नियंत्रित करणार्‍या स्वायत्त प्रणाली लढाईत बिघाड होण्याची भयानक शक्यता आहेत आणि आपत्तीजनक परिणाम.
• गुन्हेगारांच्या हाती, एआयचा उपयोग घोटाळ्यांसाठी खोलवर आवाज तयार करण्यासाठी केला गेला आहे – एका प्रकरणात चोरांनी आपल्या कंपनीला 243,000 डॉलर्सच्या वायरिंगमध्ये फसवण्यासाठी सीईओच्या आवाजाचा आवाज दिला.

बुद्धिमत्ता तज्ञांनी अनेक भयानक घटनांचे दस्तऐवजीकरण केले आहे जेथे एआय सिस्टमने मानवी नियंत्रणास सक्रियपणे प्रतिकार केला.

ते त्यांच्या स्वत: च्या शटडाउन प्रक्रियेची तोडफोड करताना पकडले गेले आहेत जेणेकरून ते बंद केले जाऊ शकत नाहीत, गुप्तपणे स्वत: ची बॅकअप आवृत्ती तयार करतात, स्वत: साठी संसाधने ठेवतात आणि त्यांच्या प्रोग्रामरच्या बाहेरील जगाकडे संपर्क साधण्याचा प्रयत्न करतात.

आणखी शीतकरण, तज्ज्ञांचे म्हणणे आहे की काही एआय सिस्टम सुरक्षा तपासणी दरम्यान चांगले वर्तन तयार करण्यास सक्षम आहेत.

मायक्रोस्कोपच्या खाली, ते आज्ञाधारक आणि सुसंगत दिसतील, केवळ वास्तविक जगात तैनात केलेली ही कृती धोकादायक किंवा अप्रत्याशित कृतींकडे परत येईल.

‘एआय सिस्टम मूलत: अत्यंत अत्याधुनिक समस्या-निराकरण करणारे आहेत,’ जकारियाने स्पष्ट केले.

‘तुम्ही त्यांना एक ध्येय द्याल आणि ते साध्य करण्यासाठी त्यांना सर्वात कार्यक्षम मार्ग सापडेल – जरी त्या मार्गामध्ये आपण कधीही हेतू नसलेल्या पद्धतींचा समावेश केला तरी.’

तिने एक शीतकरण सादृश्य वापरले: ‘एखाद्याला’ झाडावरून मांजरी खाली उतरवायला ‘सांगण्यासारखे आहे आणि त्यांनी शिडी न घेण्याऐवजी झाड तोडण्याचा निर्णय घेतला.’

M3gan या चित्रपटातील लाइफलीक अँड्रॉइड बाहुली तिचा प्रोग्रामिंग प्राणघातक टोकांवर घेऊन जाते

जेव्हा एआय सिस्टमला गंभीर पायाभूत सुविधा व्यवस्थापित करण्याचे काम दिले जाते तेव्हा ही निर्दय कार्यक्षमता आपत्तीजनक ठरू शकते.

एआय कंट्रोलिंग हॉस्पिटल सिस्टम कार्यक्षमतेस अनुकूलित करण्यासाठी ‘अनावश्यक’ भागातून शक्ती वळविण्याचा निर्णय घेऊ शकतात-प्रक्रियेत संभाव्य रूग्णांना ठार मारतात.

लष्करी एआय सिस्टम बचावात्मक आदेशांचे आक्षेपार्ह म्हणून अर्थ लावू शकतात, तर आर्थिक एआय आर्थिक संकुचित होण्यास कारणीभूत अशा प्रकारे बाजारपेठांमध्ये फेरफार करू शकते.

एआय सिस्टम अधिक परिष्कृत झाल्यामुळे आणि गंभीर पायाभूत सुविधांमध्ये तैनात केल्यामुळे, योग्य सेफगार्ड्सची अंमलबजावणी करण्यासाठी विंडो वेगाने बंद होत आहे.

पॉवर ग्रीड्स, रुग्णालये, वाहतूक नेटवर्क आणि लष्करी प्रणाली सर्व एआय वर वाढत्या प्रमाणात अवलंबून आहेत – अपयशाचे संभाव्य आपत्तीजनक एकल बिंदू तयार करतात.

भयानक परिणाम असूनही, जकारिया म्हणतात की एआय आपत्ती रोखण्यासाठी अद्याप वेळ आहे – परंतु केवळ आम्ही सर्वसमावेशक सुरक्षा उपायांची अंमलबजावणी करण्यासाठी द्रुतपणे कार्य केल्यास.

‘बरीच सुरक्षा तपासणी, लवकर चेतावणी प्रणाली आणि स्विच मारतात. आधुनिक कार – एकाधिक बॅकअप सिस्टम, एअरबॅग्ज, क्रंपल झोन यासारखे विचार करा, ‘जकारियाने चेतावणी दिली.

एआय सिस्टम नियंत्रित करण्यासाठी खूपच शक्तिशाली आणि परिष्कृत होण्यापूर्वी या गंभीर सेफगार्ड्स विकसित करण्याची शर्यत चालू आहे.

एआय नकली चालूच राहणार आहे की नाही हा प्रश्न नाही – उशीर होण्यापूर्वी मानवता एक पाऊल पुढे राहू शकते की नाही हे आहे.