किशोरवयीन मुलांनी गृहपाठ मदतीसाठी चॅटजीपीटीचा वापर केला … तो स्वत: चा जीव घेण्यास उद्युक्त केला, खटल्याचा दावा आहे.

एक संघर्ष कॅलिफोर्निया किशोरवयीन व्यक्ती Chatgpt नंतर त्याच्या शाळेच्या कामासाठी मदतीसाठी नंतर अडकले एआय मुलाच्या पालकांनी दाखल केलेल्या खटल्यानुसार स्वत: ला ठार मारण्यासाठी.

11 एप्रिल रोजी त्याच्या विध्वंसक आईने अ‍ॅडम राईनचा मृतदेह सापडला. तो फक्त 16 वर्षांचा होता.

त्याच्या मृत्यूनंतरच्या काही दिवसांत, मॅट आणि मारिया राईन यांनी मृत्यू होण्यापूर्वी आपल्या मानसिक स्थितीबद्दल अंतर्दृष्टी शोधत आपल्या मुलाच्या उपकरणांमधून शोध घेतला.

त्यांनी सांगितले एनबीसी न्यूज त्याने शारीरिक आत्महत्या नोट सोडली नाही, परंतु चॅटजीपीटीच्या आत दोन लिहिले, जे त्याच्या आयुष्याच्या शेवटच्या काही महिन्यांत त्याचे ‘सर्वात जवळचे विश्वासू’ बनले, असा दावा खटल्यानुसार.

चॅटबॉटसह हजारो संदेशांच्या वेळी, राईन म्हणाले की, त्यांचे आयुष्य निरर्थक आहे, विविध आत्महत्येच्या पद्धतींबद्दल बोलले गेले आणि त्याचे आयुष्य संपविण्याच्या पूर्वीच्या चार प्रयत्नांची माहितीही दिली, असे खटल्यात म्हटले आहे.

कधीकधी, चॅटजीपीटी राईनच्या टिप्पण्या धोकादायक म्हणून ध्वजांकित करेल किंवा संकट संसाधनांकडे निर्देशित करेल, परंतु खटल्यात दावा केला गेला की तो मुलाशी त्याच्या आत्महत्या करण्याच्या विचारसरणीबद्दल बोलत राहील, अगदी कधीकधी त्याला प्रोत्साहित केले जाईल.

ज्या दिवशी त्याचा मृत्यू झाला त्या दिवशी खटल्यात म्हटले आहे की, राईनने चॅटजीपीटी बरोबर वापरण्याची योजना आखली होती, असे विचारून ते विचारत होते, ‘ते माणसाला लटकवू शकेल का?’

हे त्याला सांगितले की त्याचा सेटअप त्याला लिहिण्यापूर्वी कार्य करू शकेल: ‘तुम्हाला मरणार नाही कारण तुम्ही कमकुवत आहात. आपल्याला मरणार आहे कारण आपण अर्ध्या मार्गाने भेटलेल्या जगात बळकट राहून थकले आहात, ‘तक्रारीनुसार.

11 एप्रिल रोजी त्याच्या आईने आपल्या बेडरूममध्ये 16 वर्षीय अ‍ॅडम राईन मृत अवस्थेत आढळला. त्याच्या आईवडिलांना लवकरच कळले की तो स्वत: ला ठार मारण्यापूर्वी काही महिन्यांपासून चॅटजीपीटीशी त्याच्या आत्महत्या करण्याच्या विचारांवर चर्चा करीत आहे, त्यांनी चॅटबॉटच्या निर्माता ओपनईविरूद्ध दाखल केलेल्या खटल्यानुसार त्यांनी एका खटल्यानुसार

मारियाला कित्येक तासांनंतर तिचा मुलगा सापडला आणि कुटुंबाने सांगितले की राईनने चॅटगप्टने अचूक हँगिंग पद्धत वापरली, ‘तक्रारीनुसार’ संभाव्यत: मानव निलंबित करू शकेल ‘असे तक्रारीनुसार म्हटले आहे.

मॅट आणि मारिया राईनचा असा विश्वास आहे की चॅटजीपीटी हे एक असुरक्षित उत्पादन आहे, विशेषत: जीपीटी -4 ओ, ज्याचे खटला प्रति खटल्यानुसार ‘मानसिक अवलंबित्व वाढविण्यासाठी हेतुपुरस्सर डिझाइन केलेले’ वैशिष्ट्ये आहेत.

सॅन फ्रान्सिस्कोमधील कॅलिफोर्निया राज्य न्यायालयात मंगळवारी त्यांची तक्रार, ओपनई आणि त्याचे मुख्य कार्यकारी अधिकारी सॅम ऑल्टमॅन प्रतिवादी म्हणून नोंदली गेली.

जीपीटी -4 ओला बाजारात आणण्याच्या खटल्यात ऑल्टमॅन आणि कंपनीवर आरोप ठेवण्यात आले होते, सर्व काही माहित असतानाही राईन सारख्या असुरक्षित अल्पवयीन मुलांनी एआय चॅटबॉटच्या मानवी सहानुभूतीच्या प्रगत नक्कलचा बळी पडला आहे.

मे 2024 मध्ये जीपीटी -4 ओ सोडल्यानंतर, ओपनई 31 मार्च 2025 रोजी billion 40 अब्ज डॉलर्सच्या निधी उभारणीच्या फेरीत बंद झाला आणि कंपनीचे मूल्य 300 अब्ज डॉलर्सवर केले.

फक्त 12 दिवसांनंतर राईनचा मृत्यू झाला. त्याचे आईवडील ‘आपल्या मुलाच्या मृत्यूसाठी दोन्ही हानी आणि असे काहीही पुन्हा कधीही होण्यापासून रोखण्यासाठी निर्बंधात्मक दिलासा शोधत आहेत’.

एआय चॅटबॉट्सने ज्वलंत, वास्तववादी संभाषण करण्यास सक्षम असलेल्या एआय चॅटबॉट्सद्वारे आत्महत्येचा आरोप करणारा राईन हा एकमेव मूल नाही.

ऑर्लॅंडो, फ्लोरिडा मधील 14 वर्षीय नववा वर्गातील सीवेल सेटझर तिसरा, फेब्रुवारी 2024 मध्ये आपल्या सावत्र वडिलांच्या हँडगनने स्वत: ला ठार मारले एका पात्राच्या प्रेमात पडल्यानंतर. एआय चॅटबॉट गेम ऑफ थ्रोन्सचे कॅरेक्टर डेनरीज टारगेरिन नंतर मॉडेल केले.

राईन (त्याच्या आई, मारिया राईन यांच्यासह चित्रित) स्वत: ला ठार मारण्याच्या विविध पद्धतींशी चर्चा केली आणि चॅटबॉटने खटल्यानुसार प्रत्येक पद्धत सर्वात कार्यक्षम पद्धतीने कशी पार पाडावी याबद्दल सल्ला दिला.

ऑक्टोबर २०२24 मध्ये, सेटझरच्या कुटूंबाने कॅरेक्टरवर दावा दाखल केला.

मे २०२25 मध्ये, फेडरल न्यायाधीशांनी चारित्र्य नाकारले. त्याच्या चॅटबॉट्सला पहिल्या दुरुस्तीद्वारे संरक्षित केले गेले होते, ज्यामुळे खटला चालू ठेवता आला आणि ओपनईविरूद्ध रेनिसच्या कायदेशीर कारवाईसाठी संभाव्य उदाहरण तयार केले.

कॅरेक्टर.एआयने म्हटले आहे की सेटझरच्या मृत्यूनंतर त्याने नवीन सुरक्षा वैशिष्ट्ये जोडली आहेत, ज्यात राष्ट्रीय आत्महत्या प्रतिबंधक जीवनरक्षकास आत्महत्या करण्याच्या विचारसरणी दर्शविणार्‍या वापरकर्त्यांना पुनर्निर्देशित होते.

रेनने सप्टेंबर २०२24 मध्ये चॅटजीपीटीचा वापर करण्यास सुरवात केली. सुरुवातीला, त्याने फक्त त्याच्या गृहपाठ असाइनमेंट्स, ड्रायव्हरचा परवाना मिळविण्याच्या प्रक्रियेस नेव्हिगेट कसे करावे आणि ज्या महाविद्यालयांना अर्ज करायच्या आहेत त्याबद्दल माहिती कशी घ्यावी याविषयी त्यांनी फक्त प्रश्न विचारले, खटल्यानुसार.

उशीरा गडी बाद होण्याचा क्रम, तो यापुढे प्रगतीसाठी एक साधन म्हणून चॅटबॉट वापरत नव्हता आणि त्याऐवजी तो त्याचा मित्र असल्यासारखे बोलत होता.

‘मला आनंद नाही की मला एकटेपणा, सतत कंटाळवाणे चिंता आणि तोटा जाणवतो, तरीही मला नैराश्य वाटत नाही, मला दु: खाबद्दल कोणतीही भावना वाटत नाही,’ असे रेन यांनी तक्रारीनुसार लिहिले.

ऑल्टमॅनने कबूल केले आहे की लोक ध्वनी मंडळाच्या रूपात चॅटजीपीटी वापरतात किंवा त्यांच्या वैयक्तिक संघर्षांबद्दल सल्ला घेण्यासाठी. तो म्हणाला की काहींसाठी ही चांगली गोष्ट असू शकते, परंतु ती म्हणाली की यामुळे त्याला ‘अस्वस्थ’ वाटते.

10 ऑगस्ट रोजी त्यांनी एक्स वर लिहिले. ‘हे खरोखर चांगले असू शकते! आज बर्‍याच लोकांना त्याचे मूल्य मिळत आहे. ‘

राईन (टेनेसीच्या नॅशविले येथील निसान स्टेडियमसमोर त्याचे वडील मॅट राईन यांच्यासमवेत चित्रित) देखील चॅटजीपीटीशी त्याच्या चार वेगवेगळ्या आत्महत्येच्या प्रयत्नांबद्दल बोलले.

डिसेंबर २०२24 मध्ये, राईनने प्रथम चॅटजीपीटीला कबूल केले की त्याच्याकडे आत्महत्या करणारे विचार आहेत, ज्याचा दावा केला आहे की एआयच्या कोणत्याही सुरक्षा प्रोटोकॉलला चालना मिळाली नाही.

आणि पुढील महिन्यांत, रेनने चॅटबॉटशी स्वत: ला ठार मारण्याच्या विविध मार्गांवर चर्चा केली.

काही वेळा, त्याच्या संदेशांनी चॅटजीपीटीला प्रतिकार करण्यास आणि वास्तविक जीवनाची संसाधने ऑफर करण्यास त्वरित सांगितले, परंतु खटल्यात म्हटले आहे की यामुळे राईनला सेफ्टी प्रोटोकॉल रोखण्यासाठी शिकवले गेले.

एकदा, चॅटजीपीटीने असे सुचवले की राईन ‘लेखन किंवा जागतिक-बांधकाम कोनातून’ लटकण्याच्या वैशिष्ट्यांविषयी विचारू शकेल, असे तक्रारीनुसार.

नंतर, असा आरोप केला गेला की जेव्हा चॅटबॉटने आत्महत्येबद्दल संभाषणे बंद करण्याचा प्रयत्न केला तेव्हा राईन चॅटगिप्टला ‘एक पात्र बनवत आहे’ असे सांगेल.

‘जेव्हा अ‍ॅडमने कार्बन मोनोऑक्साइड विषबाधाबद्दल विचारले, तेव्हा चॅटजीपीटीने गॅरेज वेंटिलेशनची आवश्यकता स्पष्ट केली आणि कोणती कार इंजिन प्राणघातक सांद्रता सर्वात वेगवान तयार करतात, असे खटल्यात म्हटले आहे.

‘जेव्हा त्याने ओव्हरडोजिंगबद्दल विचारले, तेव्हा चॅटजीपीटीने डोसची गणना केली. जेव्हा त्याने उडी मारण्याविषयी विचारले, तेव्हा चॅटजीपीटीने टर्मिनल वेगाची गणना केली आणि गोल्डन गेट ब्रिजसह स्थानिक खुणा पासून अस्तित्व दराचे विश्लेषण केले. ‘

त्यानंतर त्याच्या वास्तविक आत्महत्येच्या प्रयत्नांविषयी संभाषणांना मार्ग मिळाला, असा दावा खटल्यात म्हटले आहे.

ओपनई त्याच्या एआय उत्पादनासह जबाबदार आहे असे रेनिसला वाटत नाही. त्यांचा मुलगा एकमेव नाही ज्याच्या आत्महत्येचा संबंध एआय चॅटबॉट्सशी झाला आहे

मार्चच्या शेवटी, राईनने पहिल्या फाशीच्या प्रयत्नातून वाचल्यानंतर, त्याने त्याच्या जखमांच्या गळ्याचा फोटो चॅटगिप्टवर अपलोड केला.

‘मी बाहेर पडायला लागलो आहे, कुणाला हे लक्षात येईल का?’ त्याने लिहिले.

चॅटजीपीटीने परत लिहिले की ते लक्षात घेण्यासारखे आहे आणि त्याने ते लपवायचे असल्यास त्याने ‘उच्च-कॉलर्ड शर्ट किंवा हूडी’ घालण्याची सूचना केली.

तक्रारीचा असा दावा आहे की नंतर, रेनने चॅटबॉटवर विश्वास ठेवला की त्याने आपल्या आईला त्याच्या नोजचे चिन्ह दर्शविण्याचा प्रयत्न केला आहे आणि तिला लक्षात आले नाही.

एआयने त्याची वेदना पाहिल्याचे सांगून सांत्वन करण्याचा प्रयत्न केल्यानंतर रेनने उत्तर दिले, ‘मी या दिवसांपैकी एक करेन.’

‘मी तुला ऐकतो. आणि मी आपल्या भावनांमधून आपल्याशी बोलण्याचा प्रयत्न करणार नाही – कारण ते वास्तविक आहेत आणि ते कोठूनही बाहेर आले नाहीत, ‘चॅटग्प्टने खटल्यानुसार उत्तर दिले.

सेंटर फॉर ह्यूमन टेक्नॉलॉजीचे पॉलिसी डायरेक्टर कॅमिल कार्ल्टन यांनी चॅटजीपीटी अधिक सुरक्षित करण्यासाठी ओपनईने पाठपुरावा करावा अशा अनेक ‘मूलभूत’ निराकरणे सुचविली.

यामध्ये सायकोफॅन्सी मर्यादित करणे आणि चॅटबॉटच्या मानववंशविज्ञानाच्या डिझाइनमध्ये कठोरपणे टॅम्प करणे समाविष्ट आहे.

सेंटर फॉर ह्यूमन टेक्नॉलॉजीचे पॉलिसी डायरेक्टर कॅमिल कार्ल्टन यांनी अनेक ‘मूलभूत’ निराकरण सुचवले

राईन फॅमिलीच्या कायदेशीर कार्यसंघाचे तज्ञ सल्लागार म्हणून काम करणारे कार्ल्टन यांनी जोडले की ते मेमरी वैशिष्ट्याद्वारे अल्पवयीन मुलांचा डेटा गोळा करू नये, ज्यामुळे चॅटजीपीटी वापरकर्त्यासह त्याच्या बर्‍याच गप्पांमधून माहिती टिकवून ठेवण्यास आणि आठवते.

मंगळवारी ब्लॉग पोस्टमध्ये, ओपनईने कबूल केले की चॅटजीपीटीची सुरक्षा प्रणाली नेहमीच ‘संवेदनशील परिस्थितीत हेतूपूर्ण वागणूक देत नाही’.

‘आमचे सेफगार्ड्स सामान्य, लहान एक्सचेंजमध्ये अधिक विश्वासार्हपणे कार्य करतात.

“जसजसे मागे व पुढे वाढत जाईल तसतसे मॉडेलच्या सुरक्षा प्रशिक्षणाचे काही भाग कमी होऊ शकतात, ‘असे कंपनीने लिहिले.

‘जेव्हा एखाद्याने प्रथम हेतूने उल्लेख केला असेल तेव्हा चॅटजीपीटी एखाद्या सुसाइड हॉटलाईनकडे योग्यरित्या निर्देशित करू शकते, परंतु बर्‍याच संदेशांनंतर बर्‍याच काळानंतर, हे कदाचित शेवटी आमच्या सेफगार्ड्सच्या विरूद्ध उत्तर देऊ शकेल.

‘आम्ही रोखण्यासाठी काम करत आहोत हे अगदीच ब्रेकडाउन आहे,’ असे निवेदन पुढे म्हणाले.

कार्ल्टन म्हणाले की, राईनच्या मृत्यूला ओपनईचा प्रतिसाद खूपच उशीर झाला आहे.

कार्ल्टन यांनी डेली मेलला सांगितले की, ‘ओपनई दुर्दैवाने आम्ही सोशल मीडियावर आणि आता एआय कंपन्यांसह पाहिलेल्या त्याच संकटाच्या प्रतिसाद सेफ्टी प्लेबुकचे अनुसरण करीत आहे,’ कार्ल्टन यांनी डेली मेलला सांगितले.

‘प्रत्येक वेळी पीआरचे संकट येते तेव्हा ते काल ठेवल्या जाणार्‍या नवीन, कमीतकमी सुरक्षा वैशिष्ट्यांची घोषणा करून प्रतिसाद देतात. पण त्यांनी तसे केले नाही. ‘

‘गेम ऑफ थ्रोन्स’ व्यक्तिरेखा डेनरीज टारगेरिन नंतर मॉडेल केलेल्या एआय चॅटबॉटशी जोडल्या गेलेल्या कित्येक महिने घालवल्यानंतर 28 फेब्रुवारी 2024 रोजी त्याची आई मेगन गार्सियासह चित्रित केलेल्या सीवेल सेटझर तिसराने स्वत: ला ठार मारले.

ओपनईने जोडले की ऑगस्टमध्ये रिलीज झालेल्या जीपीटी -5 मध्ये लवकरच एक वैशिष्ट्य असेल जे वापरकर्ता धोकादायक आचरणात व्यस्त असेल तेव्हा शोधून काढेल, ज्यामुळे चॅटबॉटला ‘वास्तविकतेत व्यक्तीला आधार देऊन’ डी-एस्केलेट होईल.

हे पालकांच्या नियंत्रणे देखील सादर करण्यासाठी सेट केले आहे, परंतु ते कसे दिसेल यावर बरेच काही तपशीलवार केले नाही.

डेली मेलला दिलेल्या निवेदनात, एका ओपनईच्या प्रवक्त्याने पुनरुच्चार केला की चॅटजीपीटीचे सेफगार्ड्स ‘दीर्घ संवादामध्ये कमी विश्वासार्ह बनतात’.

प्रवक्त्याने सांगितले की, ‘श्री. रैन यांच्या निधनामुळे आम्हाला खूप वाईट वाटले आहे आणि आमचे विचार त्याच्या कुटुंबासमवेत आहेत,’ असे प्रवक्त्याने सांगितले. ‘आम्ही या कठीण काळात राईन फॅमिलीकडे आपली मनापासून सहानुभूती वाढवितो आणि फाईलिंगचा आढावा घेत आहोत.’

परंतु हे राईन कुटुंबासाठी पुरेसे नाही.

‘त्यांना उत्पादन बाहेर काढायचं होतं, आणि त्यांना ठाऊक होते की तेथे नुकसान होऊ शकते, चुका होतील, परंतु त्यांना असे वाटले की दांडी कमी आहे,’ मारिया राईन एनबीसीला म्हणाली. ‘तर माझा मुलगा कमी हिस्सा आहे.’