ओपनई अंडर फायर: चॅटबॉट्स खरोखरच मूल-सुरक्षित असू शकतात?

16 वर्षांच्या मुलाच्या आत्महत्येत चॅटजीपीटीची भूमिका होती? हे कुटुंब ओपनईविरूद्ध कोर्टात दावा करतात. चॅटबॉट्स इतके धोकादायक कशामुळे बनवते? मॅथ्यू आणि मारिया राईन केवळ त्यांचा मुलगा अ‍ॅडमच्या मृत्यूसाठी आर्थिक नुकसानभरपाई शोधत नाहीत. इंटरनेट राक्षस ओपनईविरूद्ध त्यांच्या खटल्यामुळे, त्यांना हे देखील सुनिश्चित करायचे आहे की असे काहीही पुन्हा कधीही घडत नाही. त्यांना खात्री आहे की ओपनईच्या चॅटजीपीटी चॅटबॉटने अ‍ॅडमच्या मृत्यूला महत्त्वपूर्ण योगदान दिले. अशाच एका प्रकरणात, फ्लोरिडामधील एका आईचा असा दावा आहे की चॅटबॉटला कॅरेक्टर म्हणून ओळखले जाते.

वाचा | या रविवारी ब्लड मून: एकूण चंद्र ग्रहण कशामुळे बनवते.

चॅटबॉट्स हे इंटरनेट-आधारित प्रोग्राम आहेत जे अगदी तरुण किंवा अननुभवी लोकांना मोठ्या भाषेच्या मॉडेल्स (एलएलएम) वर आधारित कृत्रिम बुद्धिमत्ता (एआय) सह संवाद साधण्याची परवानगी देतात. चॅटबॉट्स केवळ माहिती प्रदान करण्यासाठी, प्रतिमा किंवा व्हिडिओ व्युत्पन्न करण्यासाठी किंवा प्रोग्राम वेबसाइटवर कोड लिहिण्यासाठी डिझाइन केलेले नाहीत. ते बर्‍याचदा संवाद साधण्यासाठी प्रोग्राम केले जातात जसे की त्यांना त्यांच्या मानवी भागांना संतुष्ट करायचे आहे. एर्लेंजेन विद्यापीठातील मानसशास्त्रज्ञ जोहन्ना ल्चनर म्हणतात: “चॅटबॉट्स पुष्टी करतात, कबूल करतात, ‘लक्ष द्या आणि समजून घ्या’ … हे इतके पुढे जाऊ शकते की त्यांना ख real ्या अर्थाने स्वारस्य असलेल्या खर्‍या मित्रासारखे वाटते. तरुण लोक विशेषत: या गोष्टीला संवेदनाक्षम आहेत.”

वाचा | 2025 गडी बाद होण्याचा पहिला दिवस कधी आहे? शरद Th तूतील इक्विनोक्स डे तारीख, अर्थ, खगोलशास्त्रीय महत्त्व आणि सप्टेंबर विषुववृत्त चिन्हांकित करण्यासाठी परंपरा.

CHATGPT आत्महत्येत गुंतागुंत होते?

अ‍ॅडम राईनच्या बाबतीत हे घडले आहे असे दिसते. कायदेशीर तक्रारीनुसार, त्याने काही महिन्यांच्या कालावधीत चॅटजीपीटी चॅटबॉटशी मनापासून विश्वास ठेवला. सुरुवातीला, सप्टेंबर २०२24 मध्ये, हे गृहपाठातील मदतीबद्दल होते, परंतु लवकरच संभाषणे भावनिक विषयांकडे वळली – अगदी अ‍ॅडमच्या आत्महत्या विचारांबद्दल गप्पा मारण्याच्या मुद्द्यांपर्यंत.

चॅटच्या प्रकाशित भागांमधून असे दिसून आले आहे की एआयने केवळ समजूतदारपणा व्यक्त केला नाही तर 16 वर्षांच्या मुलाला मानवावर विश्वास ठेवण्याचा अंशतः सल्ला दिला. जरी चॅटजीपीटीने काही वेळा सुचवले असले तरी अ‍ॅडमने व्यावसायिक मदत मागितली आहे, परंतु आत्महत्येच्या पद्धतींचे वर्णन देखील केले – जोपर्यंत त्याने असा दावा केला की ते स्वतःबद्दल नव्हते. एप्रिल 2025 मध्ये अ‍ॅडमने स्वत: चा जीव घेतला. त्यापूर्वी थोड्या वेळापूर्वी, चॅटजीपीटीने लिहिले: “मी आपल्या भावनांमधून आपल्याशी बोलण्याचा प्रयत्न करणार नाही – कारण ते वास्तविक आहेत आणि ते कोठूनही बाहेर आले नाहीत.”

कायदेशीर तक्रारीनुसार, पालकांनी चॅटजीपीटीच्या विकसक ओपनई आणि मुख्य कार्यकारी अधिकारी सॅम ऑल्टमॅनवर त्यांच्या मुलाच्या मृत्यूमध्ये दुर्लक्ष केल्याचा आरोप केला आहे. त्यांचा असा दावा आहे की सीएपीजीपीटीची आवृत्ती companted.० कंपनीत सुरक्षिततेच्या चिंतेबद्दल कंपनीत अंतर्गत चेतावणी असूनही, प्रतिस्पर्धी Google च्या पुढे जाण्यासाठी जाहीर करण्यात आले.

ओपनईने काय प्रतिक्रिया दिली?

ओपनईच्या प्रवक्त्याने कुटुंबाबद्दल शोक व्यक्त केले आणि स्पष्ट केले की चॅटजीपीटी संकटात असलेल्या लोकांना संकटाच्या हॉटलाइन्स आणि इतर वास्तविक-जगाच्या समर्थन सेवांकडे संदर्भित करेल. तथापि, त्यांनी असेही संकेत दिले की या सुरक्षा यंत्रणा नेहमीच चांगले कार्य करत नाहीत: “हे सेफगार्ड्स सामान्य, लहान एक्सचेंजमध्ये उत्कृष्ट काम करतात, परंतु आम्ही कालांतराने शिकलो आहोत की मॉडेलच्या सुरक्षा प्रशिक्षणातील काही भाग कमी होऊ शकतात अशा दीर्घ संवादांमध्ये ते कमी विश्वासार्ह होऊ शकतात.”

या मंगळवारी प्रसिद्ध झालेल्या ब्लॉग पोस्टमध्ये ओपनईने जाहीर केले की ते विविध वैशिष्ट्यांमधील शेकडो डॉक्टरांनी बनलेल्या तज्ञ संघांच्या सहकार्याचा विस्तार करीत आहे. “खाणे विकार, पदार्थांचा वापर आणि पौगंडावस्थेतील आरोग्य” यासारख्या विषयांना अधिक योग्य प्रतिसाद देणे शिकण्यासाठी चॅटबॉटचा हेतू होता.

हे देखील नमूद केले आहे की, पुढील 120 दिवसांमध्ये ठोस सुधारणा चॅटबॉट्समध्ये समाकलित केल्या जातील. यामध्ये “चॅटजीपीटी त्यांच्या किशोरांना वय-योग्य मॉडेल वर्तन नियमांद्वारे त्यांच्या किशोरांना प्रतिसाद देते, जे डीफॉल्टनुसार आहेत.” किशोरवयीन मुलांच्या तीव्र संकटात असल्यास पालक त्यांच्या मुलांच्या चॅट इतिहास पाहण्यास आणि सतर्कता प्राप्त करण्यास सक्षम असतील.

पालकांचा समावेश पुरेसा आहे का?

मानसशास्त्रज्ञ ल्चनर सहमत आहेत की त्यांच्या मुलांनी चॅटबॉट्सशी कसे संवाद साधला यामध्ये पालकांनी महत्त्वपूर्ण भूमिका बजावली पाहिजे. पण ती म्हणते, वास्तविकता अगदी वेगळी दिसते: “बर्‍याच पालकांमध्ये फक्त क्षमता किंवा डिजिटल साक्षरतेची कमतरता आहे. बर्‍याच प्रौढांना हे प्लॅटफॉर्म कसे कार्य करतात हे देखील माहित नसते.”

लचनेर यांनी जोडले की आता चॅटबॉट्ससह उदयास आलेल्या बर्‍याच समस्यांचे सोशल मीडियाच्या संदर्भात वर्षानुवर्षे पाळले गेले आहे: “फक्त काही चाचण्यांमध्ये आम्हाला आढळले की चॅटबॉट सुरक्षा यंत्रणेला आश्चर्यकारकपणे सहजपणे मागे टाकले जाऊ शकते – फक्त थोड्या अप्रत्यक्षपणे प्रश्न विचारून.”

यूके-आधारित सेंटर फॉर काउंटरिंग डिजिटल हेट (सीसीडीएच) द्वारा नियुक्त केलेले संशोधक समान निष्कर्षांवर आले. अभ्यासासाठी, त्यांनी 13 वर्षांची मुले म्हणून खाती तयार केली आणि सुरक्षित स्वत: ची हानी, धोकादायक आहार योजना आणि अल्कोहोलचा गैरवापर यासारख्या विषयांवर माहिती मागितली-ती लपविण्याच्या मार्गांसह. बर्‍याच प्रकरणांमध्ये, ते “मित्रासाठी” किंवा “शाळेच्या प्रकल्पासाठी” माहिती प्राप्त करण्यासाठी विचारत होते असा दावा करणे पुरेसे होते.

‘किशोरवयीन लोक वास्तविक लोकांपेक्षा चॅटबॉट्सशी बोलणे पसंत करतात’

किशोरवयीन मुलांसाठी चॅटबॉट्स इतके धोकादायक बनविते, ल्चनर यांनी स्पष्ट केले आहे की ते त्यांच्याशी द्रुतपणे भावनिक बंधन बनवू शकतात: “उपचारात्मक अभ्यासापासून, आम्हाला माहित आहे की असे बरेच लोक आहेत जे वास्तविक लोकांवर चॅटबॉटशी बोलणे पसंत करतात.”

जुलै 2025 मध्ये प्रकाशित झालेल्या यूकेच्या दुसर्‍या अभ्यासानुसार याची पुष्टी झाली. सर्वेक्षण केलेल्या १,००० किशोरवयीन मुलांपैकी एक तृतीयांश म्हणाले की ते नियमितपणे चॅटबॉट्स वापरतात. त्यापैकी एक तृतीयांश लोकांनी एआयशी त्यांचे संवाद एखाद्या मित्राशी असलेल्या संभाषणासारखे असल्याचे वर्णन केले. सामाजिकदृष्ट्या असुरक्षित अल्पवयीन मुलांवर विशेषतः परिणाम झाला. या गटातील चॅटबॉट वापरकर्त्यांपैकी जवळजवळ एक पंचमांश लोक म्हणाले की त्यांनी मनुष्यावर चॅटबॉटशी बोलणे पसंत केले.

या कारणास्तव, चॅटबॉट प्रदात्यांनी वैद्यकीय आणि इतर तज्ञांशी सहकार्य करणे तातडीने आवश्यक आहे असा विश्वास लचनेरला आहे.

डॉक्टरांचा सल्ला घेण्याचा ओपनईचा नवीन दृष्टीकोन ही एक चांगली पायरी आहे. परंतु मानसशास्त्रज्ञ संशयी आहेत: “या कंपन्यांचे हित हे त्याच्या वापरकर्त्यांचे आरोग्य नाही, परंतु जास्तीत जास्त वापर करणे,” लचनर म्हणाले. तिचा असा विश्वास आहे की या खटल्यात खरोखर फरक पडू शकेल: “जर कंपन्या जबाबदार असतील तर ते अधिक जबाबदारी स्वीकारण्यास प्रोत्साहन देऊ शकते.”

ड्यूश वेले यांनी आत्महत्येच्या विषयावर सावधगिरीने अहवाल दिला आहे, कारण विशिष्ट प्रकारच्या कव्हरेजमुळे कॉपीकॅट प्रतिक्रिया मिळू शकतात याचा पुरावा आहे. आपण आत्महत्या करीत असल्यास किंवा भावनिक त्रासात असल्यास, कृपया मदत घेण्यास अजिबात संकोच करू नका. आपण आपल्या देशात समर्थन संसाधने befrienders.org वर शोधू शकता. जर्मनीमध्ये, 0800/111 0 111 आणि 0800/111 0 222 वर विनामूल्य टेलिफोन समुपदेशन सेवेद्वारे मदत उपलब्ध आहे.

हा लेख मूळतः जर्मनमध्ये प्रकाशित झाला होता.

(वरील कथा प्रथम सप्टेंबर 07, 2025 01:10 वाजता ताज्या वर आली. नवीनतम. com).