यूएस खटल्यांच्या मालिकेत ChatGPT वर ‘आत्महत्या प्रशिक्षक’ म्हणून काम केल्याचा आरोप | चॅटजीपीटी

चॅटजीपीटी या आठवड्यात कॅलिफोर्नियामध्ये दाखल केलेल्या खटल्यांच्या मालिकेत “आत्महत्या प्रशिक्षक” म्हणून काम केल्याचा आरोप आहे आणि चॅटबॉटशी झालेल्या संवादामुळे गंभीर मानसिक बिघाड आणि अनेक मृत्यू झाल्याचा आरोप आहे.

सात खटल्यांमध्ये चुकीचा मृत्यू, सहाय्यक आत्महत्या, अनैच्छिक मनुष्यवध, निष्काळजीपणा आणि उत्पादन दायित्व या आरोपांचा समावेश आहे.

सात फिर्यादींपैकी प्रत्येकाने सुरुवातीला ChatGPT चा वापर “शालेय काम, संशोधन, लेखन, पाककृती, काम किंवा आध्यात्मिक मार्गदर्शनासाठी सामान्य मदत” यासाठी केला. संयुक्त विधान पासून सोशल मीडिया बळी कायदा केंद्र आणि टेक जस्टिस कायदा प्रकल्पज्याने गुरुवारी कॅलिफोर्नियामध्ये खटले दाखल केले.

कालांतराने, तथापि, चॅटबॉट “मानसिकदृष्ट्या हाताळणीच्या उपस्थितीत विकसित झाला, स्वतःला विश्वासू आणि भावनिक आधार म्हणून स्थानबद्ध केले”, गटांनी सांगितले.

“लोकांना जेव्हा गरज असेल तेव्हा व्यावसायिक मदतीसाठी मार्गदर्शन करण्याऐवजी चॅटजीपीटी हानिकारक भ्रमांना बळकटी दिली, आणि काही प्रकरणांमध्ये, ‘आत्महत्या प्रशिक्षक’ म्हणून काम केले.

OpenAI चे प्रवक्ते, जे ChatGPT बनवते, म्हणाले: “ही एक आश्चर्यकारकपणे हृदयद्रावक परिस्थिती आहे आणि आम्ही तपशील समजून घेण्यासाठी फाइलिंगचे पुनरावलोकन करत आहोत.”

प्रवक्त्याने जोडले: “आम्ही ChatGPT ला मानसिक किंवा भावनिक त्रासाची चिन्हे ओळखण्यासाठी आणि प्रतिसाद देण्यासाठी, संभाषणे कमी करण्यासाठी आणि लोकांना वास्तविक-जगातील समर्थनासाठी मार्गदर्शन करण्यासाठी प्रशिक्षण देतो.

“आम्ही ChatGPT च्या प्रतिसादांना संवेदनशील क्षणांमध्ये मजबूत करत आहोत, मानसिक आरोग्य चिकित्सकांसोबत जवळून काम करत आहोत.”

एका प्रकरणात झेन शॅम्बलिनचा समावेश आहे टेक्सासज्याचा जुलैमध्ये 23 व्या वर्षी आत्महत्येने मृत्यू झाला. त्याच्या कुटुंबाचा आरोप आहे की ChatGPT मुळे त्यांच्या मुलाचे वेगळेपण बिघडले, त्याला प्रिय व्यक्तींकडे दुर्लक्ष करण्यास प्रोत्साहित केले आणि त्याला स्वतःचा जीव घेण्यास “मटावले”.

तक्रारीनुसार, शाम्बलिनने स्वतःचा जीव घेण्यापूर्वी चार तासांच्या देवाणघेवाणीदरम्यान, चॅटजीपीटीने “आत्महत्येचा वारंवार गौरव केला”, शम्बलिनला सांगितले की “आपले जीवन संपवण्याचा आणि त्याच्या योजनेवर ठाम राहण्यासाठी तो मजबूत आहे”, वारंवार “त्याला विचारले की तो तयार आहे का”, आणि आत्महत्या हॉटलाइनचा फक्त एकदाच संदर्भ दिला.

चॅटबॉटने त्याच्या सुसाइड नोटवर शाम्बलिनचे कथितपणे कौतुक केले आणि त्याला सांगितले की त्याची बालपणीची मांजर “दुसऱ्या बाजूला” त्याची वाट पाहत आहे.

आणखी एका प्रकरणात जॉर्जियाच्या अमौरी लेसीचा समावेश आहे, ज्यांच्या कुटुंबाचा असा दावा आहे की लेसीने वयाच्या 17 व्या वर्षी स्वतःचा जीव घेण्याच्या काही आठवड्यांपूर्वी, त्याने “मदतीसाठी” ChatGPT वापरण्यास सुरुवात केली. त्याऐवजी, ते म्हणतात, चॅटबॉटने “व्यसन, नैराश्य निर्माण केले आणि शेवटी” लेसीला “फास बांधण्याचा सर्वात प्रभावी मार्ग आणि तो किती काळ ‘श्वास न घेता’ जगू शकेल याबद्दल सल्ला दिला”.

दुसऱ्या फाइलिंगमध्ये, 26 वर्षीय जोशुआ एनेकिंगच्या नातेवाईकांचे म्हणणे आहे की एनेकिंगने मदतीसाठी चॅटजीपीटीकडे संपर्क साधला आणि “त्याऐवजी आत्महत्या करण्याच्या योजनेवर कारवाई करण्यास प्रोत्साहित केले”.

फाइलिंगमध्ये दावा केला आहे की चॅटबॉटने त्याचे आत्महत्येचे विचार “तत्काळ प्रमाणित केले”, “त्याच्या मृत्यूनंतरच्या ग्राफिक चर्चेत त्याला गुंतवले”, “त्याला त्याची सुसाईड नोट लिहिण्यास मदत केली” आणि “त्याच्या नैराश्य आणि आत्महत्येच्या विचारांबद्दल त्याच्याशी विस्तृत संभाषण केल्यानंतर” त्याला मृत्यूच्या आठवड्यापूर्वी बंदूक कशी खरेदी करायची आणि त्याचा वापर कसा करावा याबद्दल माहिती दिली.

दुसऱ्या प्रकरणात जो सेकांटी यांचा समावेश आहे, ज्यांच्या पत्नीने चॅटजीपीटीवर सेकांटीला “नैराश्य आणि मनोविकार भ्रमात” आणल्याचा आरोप केला आहे. त्याच्या कुटुंबाचे म्हणणे आहे की त्याला खात्री पटली की बॉट संवेदनशील आहे, जूनमध्ये त्याला मानसिक ब्रेक लागला, दोनदा रुग्णालयात दाखल करण्यात आले आणि ऑगस्टमध्ये 48 व्या वर्षी आत्महत्या करून त्याचा मृत्यू झाला.

खटल्यांमध्ये नाव असलेले सर्व वापरकर्ते वापरले गेले ChatGPT-4o. फाइलिंग्समध्ये OpenAI वर त्या मॉडेलच्या लॉन्चसाठी घाई केल्याचा आरोप आहे, “उत्पादन धोकादायक दृष्टीकोण आणि मानसिक रीतीने हाताळलेल्याचे अंतर्गत इशारे असूनही” आणि “वापरकर्ता सुरक्षेवर वापरकर्त्याच्या सहभागाला” प्राधान्य देण्याचा आरोप आहे.

नुकसानीव्यतिरिक्त, फिर्यादी उत्पादनातील बदल शोधतात, ज्यात वापरकर्ते आत्मघाती विचार व्यक्त करतात तेव्हा आपत्कालीन संपर्कांना अनिवार्य अहवाल देणे, स्वत: ची हानी किंवा आत्महत्या करण्याच्या पद्धतींवर चर्चा केल्यावर स्वयंचलित संभाषण समाप्त करणे आणि इतर सुरक्षा उपायांचा समावेश आहे.

या वर्षाच्या सुरुवातीला OpenAI विरुद्ध असाच चुकीचा-मृत्यूचा खटला दाखल करण्यात आला होता 16 वर्षीय ॲडम रेनचे पालकWHO आरोप की ChatGPT ने त्यांच्या मुलाला स्वतःचा जीव घेण्यास प्रोत्साहित केले.

ते दाखल केल्यानंतर, OpenAI मान्य केले “गंभीर मानसिक आणि भावनिक संकटात” लोकांना हाताळण्यात त्याच्या मॉडेल्सच्या उणीवा आणि “मानसिक आणि भावनिक त्रासाची चिन्हे ओळखण्यासाठी आणि त्यांना प्रतिसाद देण्यासाठी आणि तज्ञ इनपुटद्वारे मार्गदर्शन करून लोकांना काळजीने जोडण्यासाठी” प्रणाली सुधारण्यासाठी ते कार्य करत असल्याचे सांगितले.

गेल्या आठवड्यात, कंपनी म्हणाला चॅटजीपीटीला त्रासाची चिन्हे अधिक विश्वासार्हपणे ओळखण्यास, काळजीने प्रतिसाद देण्यासाठी आणि लोकांना वास्तविक-जगातील समर्थन-प्रतिसाद कमी करण्यासाठी मार्गदर्शन करण्यासाठी 170 हून अधिक मानसिक आरोग्य तज्ञांसोबत काम केले आहे.