ChatGPT वर कॅनडा मास शूटरच्या वर्तनाची तक्रार करण्यात अयशस्वी झाल्याबद्दल कुटुंबांनी OpenAI वर दावा केला | OpenAI

ब्रिटिश कोलंबियातील एका माध्यमिक शाळेत सामूहिक गोळीबारात बळी पडलेल्या सात जणांच्या कुटुंबीयांनी दावा दाखल केला आहे OpenAI आणि चॅटजीपीटी सोबत नेमबाजाच्या त्रासदायक संभाषणांबाबत अधिकाऱ्यांना सावध करण्यात अयशस्वी झाल्यानंतर कंपनीच्या सीईओने निष्काळजीपणा केला.

सॅन फ्रान्सिस्कोमधील फेडरल कोर्टात बुधवारी दाखल केलेल्या खटल्यांमध्ये आरोप करण्यात आला आहे की, 18 वर्षीय जेसी व्हॅन रूट्सेलार म्हणून ओळखल्या जाणाऱ्या शूटरचा हिंसक हेतू OpenAI ला सुप्रसिद्ध होता. कंपनीतील कर्मचाऱ्यांनी हल्ल्याच्या आठ महिन्यांपूर्वी शूटरचे खाते ध्वजांकित केले आणि खटल्यानुसार “वास्तविक लोकांविरूद्ध बंदूक हिंसाचाराचा विश्वासार्ह आणि विशिष्ट धोका” असल्याचे निर्धारित केले.

कुटुंबांचा आरोप आहे की कर्मचाऱ्यांनी सॅम ऑल्टमन, OpenAI चे CEO आणि इतर वरिष्ठ नेत्यांना हल्ल्याच्या आठ महिने आधी कॅनेडियन कायद्याची अंमलबजावणी करण्यास सूचित केले होते, परंतु कंपनीने अधिकार्यांना चेतावणी न देण्याचा निर्णय घेतला आणि त्याऐवजी शूटरचे खाते निष्क्रिय केले. यापैकी बरेच काही कंपनीमधील कर्मचाऱ्यांच्या खात्यांवर आधारित आहे वॉल स्ट्रीट जर्नलला सांगितले.

कायद्याच्या अंमलबजावणीला सतर्क न करण्याच्या निर्णयामुळे टम्बलर रिजच्या ग्रामीण समुदायाचा नाश झाला, खटल्याचा आरोप आहे, जिथे 10 फेब्रुवारी रोजी शूटरने सुधारित रायफलने माध्यमिक शाळेत घुसले आणि गोळीबार केला. त्यांनी पायऱ्यावर आलेल्या पहिल्या व्यक्तीला गोळ्या घातल्या आणि लायब्ररीत गेले, जिथे त्यांनी पाच जणांना ठार केले आणि आणखी 27 जण जखमी केले. त्यानंतर गोळीबार करणाऱ्याने आत्महत्या केली.

शाळेत जाण्यापूर्वी शूटरने त्यांच्या कुटुंबातील आई आणि 11 वर्षांच्या भावाची हत्या केली.

शाळेतील पीडितांचे वय 12 ते 13 वयोगटातील असून त्यात 39 वर्षीय शिक्षक सहाय्यकाचा समावेश आहे. वाचलेल्यांपैकी 12 वर्षीय माया गेबाला हिच्या डोक्यात, मानेवर आणि गालावर गोळी लागली. शूटिंग झाल्यापासून ती व्हँकुव्हरच्या मुलांच्या रुग्णालयात अतिदक्षता विभागात आहे आणि तिच्या मेंदूचे चार ऑपरेशन झाले आहेत. जर ती जिवंत राहिली तर तिला कायमचे अपंगत्व येईल, असे तिच्या वकिलांनी सांगितले.

ज्या कुटुंबांनी सात खटले दाखल केले त्यांनी ओपनएआय आणि ऑल्टमॅनवर निष्काळजीपणा, सामूहिक शूटिंग, चुकीच्या पद्धतीने मृत्यू आणि उत्पादन दायित्वाचा आरोप केला. त्यांच्या वकिलांचे म्हणणे आहे की शूटिंगवर एआय कंपनीविरुद्ध दाव्याची ही पहिली लाट आहे आणि आणखी दोन डझन प्रकरणे पुढे आहेत.

गार्डियनला दिलेल्या निवेदनात, OpenAI ने म्हटले: “टंबलर रिजमधील घटना ही एक शोकांतिका आहे. हिंसाचारात सहाय्य करण्यासाठी आमच्या साधनांचा वापर करण्यासाठी आमच्याकडे शून्य-सहिष्णुतेचे धोरण आहे. आम्ही कॅनेडियन अधिकाऱ्यांशी शेअर केल्याप्रमाणे, आम्ही आधीच आमचे संरक्षण मजबूत केले आहे, ज्यात ChatGPT त्रासाच्या लक्षणांना कसा प्रतिसाद देते, लोकांना स्थानिक समर्थनाशी जोडणे, मानसिक आरोग्यास बळकट करणे आणि हिंसाचाराचे संभाव्य धोके कसे बळकट करणे समाविष्ट आहे. आणि पॉलिसीचे वारंवार उल्लंघन करणाऱ्यांची ओळख सुधारणे.

गार्डियनने टिप्पणीसाठी संपर्क साधल्यानंतर, OpenAI एक नवीन ब्लॉग पोस्ट प्रकाशित त्याच्या “सुरक्षेसाठी वचनबद्धता” आणि ते “समुदाय सुरक्षिततेचे संरक्षण कसे करते” याबद्दल.

हा हल्ला कॅनडाच्या इतिहासातील सर्वात घातक सामूहिक गोळीबारांपैकी एक होता. त्यानंतर, प्रश्न छोट्या समुदायात फिरले ते कसे घडले असावे याबद्दल.

खटल्यानुसार, OpenAI च्या सुरक्षा टीमने हिंसक संभाषणांसाठी ध्वजांकित केल्यानंतर, शूटिंगच्या आठ महिन्यांपूर्वी व्हॅन रूट्सेलारच्या चॅटजीपीटी खात्यावर बंदी घालण्यात आली होती. तथापि, शूटर त्वरीत एक नवीन तयार करण्यात सक्षम होता, सूटचा आरोप आहे.

जरी OpenAI म्हणते की शूटरने दुसरे खाते तयार केले जे शूटिंगनंतर कंपनीला माहित नव्हते, तरीही कंपनी वापरकर्त्यांना ते निष्क्रिय केले असल्यास ChatGPT वर कसे परत यायचे याबद्दल सूचना प्रदान करते, ज्याचे शूटरने पालन केले.

“सॅम आणि नेतृत्वाने सुरक्षा संघाला झुगारून दिले आणि नंतर मुले मरण पावली, प्रौढ मरण पावले, संपूर्ण शहर उद्ध्वस्त झाले, ही वस्तुस्थिती माझ्यासाठी वाईटाच्या व्याख्येच्या अगदी जवळ आहे,” जे एडेलसन, टंबलर रिज वादींचे प्रतिनिधीत्व करणारे प्रमुख वकील म्हणाले.

खटल्यात आरोप आहे की शूटरचा ChatGPT सोबतचा संवाद कॅनेडियन अधिकाऱ्यांकडून लपवून ठेवण्याची निवड आणि नंतर लोकांना सांगणे की शूटर पुन्हा प्लॅटफॉर्मवर आला, “कॉर्पोरेट सर्व्हायव्हल” च्या हितासाठी आणि कंपनीच्या IPO चे संरक्षण करण्यासाठी, ज्याचे अपेक्षित मूल्य $1tn आहे आणि ऑल्टमॅनला जगातील सर्वात श्रीमंत लोक बनवू शकते.

ओपनएआयने त्याच्या चॅटबॉट आणि टंबलर रिज शूटरमधील लॉग शेअर करण्यास नकार दिला आहे, एडल्सन म्हणाले.

गेल्या आठवड्यात उशीरा, Altman एक पत्र पाठवले शूटरच्या संभाव्य धोक्याबद्दल OpenAI ला काय माहिती आहे याबद्दल कॅनेडियन पोलिसांना सूचित न केल्याबद्दल टंबलर रिज समुदायाची माफी मागितली.

“मला माहित आहे की शब्द कधीच पुरेसे असू शकत नाहीत, पण माझा विश्वास आहे की तुमच्या समुदायाचे नुकसान आणि अपरिवर्तनीय नुकसान ओळखण्यासाठी माफी मागणे आवश्यक आहे,” ऑल्टमनने लिहिले. “भविष्यात अशा शोकांतिका टाळण्यासाठी मार्ग शोधण्यासाठी मी महापौर आणि पंतप्रधानांना दिलेल्या वचनबद्धतेची पुष्टी करतो.”

डेव्हिड एबी, ब्रिटिश कोलंबियाचे पंतप्रधान, पोस्ट केले टिप्पण्यासह सोशल मीडियाला पत्र: “माफी मागणे आवश्यक आहे आणि तरीही टंबलर रिजच्या कुटुंबांना झालेल्या विध्वंसासाठी ते अपुरे आहे.”

26 फेब्रुवारी रोजी, शूटिंगच्या दोन आठवड्यांनंतर, ओपनएआयचे जागतिक धोरणाचे उपाध्यक्ष, ॲन ओ’लेरी, एक पत्र पाठवले कॅनडाचे कृत्रिम बुद्धिमत्ता आणि डिजिटल इनोव्हेशन मंत्री इव्हान सोलोमन यांना. O’Leary ने लिहिले की शूटरचे खाते निष्क्रिय केल्यावर कंपनीने जे पाहिले त्यावर आधारित, “विश्वासार्ह आणि आसन्न नियोजन ओळखले नाही जे प्रकरण कायद्याच्या अंमलबजावणीकडे संदर्भित करण्यासाठी आमच्या थ्रेशोल्डची पूर्तता करते”. खाते कळवायला हवे होते असे OpenAI च्या सुरक्षा टीमने चेतावणी देऊनही हा निर्णय घेण्यात आला.

O’Leary ने कंपनी ज्या कृती करण्याच्या योजना आखत आहे ते देखील स्पष्ट केले, जसे की कॅनेडियन कायद्याची अंमलबजावणी सोबत त्यांचे संबंध मजबूत करणे आणि ChatGPT वरून वारंवार बंदी घातल्या गेलेल्या परंतु नंतर नवीन खाती बनवलेल्या वापरकर्त्यांचा शोध घेण्यासाठी त्यांची प्रणाली वाढवणे.

त्यांचे चॅटबॉट्स मानसिक आरोग्य संकटे वाढवत आहेत आणि हिंसक कृत्ये चिथावणी देत ​​आहेत या आरोपावरून एआय कंपन्यांविरुद्ध खटल्यांचा हा खटला भाग आहे. नोव्हेंबरमध्ये, सात तक्रारी दाखल झाल्या OpenAI विरुद्ध, ChatGPT ला दोष देत आहे “आत्महत्या प्रशिक्षक” म्हणून काम केल्याबद्दल. गुगलच्या मिथुन चॅटबॉटने एका ३६ वर्षीय व्यक्तीला कथितरित्या प्रोत्साहन दिल्याने गेल्या महिन्यात गुगलवर खटला दाखल करण्यात आला होता एक “भयंकर अपघात” आणि नंतर स्वत: ला ठार मार. गुगलने म्हटले आहे ते त्याचे संरक्षण सुधारण्यासाठी काम करत आहे आणि ओपनएआयने सांगितले की ते खटल्याच्या फाइलिंगचे पुनरावलोकन करत आहे.

फ्लोरिडा मध्ये, ऍटर्नी जनरल अलीकडे एक गुन्हेगारी तपास उघडला चॅटजीपीटी आणि फ्लोरिडा स्टेट युनिव्हर्सिटी कॅम्पसमध्ये सामूहिक गोळीबार केल्याचा आरोप असलेल्या बंदुकधारी यांच्यातील संदेशांचे पुनरावलोकन केल्यानंतर ओपनएआयमध्ये – टेक कंपनीमध्ये अशी पहिली गुन्हेगारी चौकशी. टम्बलर रिज कुटुंबांचे वकील म्हणतात की त्यांना विश्वास आहे की त्यांची प्रकरणे कंपनीविरूद्ध समान गुन्हेगारी दायित्वास समर्थन देऊ शकतात. कंपनी एनबीसी न्यूजला सांगितले ते शूटिंगसाठी जबाबदार नव्हते आणि राज्याच्या प्रश्नांची उत्तरे दिली आहेत.

याचे आणखी एक उदाहरण आहे आता-सामान्य दृष्टीकोन गनमेकर्स आणि डीलर्स सारख्या संस्था ठेवण्यासाठी खटले वापरणे आणि यूएस फेडरल सरकार कथित निष्क्रियतेसाठी जबाबदार आहे ज्यामुळे शूटिंग मृत्यू आणि जखमा झाल्या आहेत.

सात टंबलर रिज खटले गेबाला, शिक्षक सहाय्यक, शांदा अवियुगाना-डुरंड यांचे कुटुंब आणि शाळेतील गोळीबारात मरण पावलेल्या पाच मुलांचे कुटुंब यांच्या वतीने दाखल केले आहेत. त्या बळींमध्ये Zoey Benoit, Ticaria “Tiki” Lampert, Kylie Smith, Ezekiel Schofield आणि Abel Mwansa Jr यांचा समावेश आहे. कुटुंबांचे म्हणणे आहे की नुकसान असह्य आहे.

म्वानसाचे पालक, ज्यांना स्थलांतरित झाले कॅनडा तीन वर्षांपूर्वी झांबियाहून आलेला, म्हणा की त्यांचा 12 वर्षांचा मुलगा चांगला श्रोता होता जो त्याच्या बहिणीला दररोज सकाळी नाश्ता बनवतो. गोळीबारात वाचलेल्या त्याच्या एका मित्राने म्वानसाचे शेवटचे शब्द म्हटले: “माझ्या पालकांना सांगा की मी त्यांच्यावर खूप प्रेम करतो.”