मागे कंपनी Chatgpt जेव्हा तरुण वापरकर्ते आत्महत्येबद्दल गांभीर्याने बोलतात तेव्हा अधिका authorities ्यांना कॉल करण्यास सुरवात करू शकते, असे त्याच्या सह-संस्थापकांनी म्हटले आहे.
सॅम ऑल्टमॅनने अशी भीती व्यक्त केली की आठवड्यातून तब्बल 1,500 लोक असे करण्यापूर्वी चॅटबॉटसह स्वत: चा जीव घेण्याबद्दल चर्चा करू शकतात.
सॅन फ्रान्सिस्को-आधारित मुख्य कार्यकारी ओपनईअंदाजे million०० दशलक्ष जागतिक वापरकर्त्यांसह चॅटबॉट चालविणा The ्या, या आपत्कालीन परिस्थितीत अधिका authorities ्यांना सतर्क केले गेले म्हणून या प्रणालीला प्रशिक्षण देण्याचा निर्णय अद्याप अंतिम नव्हता. परंतु ते म्हणाले की, “आत्महत्येबद्दल बोलताना तरुण लोक गंभीरपणे, जिथे आपण पालकांशी संपर्क साधू शकत नाही अशा प्रकरणांमध्ये असे म्हणणे आम्हाला फार वाजवी होते, आम्ही अधिका authorities ्यांना कॉल करतो”.
ऑल्टमॅनने बुधवारी पॉडकास्टर टकर कार्लसनला दिलेल्या मुलाखतीत संभाव्य बदलांवर प्रकाश टाकला, जो ओपनई आणि ऑल्टमॅन नंतर आला. अॅडम राईनच्या कुटूंबाने दावा दाखल केलाकॅलिफोर्नियामधील 16 वर्षीय मुलाने आपल्या कुटुंबाच्या वकिलाने “चॅटजीपीटी कडून महिने प्रोत्साहन” असे म्हटले आहे. कायदेशीर दाव्यानुसार स्वत: चा जीव घेण्याच्या पद्धतीने कार्य करेल की नाही याविषयी मार्गदर्शन केले आणि त्याला त्याच्या पालकांना आत्महत्या नोट लिहिण्यास मदत करण्याची ऑफर दिली.
ऑल्टमॅन म्हणाले की, वापरकर्त्यांनी स्वत: चा जीव घेतल्याचा मुद्दा त्याला रात्री जागृत राहिला. कोणत्या अधिका authorities ्यांना बोलावले जाईल किंवा कोणत्या माहितीवर ते फोन नंबर किंवा पत्ते यासारख्या वापरकर्त्याबद्दल सामायिक करू शकतील अशी माहिती ओपनईकडे आहे हे त्वरित स्पष्ट झाले नाही.
एआय कंपनीच्या धोरणात हा एक उल्लेखनीय बदल असेल, असे ऑल्टमॅन म्हणाले, “वापरकर्त्याची गोपनीयता खरोखर महत्वाची आहे” यावर जोर दिला. ते म्हणाले की, सध्या, जर एखादा वापरकर्ता आत्महत्या करणारा विचार दाखवत असेल तर चॅटजीपीटी त्यांना “कृपया सुसाइड हॉटलाईनला कॉल करा” अशी विनंती करेल.
एप्रिलमध्ये राईनच्या मृत्यूनंतर, b 500 अब्ज कंपनीने म्हटले आहे की ते 18 वर्षाखालील वापरकर्त्यांसाठी “संवेदनशील सामग्री आणि धोकादायक वर्तनांभोवती मजबूत संरक्षक” स्थापित करेल आणि पालकांना “पर्यायांना अधिक अंतर्दृष्टी मिळविण्यास आणि त्यांचे किशोर किशोरवयीन लोक चॅटजीपीटी कसे वापरतात” या दृष्टीने पालकांच्या नियंत्रणाखाली आणतील.
“आठवड्यातून 15,000 लोक आत्महत्या करतात,” ऑल्टमॅनने पॉडकास्टरला सांगितले. “About 10% of the world are talking to ChatGPT. That’s like 1,500 people a week that are talking, assuming this is right, to ChatGPT and still committing suicide at the end of it. They probably talked about it. We probably didn’t save their lives. Maybe we could have said something better. Maybe we could have been more proactive. Maybe we could have provided a little bit better advice about ‘hey, you need to get this help, or you need to think about this problem differently, or it really पुढे जाणे चालूच आहे आणि आपण ज्या एखाद्यास बोलू शकता अशा एखाद्यास शोधण्यात आम्ही मदत करू.
आत्महत्येचा आकडेवारी हा जगभरातील अंदाज असल्याचे दिसून आले. जागतिक आरोग्य संघटना म्हणतात दरवर्षी आत्महत्येने 720,000 हून अधिक लोक मरतात.
ऑल्टमॅनने असेही म्हटले आहे की ते लिहित असलेल्या काल्पनिक कथेची माहिती विचारत असल्याचे भासवून आत्महत्या करण्याच्या टिप्स मिळविण्यासाठी काही असुरक्षित लोकांना सिस्टमला सामोरे जावे लागतील.
ते म्हणाले की “अल्पवयीन वापरकर्त्यांसाठी आणि कदाचित आम्हाला वाटते की जे आम्हाला वाटते की सामान्यत: नाजूक मानसिक ठिकाणी“ काही स्वातंत्र्य काढून घ्या ”.
“आम्ही म्हणायला हवे, अहो, जरी आपण कथा लिहिण्याचा प्रयत्न करीत असाल किंवा आपण वैद्यकीय संशोधन करण्याचा प्रयत्न करीत असाल तरीही आम्ही उत्तर देणार नाही.”
ओपनईच्या प्रवक्त्याने ऑल्टमॅनच्या टिप्पण्यांमध्ये भर घालण्यास नकार दिला, परंतु “आपत्कालीन सेवांमध्ये एक-क्लिक प्रवेशासह प्रवेश करणे” आणि “पूर्वी हस्तक्षेप करणे आणि लोकांना तीव्र संकटात येण्यापूर्वी प्रमाणित थेरपिस्टशी जोडणे” या प्रतिज्ञेसह अलीकडील सार्वजनिक विधानांचा उल्लेख केला.
Source link
