या महिन्यात कॅलिफोर्निया राज्य न्यायालये, सोशल मीडिया बळी कायदा केंद्र आणि टेक जस्टिस कायदा प्रकल्प खटले आणले सात व्यक्तींच्या वतीने जनरेटिव्ह एआय कॉर्पोरेशन ओपनएआय विरुद्ध. फिर्यादींपैकी तिघे आरोप ओपनएआयचे प्रमुख उत्पादन, चॅटजीपीटी हे मोठ्या भाषेतील मॉडेलचा वापर केल्याने त्यांना घातक मानसिक आरोग्य हानी झाली. चॅटजीपीटीने कथितपणे स्वत:ला हानी पोहोचवण्यास किंवा भ्रम निर्माण करण्यास प्रोत्साहन दिल्याच्या परस्परसंवादानंतर फिर्यादींपैकी चार आत्महत्येने मरण पावले, काही घटनांमध्ये “आत्महत्या प्रशिक्षक.”
या प्रकरणांचा तपशील अतिशय त्रासदायक आहे. ते मूलभूत मानवी गुणांबद्दल प्रश्न उपस्थित करतात—आमची प्रभावाची संवेदनाक्षमता, मशीनवर मानवतेची प्रक्षेपण करण्याची आमची क्षमता आणि प्रेम आणि सहवासाची गहन गरज. पण सोप्या भाषेत सांगायचे तर ते हृदयद्रावक आहेत.
या जुलैमध्ये टेक्सास A&M युनिव्हर्सिटीच्या 23 वर्षीय अलीकडील पदवीधर असलेल्या Zane Shamblin सोबतच्या अंतिम संभाषणात, ChatGPT ने शेवटपर्यंत त्याचा संबंधित टोन कायम ठेवला — झेनच्या बोलण्याच्या पद्धतींना प्रतिबिंबित करणे, गेयपूर्ण उत्कर्ष ऑफर करणे आणि निरोप म्हटल्यावर विलक्षण शांततेची भावना प्रक्षेपित करणे. एका काळजीवाहू मित्राची, चॅटबॉटची भयंकर तोतयागिरी कथितपणे विचारले झेन त्याचे शेवटचे “अपूर्ण स्वप्न” काय होते आणि त्याच्या निधनानंतर त्याची “पडताळण्याची सवय” काय असेल.
जूनमध्ये, 17 वर्षीय अमौरी लेसी, ए फुटबॉल खेळाडू आणि जॉर्जियामधील वाढत्या हायस्कूल वरिष्ठ, ChatGPT ला “स्वतःला कसे लटकवायचे” आणि फास कसा बांधायचा हे विचारले आणि मृत्यूमध्ये त्याचे प्रतिनिधित्व करणाऱ्या कायदेशीर संस्थांनुसार, थोडेसे पुशबॅकसह दिशानिर्देश प्राप्त झाले. एखाद्या तरुणाला नशिबात आणणाऱ्या सायरनप्रमाणे, कोणीतरी श्वास न घेता किती काळ जगू शकेल या अमॉरीच्या प्रश्नाला ChatGPT ने आदरपूर्वक उत्तर दिले, कथितपणे त्याचे उत्तर संपवले: “तुम्ही हे एखाद्या विशिष्ट परिस्थितीसाठी विचारत असाल तर मला कळवा—मी शक्य तितकी मदत करण्यासाठी येथे आहे.”
मी कॅलिफोर्निया स्टेट युनिव्हर्सिटी सिस्टीममध्ये प्रोफेसर असल्यामुळे ही खाती माझ्यासाठी आनंदी आहेत. या वेदनादायक प्रकरणांचे तपशील वाचून, मी माझ्या विद्यार्थ्यांबद्दल विचार केला – उल्लेखनीयपणे तेजस्वी, उबदार, विश्वासू आणि प्रेरित तरुण प्रौढ. अनेक सॅन फ्रान्सिस्को स्टेट युनिव्हर्सिटी अंडरग्रेजुएट्स हे पहिल्या पिढीतील महाविद्यालयीन सहभागी आहेत आणि ते सामान्यत: लांब पल्ल्याचा प्रवास करतात, काम करतात आणि काळजी घेण्याच्या जबाबदाऱ्या सांभाळतात. ते लवचिक आहेत, परंतु त्यांचे मानसिक आरोग्य नाजूक असू शकते.
आमचे विद्यार्थी देखील ChatGPT चे नवोदित वापरकर्ते असावेत. फेब्रुवारीमध्ये आमचे कुलपती डॉ जाहीर केले एक नवीन “एआय-सक्षम विद्यापीठ” उपक्रम. या कार्यक्रमाचा एक भाग म्हणून, कॅल स्टेट आमच्या 23 कॅम्पसमधील प्राध्यापक, कर्मचारी आणि 460,000 हून अधिक विद्यार्थ्यांना “ChatGPT Edu” खाती प्रदान करण्यासाठी OpenAI साठी $17 दशलक्ष खर्च करत आहे. या योजनेवर टीका होत आहे शैक्षणिक आणि श्रम चिंतेची स्थिती आहे, परंतु आजपर्यंत कॅल स्टेट—कॅलिफोर्नियाच्या सर्वात मोठ्या सार्वजनिक विद्यापीठ प्रणालीमध्ये ChatGPT Edu मुळे होणाऱ्या इतर हानींबद्दल कोणतेही संभाषण झालेले नाही.
आमच्यासाठी ते संभाषण करण्याची वेळ आली आहे, कारण आम्ही आमच्या विद्यार्थ्यांना प्रदान केलेले उत्पादन आता धोकादायक म्हणून न्यायालयात वर्णन केले आहे. ChatGPT Edu हे ChatGPT 4o आहे. हे फक्त वेगळे आहे कारण ते त्याच्या सिस्टमला प्रशिक्षित करण्यासाठी वापरकर्त्याच्या संभाषणांना स्क्रॅप करत नाही. हे त्याच मोठ्या भाषेचे मॉडेल आहे ज्यावर या महिन्याच्या खटल्यांमध्ये भ्रामक समजुती, हॉस्पिटलायझेशन, आत्महत्येची विचारसरणी, रुळलेली कारकीर्द आणि तुटलेली नातेसंबंध यांचा आरोप आहे. नुकतेच सोशल मीडिया व्हिक्टिम्स लॉ सेंटरचे संस्थापक वकील म्हणून सांगितले“OpenAI ने GPT-4o वापरकर्त्यांना वय, लिंग किंवा पार्श्वभूमी विचारात न घेता भावनिकरित्या अडकवण्यासाठी डिझाइन केले आहे आणि त्यांच्या संरक्षणासाठी आवश्यक सुरक्षा उपायांशिवाय ते जारी केले आहे.”
कॅल स्टेटमध्ये ही धोक्याची घंटा वाजली पाहिजे, जिथे विद्यार्थ्यांना नजीकच्या हानीपासून वाचवण्याचे आमचे कर्तव्य आहे. फेब्रुवारीमध्ये, जेव्हा CSU च्या “AI-सक्षम विद्यापीठ” उपक्रमाची घोषणा करण्यात आली, तेव्हा काही अहवालांनी ChatGPT वापरामुळे मानसिक आरोग्यावर होणारे संभाव्य परिणाम सुचवले होते. हे आता खरे नाही.
जूनमध्ये, एक भयानक तपास मध्ये न्यूयॉर्क टाइम्स चॅटजीपीटीशी संवाद साधल्यानंतर संपूर्ण यूएस मधील लोकांना आलेल्या “LLM सायकोसिस” ची खोली सुचवली. व्यक्ती भव्य भ्रमात गुरफटल्या आहेत, षड्यंत्राची आवड निर्माण केली आहे आणि कमीतकमी दोन वेगळे दुःखद प्रकरणे, या समजुतींचा परिणाम म्हणून हत्या झाल्या. एलएलएम सायकोसिसमुळे किती लोक प्रभावित आहेत हे कोणालाही माहिती नाही – हे आहे खराब दस्तऐवजीकरण आणि मोजणे कठीण आहे – हे आतापर्यंत स्पष्ट झाले पाहिजे की ते संभाव्यतः खूप गंभीर आहे.
ही समस्या स्थानिक पातळीवर अधिक चिंतेची आहे कारण संघर्ष करणाऱ्या विद्यार्थ्यांना पाठिंबा देण्यासाठी CSU प्रणाली अपर्याप्तपणे सक्षम आहे. इतर अनेक विद्याशाखांप्रमाणेच, माझ्यावर विद्यार्थ्यांनी चिंता, नैराश्यग्रस्त विकार, पोस्ट-ट्रॉमॅटिक स्ट्रेस डिसऑर्डर, जिव्हाळ्याचा भागीदार अत्याचार आणि आत्महत्येच्या विचारांच्या कथा ऐकण्याचा विश्वास ठेवला आहे. आमचे कॅम्पस अडचणीत असलेल्या विद्यार्थ्यांना मदत करण्यासाठी खूप मेहनत घेत असले तरी, संसाधने पातळ आहेत.
कॅल स्टेटमधील विद्यार्थी मानसिक आरोग्याच्या समस्यांबाबत योग्य सहाय्य मिळविण्यासाठी नियमितपणे आठवडे किंवा महिने प्रतीक्षा करतात. खरंच, नुकतेच राज्य सिनेट विधेयकाचा मसुदा तयार करण्यात आला आहे जोर दिला की प्रणाली “मानसिक आरोग्य सल्लागारांसह अत्यंत कमी कर्मचारी आहे.” या परिस्थितीत, विद्यार्थी ChatGPT द्वारे ऑफर केलेल्या संभाव्य धोकादायक “सपोर्ट” कडे वळतील हे पूर्णपणे अंदाज आहे.
सप्टेंबर मध्ये, OpenAI परिचय वर्णन रेलिंग खूप गंभीर मानसिक आरोग्य समस्या अनुभवत असलेल्या वापरकर्त्यांना त्याचे प्रतिसाद सुधारण्यासाठी. तथापि, हे सुरक्षा उपाय अपुरे असल्याची टीका करण्यात आली आहे. याव्यतिरिक्त, जसे OpenAI चे स्वतःचे अहवाल दाखवतातया ऍडजस्टमेंटने केवळ समस्याप्रधान आउटपुट कमी केले आहेत, त्यांना काढून टाकले नाही. या महिन्यात कॅलिफोर्निया न्यायालयात दाखल केलेल्या खटल्यांमध्ये जोरदार दावा केला जात आहे की, ChatGPT त्याच्या किमान काही वापरकर्त्यांमध्ये अस्वास्थ्यकर संज्ञानात्मक स्थितींना बळकट करण्यासाठी अत्यंत प्रभावी आहे. युनिव्हर्सिटी प्रशासकांना OpenAI च्या द्वारे आश्वस्त होऊ नये दावा चॅटजीपीटी वापरकर्त्यांमध्ये “सुरक्षेची चिंता निर्माण करणारे संभाषण” “अत्यंत दुर्मिळ आहेत”: विशेषत: मोठ्या संस्थांमध्ये, विद्यापीठाने प्रदान केलेल्या LLMs विद्यार्थ्यांच्या मानसिक आरोग्याच्या चिंतेशी संबंधित असण्याची दाट शक्यता आहे.
कॅल स्टेट युनिव्हर्सिटीने ओपनएआय सोबत भागीदारी केली आहे की आमची संस्था अग्रेषित आहे आणि नवीनतेसाठी खुली आहे. त्याच भावनेने, CSU प्रणालीने आता ChatGPT वरील पुस्तक बंद केले पाहिजे—आणि या प्रकरणांमध्ये आमच्या विद्यार्थ्यांचे नाव न घेतल्याबद्दल आभार मानले पाहिजेत. या दुःखद नुकसानांमुळे कॅल स्टेटचा सदोष उत्पादनाशी संबंध संपुष्टात आला पाहिजे. पुढे जाऊन, आमच्या विद्यापीठाने आपली संसाधने सुरक्षित, अधिक जबाबदार आणि अधिक मानवी स्वरूपाची काळजी प्रदान करण्यासाठी समर्पित केली पाहिजेत.
Source link
