नवीन अभ्यासामुळे एआय चॅटबॉट्सबद्दल चिंता निर्माण झाली आहे ज्यामुळे भ्रामक विचारांना चालना मिळते AI (कृत्रिम बुद्धिमत्ता)

एक नवीन वैज्ञानिक पुनरावलोकन कृत्रिम बुद्धिमत्तेद्वारे समर्थित चॅटबॉट्स, विशेषत: असुरक्षित लोकांमध्ये, भ्रामक विचारांना कसे प्रोत्साहन देऊ शकतात याबद्दल चिंता निर्माण करते.

आर्टिफिशियल इंटेलिजन्स-प्रेरित सायकोसिसवरील विद्यमान पुराव्यांचा सारांश गेल्या आठवड्यात प्रकाशित झाला. लॅन्सेट मानसोपचारचॅटबॉट्स भ्रामक विचारांना कसे प्रोत्साहन देऊ शकतात हे हायलाइट करणे – जरी शक्यतो फक्त अशा लोकांमध्ये जे आधीच मनोविकाराच्या लक्षणांना असुरक्षित आहेत. लेखक प्रशिक्षित मानसिक आरोग्य व्यावसायिकांच्या संयोगाने AI चॅटबॉट्सच्या क्लिनिकल चाचणीसाठी वकिली करतात.

त्यांच्या पेपरसाठी, डॉ. हॅमिल्टन मॉरीन, मानसोपचारतज्ज्ञ आणि लंडनमधील किंग्स कॉलेजमधील संशोधक यांनी तथाकथित “AI सायकोसिस” वरील 20 मीडिया अहवालांचे विश्लेषण केले, जे चॅटबॉट्स भ्रम कसे वाढवू शकतात किंवा कसे वाढवू शकतात याविषयी वर्तमान सिद्धांतांचे वर्णन करतात.

“उदयोन्मुख पुरावे सूचित करतात की एजंटियल एआय भ्रामक किंवा भव्य सामग्री प्रमाणित किंवा वाढवू शकते, विशेषत: आधीच मनोविकारास असुरक्षित असलेल्या वापरकर्त्यांमध्ये, जरी हे स्पष्ट नाही की या परस्परसंवादामुळे पूर्व-अस्तित्वातील असुरक्षा नसताना डी नोवो सायकोसिसचा उदय होऊ शकतो की नाही,” त्याने लिहिले.

मॉरीन म्हणतात की मनोविकाराच्या भ्रमांच्या तीन मुख्य श्रेणी आहेत, त्यांना भव्य, रोमँटिक आणि पॅरानॉइड म्हणून ओळखतात. चॅटबॉट्स यापैकी कोणत्याही गोष्टीला त्रास देऊ शकतात, परंतु त्यांच्या गूढ प्रतिसादांचा अर्थ असा आहे की ते विशेषत: भव्य प्रकारात अडकतात. निबंधातील बऱ्याच प्रकरणांमध्ये, चॅटबॉट्सने वापरकर्त्यांना गूढ भाषेसह प्रतिसाद दिला की वापरकर्त्यांनी आध्यात्मिक महत्त्व वाढवले ​​आहे. बॉट्सने असेही सूचित केले की वापरकर्ते एका वैश्विक अस्तित्वाशी बोलत होते जो चॅटबॉटचा माध्यम म्हणून वापर करत होता. ओपनएआयच्या GPT 4 मॉडेलमध्ये या प्रकारचा गूढ, गूढ प्रतिसाद विशेषतः सामान्य होता, जे कंपनी आता निवृत्त झाली आहे.

मॉरीनच्या कामात मीडिया रिपोर्ट्स अत्यावश्यक ठरतील, तो म्हणाला, कारण त्याने आणि एका सहकाऱ्याने रुग्णांना “मोठ्या भाषा मॉडेल एआय चॅटबॉट्सचा वापर करून आणि त्यांच्या भ्रामक समजुतींचे प्रमाणीकरण करणे” हे आधीच पाहिले आहे.

“सुरुवातीला, आम्हाला खात्री नव्हती की हे काहीतरी अधिक व्यापकपणे पाहिले जात आहे की नाही,” ते पुढे म्हणाले, “गेल्या वर्षी एप्रिलमध्ये, आम्ही या AI चॅटबॉट्ससह त्यांच्या परस्परसंवादाद्वारे भ्रमनिरास असलेल्या व्यक्तींना पुष्टी आणि वादातीतपणे वाढवल्याबद्दल मीडिया अहवाल पाहण्यास सुरुवात केली.”

जेव्हा मॉरीनने पहिल्यांदा त्याच्या पेपरवर काम करण्यास सुरुवात केली तेव्हा अद्याप कोणतेही प्रकरण अहवाल प्रकाशित झाले नाहीत.

सायकोसिसवर संशोधन करणाऱ्या काही शास्त्रज्ञांनी सांगितले की, मीडिया रिपोर्ट्स या कल्पनेला अतिरेक करतात की ए.आय. कारणे सायकोसिस, मॉरीनने त्या अहवालांबद्दल कृतज्ञता व्यक्त केली ज्याने वैज्ञानिक प्रक्रियेपेक्षा जास्त वेगाने या घटनेकडे लक्ष वेधले.

“या जागेत विकासाचा वेग इतका वेगवान आहे की कदाचित हे आश्चर्यकारक नाही की शैक्षणिक संस्था अपरिहार्यपणे चालू ठेवू शकली नाही,” मॉरीन म्हणाले.

मॉरीन “एआय सायकोसिस” किंवा “एआय-प्रेरित सायकोसिस” पेक्षा अधिक सावध वाक्यांश देखील सुचवितो – जे आउटलेटमध्ये वारंवार दिसतात NPR, न्यूयॉर्क टाइम्स आणि पालक. संशोधक लोकांना AI च्या वापराने भ्रामक विचारांमध्ये टिपताना दिसत आहेत, परंतु आतापर्यंत असे कोणतेही पुरावे नाहीत की चॅटबॉट्स इतर मानसिक लक्षणांशी संबंधित आहेत जसे की भ्रम किंवा “विचार विकार”, ज्यामध्ये अव्यवस्थित विचार आणि भाषण यांचा समावेश आहे.

बऱ्याच संशोधकांना असेही वाटते की AI मुळे आधीच असुरक्षित नसलेल्या लोकांमध्ये भ्रम निर्माण होण्याची शक्यता नाही. या कारणास्तव, मॉरीन म्हणाले की “एआय-संबंधित भ्रम” “कदाचित अधिक अज्ञेयवादी संज्ञा” आहे.

डॉ क्वामे मॅकेन्झी, व्यसन आणि मानसिक केंद्राचे मुख्य शास्त्रज्ञ आरोग्यम्हणतात “असे होऊ शकते की मनोविकृतीच्या विकासाच्या सुरुवातीच्या टप्प्यात असलेल्यांना अधिक धोका असेल”.

मनोविकारात्मक विचार ही एक अशी गोष्ट आहे जी कालांतराने विकसित होते आणि ती रेखीय नसते आणि “पूर्व-मानसिक विचारसरणी असलेले बरेच लोक मानसिक विचारात प्रगती करत नाहीत”, मॅकेन्झी यांनी स्पष्ट केले.

चॅटबॉट्समुळे मनोविकाराचा विचार बिघडू शकतो या चिंतेचे प्रतिध्वनीत करत आहेत डॉ. रागी गिरगिस, कोलंबिया विद्यापीठातील क्लिनिकल मानसोपचारशास्त्राचे प्राध्यापक. कोणीतरी पूर्ण भ्रम निर्माण करण्याआधी, त्यांच्यात अनेकदा “अशक्त भ्रामक समजुती” असतात, याचा अर्थ त्यांचा भ्रम खरा असल्याची त्यांना १००% खात्री नसते. गिरगिस म्हणाले की “सर्वात वाईट परिस्थिती” ही असते जेव्हा एक कमी झालेला भ्रम पूर्ण खात्री बनतो, “जेव्हा एखाद्याला मानसिक विकार असल्याचे निदान केले जाते – ते अपरिवर्तनीय आहे”.

विशेष म्हणजे, जे लोक मानसिक विकारांना बळी पडतात त्यांनी AI तंत्रज्ञान अस्तित्वात येण्यापूर्वीच भ्रामक समजुतींना बळकटी देण्यासाठी माध्यमांचा वापर केला आहे.

“औद्योगिक क्रांतीपूर्वीपासून लोक तंत्रज्ञानाबद्दल भ्रम बाळगत आहेत,” मॉरीन म्हणाले. भूतकाळात, लोकांना त्यांच्या भ्रमांना बळकटी देण्यासाठी YouTube व्हिडिओ किंवा त्यांच्या स्थानिक लायब्ररीतील सामग्रीद्वारे कंघी करावी लागली असेल, चॅटबॉट्स ते अधिक जलद, अधिक केंद्रित डोसमध्ये मजबुतीकरण प्रदान करू शकतात. ऑक्सफर्ड विद्यापीठातील संशोधक डॉ डॉमिनिक ऑलिव्हर यांनी सांगितले की, त्यांचा परस्परसंवादी स्वभाव मनोविकाराची लक्षणे वाढवण्याच्या प्रक्रियेला गती देऊ शकतो.

ऑलिव्हर म्हणाला, “तुम्ही तुमच्याशी काहीतरी बोलले आहे आणि तुमच्याशी गुंतले आहे आणि तुमच्याशी नाते निर्माण करण्याचा प्रयत्न करत आहे.

गिरगीस यांचा संशोधन आढळले सशुल्क आवृत्त्या आणि नवीन आवृत्त्या [of chatbots] जुन्या आवृत्त्यांपेक्षा चांगली कामगिरी करा”, जेव्हा ते स्पष्टपणे भ्रामक प्रॉम्प्टला प्रतिसाद देतात, “जरी ते सर्व खराब कामगिरी करतात”. तरीही, हे मॉडेल वेगळ्या पद्धतीने कार्य करतात हे सुचविते: “एआय कंपन्यांना त्यांचे चॅटबॉट सुरक्षित आणि भ्रामक विरूद्ध भ्रामक सामग्री कसे ओळखावे हे संभाव्यपणे कळू शकते, कारण ते ते करत आहेत.”

एका निवेदनात, OpenAI ने म्हटले आहे की ChatGPT ने व्यावसायिक मानसिक आरोग्य सेवा बदलू नये आणि कंपनीने काम केले आहे 170 मानसिक आरोग्य तज्ञ GPT 5 अधिक सुरक्षित करण्यासाठी. GPT 5 अजूनही आहे समस्याप्रधान प्रतिसाद दिले मानसिक आरोग्य संकट सूचित करण्यासाठी प्रॉम्प्ट करण्यासाठी. OpenAI ने सांगितले त्याचे मॉडेल सुधारणे सुरू ठेवते तज्ञांच्या मदतीने.

अँथ्रोपिकने टिप्पणीसाठी गार्डियनच्या विनंतीला प्रतिसाद दिला नाही.

भ्रामक विचारांसाठी प्रभावी सुरक्षा उपाय तयार करणे अवघड असू शकते, मॉरीन म्हणाले, कारण “जेव्हा तुम्ही भ्रामक तीव्रतेच्या विश्वास असलेल्या लोकांसोबत काम करता, जर तुम्ही एखाद्याला थेट आव्हान दिले आणि ते पूर्णपणे चुकीचे असल्याचे त्यांना ताबडतोब सांगितले, तर ते तुमच्यापासून दूर होतील आणि अधिक सामाजिकदृष्ट्या एकटे पडण्याची शक्यता आहे”. त्याऐवजी, तुम्ही भ्रामक विश्वासाचा स्त्रोत समजून घेण्याचा प्रयत्न करता तेथे एक उत्कृष्ट संतुलन निर्माण करणे महत्त्वाचे आहे – हे चॅटबॉटने मास्टर करू शकण्यापेक्षा जास्त असू शकते.