गार्डियन तपासणीनंतर माइंडने एआय आणि मानसिक आरोग्याची चौकशी सुरू केली | AI (कृत्रिम बुद्धिमत्ता)

गुगलच्या एआय विहंगावलोकनांनी लोकांना “अत्यंत धोकादायक” वैद्यकीय सल्ला कसा दिला हे गार्डियनच्या तपासणीनंतर उघड झाल्यानंतर माइंड कृत्रिम बुद्धिमत्ता आणि मानसिक आरोग्याविषयी महत्त्वपूर्ण चौकशी सुरू करत आहे.

वर्षभराच्या कमिशनमध्ये, मानसिक आरोग्य धर्मादाय, जे इंग्लंड आणि वेल्समध्ये कार्यरत आहे, आवश्यक जोखीम आणि सुरक्षा उपायांचे परीक्षण करेल कारण AI जगभरातील मानसिक आरोग्य समस्यांमुळे प्रभावित लाखो लोकांच्या जीवनावर अधिकाधिक प्रभाव टाकत आहे.

ही चौकशी – जागतिक स्तरावर अशा प्रकारची पहिली – जगातील आघाडीचे डॉक्टर आणि मानसिक आरोग्य व्यावसायिक, तसेच अनुभव असलेले लोक, आरोग्य पुरवठादार, धोरणकर्ते आणि तंत्रज्ञान कंपन्या एकत्र आणतील. माइंड म्हणते की मजबूत नियमन, मानके आणि सुरक्षा उपायांसह एक सुरक्षित डिजिटल मानसिक आरोग्य इकोसिस्टमला आकार देण्याचे उद्दिष्ट असेल.

Google AI Overviews मधील खोट्या आणि दिशाभूल करणाऱ्या आरोग्य माहितीमुळे लोकांना हानी होण्याचा धोका कसा निर्माण झाला हे गार्डियनने उघड केल्यानंतर हे प्रक्षेपण झाले. AI-व्युत्पन्न केलेले सारांश महिन्याला 2 अब्ज लोकांना दाखवले जातात आणि जगातील सर्वाधिक भेट दिलेल्या वेबसाइटवर पारंपारिक शोध परिणामांवर दिसतात.

अहवालानंतर, Google AI विहंगावलोकन काढले काहींसाठी परंतु सर्व वैद्यकीय शोधांसाठी नाही. डॉ. सारा ह्यूजेस, माइंडचे मुख्य कार्यकारी अधिकारी, म्हणाले की “धोकादायकपणे चुकीचा” मानसिक आरोग्य सल्ला अजूनही लोकांना दिला जात आहे. सर्वात वाईट प्रकरणांमध्ये, बोगस माहिती जीव धोक्यात आणू शकते, ती म्हणाली.

ह्यूजेस म्हणाले: “आमचा विश्वास आहे की मानसिक आरोग्य समस्या असलेल्या लोकांचे जीवन सुधारण्यासाठी AI मध्ये प्रचंड क्षमता आहे, समर्थनासाठी प्रवेश वाढवणे आणि सार्वजनिक सेवांना बळकट करणे. परंतु ती क्षमता केवळ तेव्हाच साकार होईल जेव्हा ती विकसित केली गेली आणि जोखमीच्या प्रमाणात सुरक्षिततेसह तैनात केली गेली.

“गार्डियनच्या रिपोर्टिंगद्वारे उघडकीस आलेल्या समस्या ही आम्ही AI आणि मानसिक आरोग्यावर माईंड्स कमिशन सुरू करत आहोत, कारण AI दैनंदिन जीवनात अधिक खोलवर अंतर्भूत झाल्यामुळे आवश्यक जोखीम, संधी आणि सुरक्षितता तपासण्यासाठी आहे.

“आम्ही हे सुनिश्चित करू इच्छितो की नावीन्य लोकांच्या आरोग्याच्या खर्चावर येऊ नये आणि आमच्यापैकी ज्यांना मानसिक आरोग्य समस्यांचा अनुभव आहे ते डिजिटल समर्थनाच्या भविष्याला आकार देण्याच्या केंद्रस्थानी आहेत.”

Google ने म्हटले आहे की त्याचे AI विहंगावलोकन, जे एखाद्या विषयाबद्दल किंवा प्रश्नाबद्दल आवश्यक माहितीचे स्नॅपशॉट प्रदान करण्यासाठी जनरेटिव्ह एआय वापरतात, “उपयुक्त“आणि”विश्वसनीय“

परंतु गार्डियनला आढळले की काही एआय विहंगावलोकन चुकीची आरोग्य माहिती देतात आणि लोकांना हानी होण्याचा धोका निर्माण करतात. तपासणीमध्ये कर्करोग, यकृत रोग आणि महिलांचे आरोग्य तसेच मानसिक आरोग्याच्या स्थितींसह विविध समस्यांवरील खोटे आणि दिशाभूल करणारा वैद्यकीय सल्ला उघड झाला.

तज्ञांनी सांगितले की मनोविकृती आणि खाण्याच्या विकारांसारख्या परिस्थितींसाठी काही एआय विहंगावलोकन “खूप धोकादायक सल्ला” देतात आणि “अयोग्य, हानिकारक किंवा लोकांना मदत घेणे टाळण्यास प्रवृत्त करतात” असे.

Google सुरक्षा चेतावणी देखील कमी करत आहे की त्याचा AI-व्युत्पन्न वैद्यकीय सल्ला चुकीचा असू शकतो, गार्डियन सापडला.

ह्यूजेस म्हणाले की असुरक्षित लोकांना “मानसिक आरोग्याविषयी धोकादायकपणे चुकीचे मार्गदर्शन” दिले जात आहे, ज्यात “लोकांना उपचार घेण्यापासून रोखू शकेल, कलंक किंवा भेदभाव वाढवू शकेल आणि सर्वात वाईट परिस्थितीत जीव धोक्यात येईल” असा सल्ला देण्यात आला आहे.

ती पुढे म्हणाली: “लोक सुरक्षित, अचूक आणि पुराव्याने आधारलेली माहिती मिळवण्यास पात्र आहेत, आत्मविश्वासाच्या पोशाखाने सादर केलेले न तपासलेले तंत्रज्ञान नाही.”

जलद मार्गदर्शक

या कथेबद्दल अँड्र्यू ग्रेगरीशी संपर्क साधा

दाखवा

तुमच्याकडे या कथेबद्दल काही शेअर करायचे असल्यास, तुम्ही खालीलपैकी एक पद्धत वापरून अँड्र्यूशी संपर्क साधू शकता.

गार्डियन ॲपमध्ये कथांबद्दल टिपा पाठवण्यासाठी एक साधन आहे. संदेश हे प्रत्येक गार्डियन मोबाईल ॲप करत असलेल्या नियमित क्रियाकलापांमध्ये एंड टू एंड एन्क्रिप्ट केलेले आणि लपवलेले असतात. हे निरीक्षकास हे जाणून घेण्यापासून प्रतिबंधित करते की तुम्ही आमच्याशी अजिबात संवाद साधत आहात, जे बोलले जात आहे ते सोडून द्या.

तुमच्याकडे आधीपासून गार्डियन ॲप नसेल तर ते डाउनलोड करा (iOS/Android) आणि मेनूवर जा. ‘सुरक्षित संदेशन’ निवडा.

ईमेल (सुरक्षित नाही)

तुम्हाला उच्च स्तरीय सुरक्षा किंवा गोपनीयतेची आवश्यकता नसल्यास तुम्ही ईमेल करू शकता andrew.gregory@theguardian.com

SecureDrop आणि इतर सुरक्षित पद्धती

जर तुम्ही निरीक्षण किंवा निरीक्षण न करता टोर नेटवर्क सुरक्षितपणे वापरू शकत असाल तर तुम्ही आमच्या द्वारे पालकांना संदेश आणि दस्तऐवज पाठवू शकता SecureDrop प्लॅटफॉर्म.

शेवटी, आमचे मार्गदर्शक येथे theguardian.com/tips आमच्याशी सुरक्षितपणे संपर्क साधण्याचे अनेक मार्ग सूचीबद्ध करते आणि प्रत्येकाच्या साधक आणि बाधकांची चर्चा करते.

चित्रण: गार्डियन डिझाइन / श्रीमंत चुलत भाऊ

एक वर्ष चालणारा हा आयोग AI आणि मानसिक आरोग्याच्या छेदनबिंदूवर पुरावे गोळा करेल आणि एक “खुली जागा” प्रदान करेल जिथे मानसिक आरोग्य स्थिती असलेल्या लोकांचे अनुभव “पाहिले, रेकॉर्ड केले आणि समजले” जातील.

रोझी वेदरले, माईंडमधील माहिती सामग्री व्यवस्थापक, म्हणाले की AI ओव्हरव्ह्यूजच्या आधी गुगलिंग मानसिक आरोग्य माहिती “परिपूर्ण नव्हती”, तरीही ते सहसा चांगले कार्य करते. ती म्हणाली: “वापरकर्त्यांना विश्वासार्ह आरोग्य वेबसाइटवर क्लिक करण्याची चांगली संधी होती ज्याने त्यांच्या प्रश्नाचे उत्तर दिले आणि नंतर ते पुढे गेले – बारकावे, जगण्याचा अनुभव, केस स्टडी, कोट्स, सामाजिक संदर्भ आणि समर्थनासाठी पुढील प्रवास.

“AI विहंगावलोकनांनी त्या समृद्धतेच्या जागी क्लिनिकल ध्वनी सारांशाने निश्चित केले आहे जे निश्चिततेचा भ्रम देते. ते वापरकर्त्याला स्पष्टतेचे एक प्रकार अधिक देतात (संक्षिप्त आणि साधे इंग्रजी), तर त्यांना स्पष्टतेचे दुसरे स्वरूप कमी देतात (माहितीच्या स्त्रोतामध्ये सुरक्षितता आणि त्यावर किती विश्वास ठेवायचा) हे एक अतिशय मोहक आहे, परंतु जबाबदार नाही.”

गुगलच्या प्रवक्त्याने सांगितले: “आम्ही एआय ओव्हरव्ह्यूजच्या गुणवत्तेत लक्षणीय गुंतवणूक करतो, विशेषत: आरोग्यासारख्या विषयांसाठी आणि बहुसंख्य लोक अचूक माहिती देतात.

“आमच्या सिस्टमने एखादी व्यक्ती संकटात असल्याची ओळख पटवण्यासाठी, आम्ही संबंधित, स्थानिक आपत्कालीन हॉटलाईन प्रदर्शित करण्याचे काम करतो. संदर्भित उदाहरणांचे पुनरावलोकन करण्याशिवाय, आम्ही त्यांच्या अचूकतेवर भाष्य करू शकत नाही.”