Google AI विहंगावलोकन भ्रामक आरोग्य सल्ल्याने लोकांना हानी होण्याचा धोका निर्माण करतात Google

गुगलच्या कृत्रिम बुद्धिमत्ता सारांशांमध्ये खोट्या आणि दिशाभूल करणाऱ्या आरोग्य माहितीमुळे लोकांना हानी होण्याचा धोका आहे, असे गार्डियन तपासणीत आढळून आले आहे.

कंपनीने म्हटले आहे की त्यांचे एआय विहंगावलोकन, जे एखाद्या विषयाबद्दल किंवा प्रश्नाबद्दल आवश्यक माहितीचे स्नॅपशॉट प्रदान करण्यासाठी जनरेटिव्ह एआय वापरतात, “उपयुक्त“आणि”विश्वसनीय“

परंतु काही सारांश, जे शोध परिणामांच्या शीर्षस्थानी दिसतात, चुकीची आरोग्य माहिती देतात आणि लोकांना हानी होण्याचा धोका निर्माण करतात.

तज्ञांनी “खरोखर धोकादायक” असे वर्णन केलेल्या एका प्रकरणात, Google ने स्वादुपिंडाचा कर्करोग असलेल्या लोकांना जास्त चरबीयुक्त पदार्थ टाळण्याचा चुकीचा सल्ला दिला. तज्ञांनी सांगितले की हे ज्याची शिफारस केली जावी त्याच्या अगदी विरुद्ध आहे आणि या रोगामुळे रुग्णांचा मृत्यू होण्याचा धोका वाढू शकतो.

दुसऱ्या “भयानक” उदाहरणात, कंपनीने महत्त्वपूर्ण यकृत कार्य चाचण्यांबद्दल बोगस माहिती प्रदान केली, ज्यामुळे गंभीर यकृत रोग असलेल्या लोकांना ते निरोगी असल्याचा चुकीचा विचार करता येऊ शकतो.

महिलांच्या कर्करोगाच्या चाचण्यांबद्दल उत्तरे शोधण्यासाठी Google ने देखील “पूर्णपणे चुकीची” माहिती प्रदान केली आहे, ज्याचा परिणाम तज्ज्ञांनी म्हटले आहे की लोक खरी लक्षणे काढून टाकू शकतात.

गुगलच्या प्रवक्त्याने सांगितले की त्यांच्यासोबत सामायिक केलेली अनेक आरोग्य उदाहरणे “अपूर्ण स्क्रीनशॉट” होती, परंतु ते “सुप्रसिद्ध, प्रतिष्ठित स्त्रोतांशी जोडलेले आहेत आणि तज्ञांचा सल्ला घेण्याची शिफारस करतात” असे ते मूल्यांकन करू शकतात.

AI डेटा विश्वासार्ह आहे असे गृहीत धरू शकणाऱ्या ग्राहकांना गोंधळात टाकू शकतो या वाढत्या चिंतेच्या पार्श्वभूमीवर गार्डियन तपासणी पुढे आली आहे. गेल्या वर्षी नोव्हेंबरमध्ये, एका अभ्यासात विविध प्लॅटफॉर्मवर एआय चॅटबॉट्स आढळले चुकीचा आर्थिक सल्ला दिलाबद्दल समान चिंता व्यक्त करण्यात आली असताना बातम्यांचा सारांश.

रूग्ण, सार्वजनिक आणि आरोग्यसेवा व्यावसायिकांना पुराव्यावर आधारित आरोग्य माहितीचा प्रचार करणाऱ्या पेशंट इन्फॉर्मेशन फोरमच्या संचालक सोफी रँडल म्हणाले की, “Google चे AI विहंगावलोकन चुकीची आरोग्य माहिती ऑनलाइन शोधांच्या शीर्षस्थानी ठेवू शकते, ज्यामुळे लोकांच्या आरोग्याला धोका निर्माण होऊ शकतो”.

स्टेफनी पार्कर, मेरी क्युरी, जीवनाच्या शेवटच्या धर्मादाय संस्थेच्या डिजिटल संचालक, म्हणाल्या: “लोक चिंता आणि संकटाच्या क्षणी इंटरनेटकडे वळतात. जर त्यांना मिळालेली माहिती चुकीची किंवा संदर्भाबाहेर असेल तर ते त्यांच्या आरोग्यास गंभीरपणे हानी पोहोचवू शकते.”

अनेक आरोग्य गट, धर्मादाय संस्था आणि व्यावसायिकांनी चिंता व्यक्त केल्यानंतर द गार्डियनने Google च्या AI ओव्हरव्ह्यूजमध्ये चुकीच्या आरोग्य माहितीची अनेक प्रकरणे उघड केली.

पॅनक्रियाटिक कॅन्सर यूकेच्या सपोर्ट, रिसर्च आणि इन्फ्लुएशनच्या डायरेक्टर ॲना ज्युवेल यांनी सांगितले की, रुग्णांना जास्त चरबीयुक्त पदार्थ टाळण्याचा सल्ला देणे “पूर्णपणे चुकीचे” आहे. असे करणे “खरोखर धोकादायक असू शकते आणि एखाद्या व्यक्तीच्या उपचारासाठी पुरेसे बरे होण्याची शक्यता धोक्यात येऊ शकते”, ती पुढे म्हणाली.

ज्वेल म्हणाले: “Google AI प्रतिसाद सूचित करतो की स्वादुपिंडाचा कर्करोग असलेले लोक जास्त चरबीयुक्त पदार्थ टाळतात आणि उदाहरणांची यादी देतात. तथापि, जर एखाद्याने शोध परिणामाने सांगितलेल्या गोष्टींचे पालन केले तर ते पुरेसे कॅलरीज घेऊ शकत नाहीत, वजन वाढवण्यासाठी संघर्ष करू शकत नाहीत आणि केमोथेरपी किंवा संभाव्य जीवन वाचवणारी शस्त्रक्रिया सहन करू शकत नाहीत.”

“यकृत रक्त चाचण्यांसाठी सामान्य श्रेणी काय आहे” टाइप केल्याने भ्रामक माहिती देखील दिली गेली, ज्यामध्ये मोठ्या संख्येने संख्या, थोडेसे संदर्भ आणि राष्ट्रीयत्व, लिंग, वांशिकता किंवा रुग्णांच्या वयाचा कोणताही लेखाजोखा नाही.

ब्रिटिश लिव्हर ट्रस्टच्या मुख्य कार्यकारी पामेला हिली यांनी सांगितले की एआय सारांश चिंताजनक आहेत. “यकृताच्या आजाराने ग्रस्त असलेल्या बऱ्याच लोकांना शेवटच्या टप्प्यापर्यंत कोणतीही लक्षणे दिसत नाहीत, म्हणूनच त्यांची चाचणी घेणे खूप महत्वाचे आहे. परंतु Google AI विहंगावलोकन जे म्हणतात ते ‘सामान्य’ आहे ते प्रत्यक्षात सामान्य मानल्या जाणाऱ्यापेक्षा खूप भिन्न असू शकते.

“हे धोकादायक आहे कारण याचा अर्थ असा आहे की यकृताचा गंभीर आजार असलेल्या काही लोकांना असे वाटू शकते की त्यांचा सामान्य परिणाम आहे आणि त्यानंतर फॉलो-अप हेल्थकेअर मीटिंगला उपस्थित राहण्याची चिंता करू नका.”

“योनि कॅन्सरची लक्षणे आणि चाचण्या” साठी शोधात योनिमार्गाच्या कर्करोगाची चाचणी म्हणून पॅप चाचणी सूचीबद्ध केली आहे, जी चुकीची आहे.

इव्ह अपील कॅन्सर धर्मादाय संस्थेच्या मुख्य कार्यकारी अथेना लॅमनिसोस म्हणाल्या: “कर्करोग शोधण्यासाठी ही चाचणी नाही आणि योनीमार्गाचा कर्करोग शोधण्यासाठी ही चाचणी नक्कीच नाही – ही पूर्णपणे चुकीची माहिती आहे. अशा प्रकारची चुकीची माहिती मिळाल्यामुळे एखाद्या व्यक्तीला योनिमार्गाच्या कर्करोगाची लक्षणे तपासता येत नाहीत कारण त्यांना नुकत्याच झालेल्या गर्भाशय ग्रीवाच्या स्क्रीनवर स्पष्ट परिणाम दिसून आला.

“आम्ही नेमका तोच शोध घेतला तेव्हा AI सारांश बदलला, प्रत्येक वेळी वेगवेगळ्या स्त्रोतांकडून वेगळा प्रतिसाद मिळतो. याचा अर्थ असा होतो की लोक कधी शोधतात त्यानुसार वेगळे उत्तर मिळत आहे आणि ते पुरेसे चांगले नाही.”

लॅमनिसोस म्हणाली की ती अत्यंत चिंतेत आहे. “आम्ही पाहिलेले काही परिणाम खरोखरच चिंताजनक आहेत आणि संभाव्यतः महिलांना धोक्यात आणू शकतात,” ती म्हणाली.

The Guardian हे देखील आढळले आहे की Google AI Overviews ने मानसिक आरोग्य स्थितींबद्दलच्या शोधांसाठी दिशाभूल करणारे परिणाम दिले आहेत. “एक धर्मादाय म्हणून आमच्यासाठी ही एक मोठी चिंतेची बाब आहे,” स्टीफन बकले, माइंड येथील माहिती प्रमुख म्हणाले.

मनोविकृती आणि खाण्याच्या विकारांसारख्या परिस्थितींसाठी AI सारांशांपैकी काही “खूप धोकादायक सल्ला” देतात आणि “अयोग्य, हानिकारक किंवा लोकांना मदत घेणे टाळण्यास प्रवृत्त करतात”, बकले म्हणाले.

काहींनी महत्त्वाचे संदर्भ किंवा बारकावे चुकवले, असेही ते म्हणाले. “ते अयोग्य असलेल्या साइटवरून माहिती ऍक्सेस करण्याचे सुचवू शकतात … आणि आम्हाला माहित आहे की जेव्हा AI माहितीचा सारांश देते, तेव्हा ते बऱ्याचदा विद्यमान पूर्वाग्रह, रूढीवादी किंवा लांछनात्मक कथा दर्शवू शकते.”

Google ने म्हटले आहे की त्याचे बहुसंख्य AI विहंगावलोकन तथ्यात्मक आणि उपयुक्त होते आणि त्यांनी सतत गुणवत्तेत सुधारणा केल्या. एआय विहंगावलोकनचा अचूकता दर त्याच्या इतर शोध वैशिष्ट्यांच्या बरोबरीने होता, जसे की वैशिष्ट्यीकृत स्निपेट्स, जे एका दशकाहून अधिक काळ अस्तित्वात होते.

कंपनीने असेही म्हटले आहे की जेव्हा एआय ओव्हरव्ह्यूजने वेब सामग्रीचा चुकीचा अर्थ लावला किंवा संदर्भ चुकला, तेव्हा ती तिच्या धोरणांनुसार योग्य ती कारवाई करेल.

गुगलच्या प्रवक्त्याने सांगितले: “आम्ही एआय ओव्हरव्ह्यूजच्या गुणवत्तेत लक्षणीय गुंतवणूक करतो, विशेषत: आरोग्यासारख्या विषयांसाठी आणि बहुसंख्य लोक अचूक माहिती देतात.”