‘धोकादायक आणि चिंताजनक’: वापरकर्त्यांचे आरोग्य धोक्यात आल्यानंतर Google ने त्याचे काही AI सारांश काढून टाकले | Google

Google ने त्याचे काही कृत्रिम बुद्धिमत्ता आरोग्य सारांश काढून टाकले आहे एक पालक तपासणी खोट्या आणि दिशाभूल करणाऱ्या माहितीमुळे लोकांना हानी होण्याचा धोका असल्याचे आढळले.

कंपनीने म्हटले आहे की त्यांचे एआय विहंगावलोकन, जे एखाद्या विषयाबद्दल किंवा प्रश्नाबद्दल आवश्यक माहितीचे स्नॅपशॉट प्रदान करण्यासाठी जनरेटिव्ह एआय वापरतात, “उपयुक्त“आणि”विश्वसनीय“

परंतु काही सारांश, जे शोध परिणामांच्या शीर्षस्थानी दिसतात, चुकीची आरोग्य माहिती देतात, ज्यामुळे वापरकर्त्यांना हानी होण्याचा धोका असतो.

तज्ञांनी “धोकादायक” आणि “भयानक” म्हणून वर्णन केलेल्या एका प्रकरणात, Google महत्त्वपूर्ण यकृत कार्य चाचण्यांबद्दल बोगस माहिती प्रदान केली ज्यामुळे यकृताचा गंभीर आजार असलेल्या लोकांना आपण निरोगी आहोत असा चुकीचा विचार करू शकतो.

“यकृत रक्त तपासणीसाठी सामान्य श्रेणी काय आहे” टाइप केल्याने मोठ्या संख्येने संख्या, थोडे संदर्भ आणि राष्ट्रीयत्व, लिंग, वांशिकता किंवा रुग्णांच्या वयाचा कोणताही लेखाजोखा नाही, गार्डियनने आढळले.

गुगलच्या एआय विहंगावलोकनाने जे सांगितले ते सामान्य होते ते प्रत्यक्षात सामान्य मानल्या गेलेल्यापेक्षा खूप भिन्न असू शकते, तज्ञांनी सांगितले. सारांश गंभीरपणे आजारी रूग्णांना चुकीच्या पद्धतीने विचार करू शकतात की त्यांच्या चाचणीचा निकाल सामान्य आहे आणि फॉलो-अप हेल्थकेअर मीटिंगला उपस्थित राहण्याचा त्रास होत नाही.

तपासानंतरकंपनीने “यकृत रक्त चाचण्यांसाठी सामान्य श्रेणी काय आहे” आणि “यकृत कार्य चाचण्यांसाठी सामान्य श्रेणी काय आहे” या शोध संज्ञांसाठी AI विहंगावलोकन काढून टाकले आहे.

Google प्रवक्त्याने सांगितले: “आम्ही शोध मधील वैयक्तिक काढण्यावर टिप्पणी करत नाही. ज्या प्रकरणांमध्ये AI विहंगावलोकन काही संदर्भ चुकतात, आम्ही व्यापक सुधारणा करण्यासाठी कार्य करतो आणि आमच्या धोरणांनुसार योग्य तेथे कारवाई देखील करतो.”

व्हेनेसा हेब्डिच, ब्रिटीश लिव्हर ट्रस्ट, यकृत हेल्थ चॅरिटी येथील संप्रेषण आणि धोरण संचालक, म्हणाल्या: “ही उत्कृष्ट बातमी आहे आणि या घटनांमध्ये Google AI विहंगावलोकन काढून टाकल्याबद्दल आम्हाला आनंद झाला आहे.

“तथापि, प्रश्न वेगळ्या पद्धतीने विचारला गेल्यास, संभाव्यत: दिशाभूल करणारा AI विहंगावलोकन अद्याप दिला जाऊ शकतो आणि आम्ही चिंतित आहोत की इतर AI-निर्मित आरोग्य माहिती चुकीची आणि गोंधळात टाकणारी असू शकते.”

द गार्डियनला असे आढळले की Google मध्ये मूळ प्रश्नांची थोडीशी भिन्नता, जसे की “lft संदर्भ श्रेणी” किंवा “lft चाचणी संदर्भ श्रेणी” टाइप केल्याने AI विहंगावलोकन सूचित केले गेले. ही एक मोठी चिंता होती, हेबडिच म्हणाले.

“लिव्हर फंक्शन टेस्ट किंवा एलएफटी हा वेगवेगळ्या रक्त चाचण्यांचा संग्रह आहे. परिणाम समजून घेणे आणि पुढे काय करायचे हे समजून घेणे अवघड आहे आणि त्यात संख्यांच्या संचाची तुलना करण्यापेक्षा बरेच काही समाविष्ट आहे.

“परंतु AI विहंगावलोकन चाचण्यांची यादी ठळक अक्षरात सादर करतात, ज्यामुळे वाचकांना चुकणे खूप सोपे होते की हे आकडे कदाचित त्यांच्या चाचणीसाठी योग्य नसतील.

“याशिवाय, एआय विहंगावलोकन चेतावणी देण्यास अयशस्वी ठरतात की एखाद्याला गंभीर यकृताचा आजार असताना या चाचण्यांचे सामान्य परिणाम मिळू शकतात आणि त्यांना पुढील वैद्यकीय सेवेची आवश्यकता असते. हे खोटे आश्वासन खूप हानिकारक असू शकते.”

गुगल, ज्याचा जागतिक शोध इंजिन मार्केटमध्ये 91% वाटा आहेते गार्डियनने दिलेल्या नवीन उदाहरणांचे पुनरावलोकन करत असल्याचे सांगितले.

हेब्डिच म्हणाले: “या सर्व गोष्टींसह आमची मोठी चिंता ही आहे की ते एकच शोध परिणाम निवडत आहे आणि Google फक्त त्यासाठी एआय ओव्हरव्ह्यूज बंद करू शकते परंतु ते आरोग्यासाठी एआय ओव्हरव्ह्यूजच्या मोठ्या समस्येला सामोरे जात नाही.”

रुग्ण, सार्वजनिक आणि आरोग्यसेवा व्यावसायिकांना पुराव्यावर आधारित आरोग्य माहितीचा प्रचार करणाऱ्या पेशंट इन्फॉर्मेशन फोरमच्या अध्यक्ष स्यू फॅरिंग्टन यांनी सारांश काढून टाकण्याचे स्वागत केले परंतु त्यांना अजूनही चिंता असल्याचे सांगितले.

“हा एक चांगला परिणाम आहे परंतु Google च्या आरोग्य-संबंधित शोध परिणामांवर विश्वास ठेवण्यासाठी आवश्यक असलेली ही पहिली पायरी आहे. अजूनही Google AI विहंगावलोकन अशी बरीच उदाहरणे आहेत जी लोकांना चुकीची आरोग्य माहिती देतात.”

जगभरात लाखो प्रौढ आधीच विश्वासार्ह आरोग्य माहिती मिळविण्यासाठी संघर्ष करत आहेत, फॅरिंग्टन म्हणाले. “म्हणूनच हे खूप महत्त्वाचे आहे की Google लोकांना मजबूत, संशोधन केलेली आरोग्य माहिती आणि विश्वसनीय आरोग्य संस्थांकडून काळजीच्या ऑफरसाठी साइनपोस्ट करते.”

एआय विहंगावलोकन अजूनही पॉप अप करतात गार्डियनने मूळतः Google वर हायलाइट केलेली इतर उदाहरणे. त्यामध्ये कर्करोग आणि मानसिक आरोग्याविषयीच्या माहितीचा सारांश समाविष्ट आहे ज्याचे तज्ञांनी वर्णन “पूर्णपणे चुकीचे” आणि “खरोखर धोकादायक” केले आहे.

हे AI विहंगावलोकन देखील का काढले गेले नाहीत असे विचारले असता, Google ने सांगितले की ते सुप्रसिद्ध आणि प्रतिष्ठित स्त्रोतांशी जोडलेले आहेत आणि तज्ञांचा सल्ला घेणे महत्वाचे आहे तेव्हा लोकांना माहिती दिली.

एका प्रवक्त्याने सांगितले: “आमच्या वैद्यकीय तज्ञांच्या अंतर्गत कार्यसंघाने आमच्याशी काय सामायिक केले आहे याचे पुनरावलोकन केले आणि असे आढळले की बऱ्याच घटनांमध्ये, माहिती चुकीची नव्हती आणि उच्च दर्जाच्या वेबसाइट्सद्वारे देखील समर्थित आहे.”

तंत्रज्ञान वेबसाइट फ्युच्युरिझमचे वरिष्ठ संपादक व्हिक्टर टँगरमन म्हणाले की, गार्डियनच्या तपासणीच्या निकालांवरून असे दिसून आले आहे की Google ला काम करायचे आहे.त्याचे AI साधन धोकादायक आरोग्य चुकीची माहिती देत ​​नाही याची खात्री करण्यासाठी“

जलद मार्गदर्शक

या कथेबद्दल अँड्र्यू ग्रेगरीशी संपर्क साधा

दाखवा

तुमच्याकडे या कथेबद्दल काही शेअर करायचे असल्यास, तुम्ही खालीलपैकी एक पद्धत वापरून अँड्र्यूशी संपर्क साधू शकता.

गार्डियन ॲपमध्ये कथांबद्दल टिपा पाठवण्यासाठी एक साधन आहे. संदेश हे प्रत्येक गार्डियन मोबाईल ॲप करत असलेल्या नियमित क्रियाकलापांमध्ये एंड टू एंड एन्क्रिप्ट केलेले आणि लपवलेले असतात. हे निरीक्षकास हे जाणून घेण्यापासून प्रतिबंधित करते की तुम्ही आमच्याशी अजिबात संवाद साधत आहात, जे बोलले जात आहे ते सोडून द्या.

तुमच्याकडे आधीपासून गार्डियन ॲप नसेल तर ते डाउनलोड करा (iOS/Android) आणि मेनूवर जा. ‘सुरक्षित संदेशन’ निवडा.

ईमेल (सुरक्षित नाही)

तुम्हाला उच्च स्तरीय सुरक्षा किंवा गोपनीयतेची आवश्यकता नसल्यास तुम्ही ईमेल करू शकता andrew.gregory@theguardian.com

SecureDrop आणि इतर सुरक्षित पद्धती

जर तुम्ही निरीक्षण किंवा निरीक्षण न करता टोर नेटवर्क सुरक्षितपणे वापरू शकत असाल तर तुम्ही आमच्या द्वारे पालकांना संदेश आणि दस्तऐवज पाठवू शकता SecureDrop प्लॅटफॉर्म.

शेवटी, आमचे मार्गदर्शक येथे theguardian.com/tips आमच्याशी सुरक्षितपणे संपर्क साधण्याचे अनेक मार्ग सूचीबद्ध करते आणि प्रत्येकाच्या साधक आणि बाधकांची चर्चा करते.

चित्रण: गार्डियन डिझाइन / श्रीमंत चुलत भाऊ

Google ने म्हटले आहे की AI विहंगावलोकन केवळ त्या प्रश्नांवरच दर्शविले जातात जेथे प्रतिसादांच्या गुणवत्तेवर उच्च विश्वास आहे. कंपनी सतत माहितीच्या विविध श्रेणींमध्ये तिच्या सारांशांच्या गुणवत्तेचे मोजमाप करते आणि पुनरावलोकन करते, असेही त्यात म्हटले आहे.

साठी एका लेखात शोध इंजिन जर्नलज्येष्ठ लेखक मॅट सदर्न म्हणाले: “एआय विहंगावलोकन वर रँक केलेल्या परिणामांवर दिसतात. जेव्हा विषय आरोग्याचा असतो तेव्हा त्रुटी अधिक वजन घेतात.”