सोशल मीडियावर आरोग्याची चुकीची माहिती पसरवणाऱ्या खऱ्या डॉक्टरांचे AI डीपफेक्स | आरोग्य

TikTok आणि इतर सोशल मीडिया प्लॅटफॉर्म डॉक्टरांचे AI-व्युत्पन्न डीपफेक व्हिडिओ होस्ट करत आहेत ज्यांचे शब्द सप्लिमेंट्स विकण्यात आणि आरोग्याबद्दल चुकीची माहिती पसरवण्यासाठी वापरण्यात आले आहेत.

फुल फॅक्ट या फॅक्टचेकिंग संस्थेने असे शेकडो व्हिडिओ उघड केले आहेत वेलनेस नेस्ट या यूएस-आधारित सप्लीमेंट फर्मकडे दर्शकांना निर्देशित करणाऱ्या डॉक्टर आणि प्रभावशालींच्या तोतया आवृत्त्यांचे वैशिष्ट्य आहे.

सर्व डीपफेकमध्ये इंटरनेटवरून घेतलेल्या आरोग्य तज्ञाचे वास्तविक फुटेज समाविष्ट आहे. तथापि, चित्रे आणि ऑडिओ पुन्हा तयार केले गेले आहेत जेणेकरून स्पीकर रजोनिवृत्तीतून जात असलेल्या महिलांना कंपनीच्या वेबसाइटवरून प्रोबायोटिक्स आणि हिमालयन शिलाजीत सारखी उत्पादने खरेदी करण्यासाठी प्रोत्साहित करत आहेत.

या खुलाशांमुळे सोशल मीडिया दिग्गजांना AI-व्युत्पन्न सामग्री होस्ट करण्याबद्दल अधिक सावधगिरी बाळगण्याची आणि प्रमुख लोकांच्या मतांचा विपर्यास करणारी सामग्री लवकर काढून टाकण्याचे आवाहन करण्यात आले आहे.

“ही नक्कीच एक भयावह आणि चिंताजनक नवीन युक्ती आहे,” लिओ बेनेडिक्टस म्हणाले, ज्याने तपास केला होता, जे पूर्ण तथ्य शुक्रवारी प्रकाशित झाले.

त्यांनी जोडले की डीपफेक हेल्थ व्हिडिओचे निर्माते एआय तैनात करतात जेणेकरून “कोणीतरी आदरणीय किंवा मोठ्या प्रेक्षकासह अनेक आजारांवर उपचार करण्यासाठी या सप्लिमेंट्सचे समर्थन करत असल्याचे दिसते”.

प्रोफेसर डेव्हिड टेलर-रॉबिन्सन, लिव्हरपूल युनिव्हर्सिटीमधील आरोग्य असमानतेचे तज्ञ, ज्यांची प्रतिमा हाताळली गेली आहे त्यांच्यापैकी एक आहे. ऑगस्टमध्ये, त्याला हे पाहून धक्का बसला की TikTok 14 डॉक्टर केलेले व्हिडिओ होस्ट करत आहे जे त्याला सिद्ध न झालेल्या फायद्यांसह उत्पादनांची शिफारस करत असल्याचे दाखवत आहे.

जरी टेलर-रॉबिन्सन हे मुलांच्या आरोग्याचे तज्ञ आहेत, परंतु एका व्हिडिओमध्ये त्यांची क्लोन केलेली आवृत्ती “थर्मोमीटर लेग” नावाच्या कथित रजोनिवृत्तीच्या दुष्परिणामाबद्दल बोलत होती.

बनावट टेलर-रॉबिन्सनने शिफारस केली आहे की रजोनिवृत्तीच्या महिलांनी वेलनेस नेस्ट नावाच्या वेबसाइटला भेट द्यावी आणि “हळद, ब्लॅक कोहोश, डिमसह 10 विज्ञान-समर्थित वनस्पतींचे अर्क असलेले नैसर्गिक प्रोबायोटिक विकत घ्यावे. [diindolylmethane] आणि मोरिंगा, विशेषत: रजोनिवृत्तीची लक्षणे हाताळण्यासाठी निवडले गेले.

महिला सहकारी “अनेकदा खोल झोप, कमी गरम फ्लश आणि काही आठवड्यांत उजळ सकाळची तक्रार करतात”, डीपफेक डॉक्टर जोडले.

खऱ्या टेलर-रॉबिन्सनने शोधून काढले की जेव्हा सहकाऱ्याने त्याला सावध केले तेव्हाच त्याची उपमा वापरली जात होती. “सुरुवात करणे खरोखरच गोंधळात टाकणारे होते – सर्व अगदी अवास्तव,” तो म्हणाला. “माझ्या मुलांना ते आनंददायक वाटले.

“मला अत्यंत उल्लंघन झाल्याचे वाटले नाही, परंतु लोक माझ्या कामाच्या मागे उत्पादने विकतात या कल्पनेने आणि आरोग्यविषयक चुकीच्या माहितीमुळे मी अधिकच चिडलो.”

टेलर-रॉबिन्सनचे डीपफेक व्हिडिओ बनवण्यासाठी वापरलेले फुटेज त्यांनी एका सार्वजनिक ठिकाणी दिलेल्या लसीकरणावरील भाषणातून आले आहे. आरोग्य 2017 मध्ये इंग्लंड (PHE) परिषद आणि बाल गरिबीवर संसदीय सुनावणी ज्यामध्ये त्यांनी या वर्षी मे मध्ये पुरावे दिले. एका दिशाभूल करणाऱ्या व्हिडिओमध्ये, रजोनिवृत्तीबद्दल चर्चा करताना त्याला शपथ घेताना आणि चुकीच्या कमेंट्स करताना दाखवण्यात आले होते.

टेलर-रॉबिन्सनने तक्रार केल्यानंतर सहा आठवड्यांनी टिकटोकने व्हिडिओ काढून टाकले. “सुरुवातीला, त्यांनी सांगितले की काही व्हिडिओंनी त्यांच्या मार्गदर्शक तत्त्वांचे उल्लंघन केले आहे परंतु काही ठीक आहेत. ते मूर्खपणाचे होते – आणि विचित्र – कारण मी त्या सर्वांमध्ये होतो आणि ते सर्व डीपफेक होते. ते काढून टाकणे हे एक फसवे होते,” तो म्हणाला.

PHE चे माजी मुख्य कार्यकारी डंकन सेल्बी यांचे डॉक्टरेट स्टेटमेंट असलेले आठ डीपफेक देखील टिकटोककडे असल्याचे पूर्ण तथ्य आढळून आले. टेलर-रॉबिन्सन प्रमाणे, 2017 च्या त्याच इव्हेंटमधून घेतलेल्या व्हिडिओचा वापर करून, ज्यामध्ये टेलर-रॉबिन्सन बोलले होते, त्याला रजोनिवृत्तीबद्दल खोटे बोलत दाखवण्यात आले.

एक, “थर्मोमीटर लेग” बद्दल देखील, “एक आश्चर्यकारक अनुकरण”, सेल्बी म्हणाले. “हे सुरुवातीपासून शेवटपर्यंत संपूर्ण बनावट आहे. लोक या गोष्टींकडे लक्ष देतात या अर्थाने हे मजेदार नव्हते.”

फुल फॅक्टला X, Facebook आणि YouTube वर देखील असेच डीपफेक सापडले, जे सर्व वेलनेस नेस्ट किंवा वेलनेस नेस्ट यूके नावाच्या लिंक केलेल्या ब्रिटीश आउटलेटशी जोडलेले आहेत. प्रोफेसर टिम स्पेक्टर आणि दुसरे आहार तज्ञ, दिवंगत डॉ. मायकेल मॉस्ले यांसारख्या उच्च-प्रोफाइल डॉक्टरांचे उघड डीपफेक्स पोस्ट केले आहेत.

वेलनेस नेस्टने फुल फॅक्ट सांगितले की लोकांना फर्मच्या वेबसाइटला भेट देण्यास प्रोत्साहित करणारे डीपफेक व्हिडिओ त्यांच्या व्यवसायाशी “100% असंबद्ध” होते. त्यात असे म्हटले आहे की त्यांनी “एआय-व्युत्पन्न सामग्री कधीही वापरली नाही”, परंतु “जगभरातील संलग्न संस्थांवर नियंत्रण ठेवू शकत नाही किंवा त्यांचे निरीक्षण करू शकत नाही”.

लिबरल डेमोक्रॅटच्या आरोग्य प्रवक्त्या हेलन मॉर्गन म्हणाल्या: “बनावट डॉक्टरांपासून ते आत्महत्येला प्रोत्साहन देणाऱ्या बॉट्सपर्यंत, एआयचा वापर निरपराध लोकांची शिकार करण्यासाठी आणि आपल्या आरोग्य व्यवस्थेतील वाढत्या दरडींचा फायदा घेण्यासाठी केला जात आहे.

“लिबरल डेमोक्रॅट्स वैद्यकीय व्यावसायिकांच्या रूपात AI deepfakes ला स्टँप आउट करण्यासाठी कॉल करत आहेत, वैद्यकीयदृष्ट्या मान्यताप्राप्त साधनांचा जोरदार प्रचार केला जातो जेणेकरून आम्ही पोकळी भरू शकू.

“जर या व्यक्ती डॉक्टर असल्याचे भासवत फसवणूक करत असतील तर त्यांच्यावर फौजदारी खटला भरला जाईल. डिजिटल समतुल्य का सहन केले जात आहे?

“जेथे कोणी एआय बॉटकडून आरोग्य सल्ला घेते त्यांना आपोआप NHS सपोर्टकडे पाठवले जावे जेणेकरुन त्यांना आवश्यक असलेले निदान आणि उपचार मिळू शकतील, ज्यांना वैद्यकीय विकृत माहितीचा फायदा होतो त्यांच्यासाठी गुन्हेगारी दायित्व आहे.”

टिकटोकच्या प्रवक्त्याने सांगितले: “आम्ही ही सामग्री काढून टाकली आहे [relating to Taylor-Robinson and Selbie] हानीकारक चुकीची माहिती आणि तोतयागिरी यांसारख्या आमच्या समुदायाची दिशाभूल करू पाहणाऱ्या वर्तनांविरुद्ध आमचे नियम तोडल्याबद्दल.

“एआय-व्युत्पन्न सामग्री हानीकारकपणे दिशाभूल करणे हे उद्योगव्यापी आव्हान आहे आणि आम्ही आमच्या समुदाय मार्गदर्शक तत्त्वांचे उल्लंघन करणारी सामग्री शोधण्यासाठी आणि काढून टाकण्यासाठी नवीन मार्गांनी गुंतवणूक करत आहोत.”

टिप्पणीसाठी आरोग्य आणि सामाजिक सेवा विभागाशी संपर्क साधण्यात आला.