लाखो लोक टेलिग्रामवर डीपफेक न्यूड्स तयार करतात कारण AI टूल्स डिजिटल गैरवापराची जागतिक लाट आणतात | जागतिक विकास

जगभरातील लाखो लोक सुरक्षित मेसेजिंग ॲपवर डीपफेक न्यूड्स तयार आणि शेअर करत आहेत टेलीग्रामएका गार्डियन विश्लेषणाने दर्शविले आहे की, प्रगत AI साधनांचा प्रसार स्त्रियांच्या ऑनलाइन गैरवर्तनाचे औद्योगिकीकरण करतो.

द गार्डियनने कमीत कमी 150 टेलिग्राम चॅनेल ओळखले आहेत – मोठ्या एन्क्रिप्टेड गट चॅट्स त्यांच्या सुरक्षित संप्रेषणासाठी लोकप्रिय आहेत – ज्यांचे यूके ते ब्राझील, चीन ते नायजेरिया, रशिया ते भारत अशा अनेक देशांमध्ये वापरकर्ते आहेत. त्यापैकी काही फीसाठी “न्युडिफाईड” फोटो किंवा व्हिडिओ ऑफर करतात: वापरकर्ते कोणत्याही महिलेचा फोटो अपलोड करू शकतात आणि AI लैंगिक कृत्ये करत असलेल्या महिलेचा व्हिडिओ तयार करेल. AI द्वारे नग्न किंवा लैंगिक कृत्ये करण्यासाठी प्रसिद्ध व्यक्ती, सोशल मीडिया प्रभावक आणि सामान्य स्त्रिया यांच्या – आणखी अनेक प्रतिमांचे फीड ऑफर करतात. अनुयायी उपलब्ध डीपफेक साधनांवरील टिपा सामायिक करण्यासाठी चॅनेल देखील वापरत आहेत.

टेलिग्राम चॅनेल फार पूर्वीपासून आहेत समर्पित स्त्रियांच्या संमती नसलेल्या नग्न प्रतिमांचे वितरण करण्यासाठी, एआय टूल्सच्या व्यापक उपलब्धतेचा अर्थ असा आहे की कोणीही लाखो लोकांना पाहण्यायोग्य ग्राफिक लैंगिक सामग्रीचा त्वरित विषय बनू शकतो.

एका रशियन भाषेतील टेलिग्राम चॅनेलवर डीपफेक “ब्लॉगर लीक” आणि “सेलिब्रेटी लीक” जाहिरातींवर, एआय न्युडिफिकेशन टेलीग्राम बॉट बद्दलच्या एका पोस्टमध्ये “नाही’ हा शब्द माहित नसलेल्या न्यूरल नेटवर्कचे” वचन दिले आहे.

“पोझिशन्स, आकार आणि स्थाने निवडा. तिच्याबरोबर सर्वकाही करा जे तुम्ही वास्तविक जीवनात करू शकत नाही,” असे त्यात म्हटले आहे.

सुमारे 25,000 सदस्यांसह चिनी भाषेतील टेलिग्राम चॅनेलवर, पुरुषांनी त्यांच्या “पहिल्या प्रेमाचे” किंवा त्यांच्या “मैत्रिणीच्या बेस्ट फ्रेंड” चे व्हिडिओ शेअर केले, जे AI वापरून काढून टाकले.

नायजेरियन वापरकर्त्यांना लक्ष्य केलेले टेलीग्राम चॅनेलचे वेब शेकडो चोरलेल्या नग्न आणि अंतरंग प्रतिमांच्या सोबत डीपफेक प्रसारित करते.

टेलिग्राम हे एक सुरक्षित मेसेजिंग ॲप आहे जे वापरकर्त्यांना अमर्यादित संपर्कांसाठी सामग्री प्रसारित करण्यासाठी गट किंवा चॅनेल तयार करण्यास अनुमती देते. प्लॅटफॉर्मच्या खाली सेवा अटीवापरकर्ते “सार्वजनिकपणे पाहण्यायोग्य” चॅनेल आणि बॉट्सवर “बेकायदेशीर अश्लील सामग्री” पोस्ट करू शकत नाहीत किंवा “बहुसंख्य देशांमध्ये बेकायदेशीर म्हणून ओळखल्या जाणाऱ्या क्रियाकलापांमध्ये व्यस्त राहू शकत नाहीत.”

स्वतंत्र विश्लेषण आणि डेटाबेस सेवेचे पुनरावलोकन Telemetr.ioचा डेटा, ज्यामध्ये अशा चॅनेलची अनुक्रमणिका आहे, हे सूचित करते की टेलीग्रामने अनेक न्युडिफिकेशन चॅनेल बंद केले आहेत.

टेलिग्रामने गार्डियनला सांगितले की डीपफेक पोर्नोग्राफी आणि ती तयार करण्यासाठीची साधने त्याच्या सेवा अटींद्वारे स्पष्टपणे निषिद्ध आहेत, ते जोडून की “जेव्हाही अशी सामग्री शोधली जाते तेव्हा नियमितपणे काढून टाकली जाते. कस्टम AI साधनांसह सशक्त नियंत्रक प्लॅटफॉर्मच्या सार्वजनिक भागांचे सक्रियपणे निरीक्षण करतात आणि आमच्या डीप पॉर्नोग्राफीच्या सेवा अटींचा भंग करणारी सामग्री काढून टाकण्यासाठी अहवाल स्वीकारतात.”

टेलीग्रामने आपल्या विधानात म्हटले आहे की त्यांनी 2025 मध्ये 952,000 हून अधिक आक्षेपार्ह सामग्री काढून टाकली.

अलीकडच्या आठवड्यात, इलॉन मस्कच्या सोशल मीडिया प्लॅटफॉर्म X वरील जनरेटिव्ह AI चॅटबॉट Grok ला विचारले गेल्यानंतर, लैंगिक डीपफेक तयार करण्यासाठी आणि महिलांना अपमानित करण्यासाठी AI साधनांचा वापर सार्वजनिक प्रवचनात झाला आहे. तयार करा हजारो प्रतिमा संमतीशिवाय, बिकिनी किंवा कमीतकमी कपड्यांमधील महिला.

परिणामी आक्रोश मस्कची आर्टिफिशियल इंटेलिजन्स कंपनी, xAI, ने घोषणा केली की ते Grok ला खऱ्या लोकांची चित्रे बिकिनीमध्ये संपादित करण्याची परवानगी देणे थांबवेल. यूकेच्या मीडिया नियामक, ऑफकॉमने देखील X ची चौकशी जाहीर केली.

परंतु टेलीग्रामसह मंच, वेबसाइट्स आणि ॲप्सचा एक जलाशय आहे, ज्यामुळे लाखो लोकांना ग्राफिक, गैर-सहमत सामग्रीवर सहज प्रवेश मिळतो – आणि याद्वारे उल्लंघन होत असलेल्या महिलांच्या माहितीशिवाय, मागणीनुसार ही सामग्री तयार करणे आणि सामायिक करणे. एक अहवाल प्रसिद्ध केला मंगळवारी टेक ट्रान्सपरन्सी प्रोजेक्टद्वारे असे आढळून आले की Google Play Store आणि Apple App Store मध्ये डझनभर न्युडिफिकेशन ॲप्स उपलब्ध आहेत आणि एकत्रितपणे त्यांना 705m डाउनलोड झाले आहेत.

ॲपलच्या प्रवक्त्याने सांगितले की, कंपनीने टेक ट्रान्सपरन्सी प्रोजेक्टद्वारे ओळखल्या गेलेल्या 47 पैकी 28 न्युडिफिकेशन ॲप्स काढून टाकल्या आहेत, तर गुगलच्या प्रवक्त्याने सांगितले की त्यांच्या सेवेवरील “बहुतेक ॲप्स” निलंबित केले गेले आहेत आणि चौकशी चालू आहे.

टेलीग्राम चॅनेल हे एका व्यापक इंटरनेट इकोसिस्टमचा मुख्य आधार आहेत जे गैर-सहमतीच्या अंतरंग प्रतिमा तयार करण्यासाठी आणि प्रसारित करण्यासाठी समर्पित आहेत, असे लंडन-आधारित इन्स्टिट्यूट फॉर स्ट्रॅटेजिक डायलॉगमधील लिंग-आधारित हिंसेवर लक्ष केंद्रित करणाऱ्या संशोधक ॲन क्रॅनेन यांनी सांगितले.

ते वापरकर्त्यांना Google सारख्या मोठ्या प्लॅटफॉर्मच्या नियंत्रणापासून दूर राहण्याची आणि AI मॉडेल्सना ही सामग्री तयार करण्यापासून प्रतिबंधित करणाऱ्या सुरक्षा उपायांना कसे बायपास करायचे यावरील टिपा सामायिक करण्यास अनुमती देतात. पण “या साहित्याचा प्रसार आणि उत्सव हा आणखी एक भाग आहे”, ती म्हणाली. “ते इतर पुरुषांसोबत प्रसारित करणे आणि त्याबद्दल बढाई मारणे, आणि उत्सवाचा तो पैलू देखील खरोखरच महत्त्वाचा आहे. हे खरोखरच त्यातील चुकीचे स्वभाव दर्शवते. ते स्त्रियांना शिक्षा करण्याचा किंवा स्त्रियांना गप्प करण्याचा प्रयत्न करीत आहेत.”

गेल्या वर्षी मेटा बंद झाला इटालियन फेसबुक ग्रुप ज्यामध्ये पुरुषांनी त्यांच्या भागीदार आणि संशयास्पद महिलांच्या अंतरंग प्रतिमा शेअर केल्या आहेत. तो गट काढण्यापूर्वी, माझी बायको (म्हणजे “माझी पत्नी”), सुमारे 32,000 सदस्य होते.

तथापि, तपास वृत्तपत्र सूचक मेटाला त्याच्या प्लॅटफॉर्मवर AI न्युडिफिकेशन टूल्सच्या जाहिरातींचा प्रवाह थांबवण्यात अयशस्वी झाल्याचे आढळले आणि गेल्या वर्षी 4 डिसेंबरपासून त्याच्या प्लॅटफॉर्मवर किमान 4,431 न्युडिफायर जाहिराती ओळखल्या, जरी काही घोटाळे असल्याचे दिसून आले. मेटा प्रवक्त्याने सांगितले की ते त्याच्या धोरणांचे उल्लंघन करणाऱ्या जाहिराती काढून टाकते.

AI टूल्सने महिलांवरील ऑनलाइन हिंसाचारात जागतिक वाढ तीव्र केली आहे, ज्यामुळे जवळजवळ कोणालाही अपमानास्पद प्रतिमा बनवता येतात आणि शेअर करता येतात. जागतिक दक्षिणेसह अनेक अधिकारक्षेत्रांमध्ये, गुन्हेगारांना जबाबदार धरण्यासाठी काही कायदेशीर मार्ग अस्तित्वात आहेत. 2024 नुसार, 40% पेक्षा कमी देशांमध्ये महिला आणि मुलींना सायबर-छळ किंवा सायबरस्टॉकिंगपासून संरक्षण करणारे कायदे आहेत जागतिक बँक डेटा द यूएन अंदाज की 1.8 अब्ज महिला आणि मुलींना अजूनही ऑनलाइन छळवणूक आणि इतर प्रकारच्या तंत्रज्ञान-सुविधायुक्त गैरवर्तनापासून कायदेशीर संरक्षणाची कमतरता आहे

नियमन नसणे हे कमी उत्पन्न असलेल्या देशांतील महिला आणि मुली विशेषतः असुरक्षित असल्याचे फक्त एक कारण आहे, असे प्रचारक म्हणतात. खराब डिजिटल साक्षरता आणि गरिबी यासारख्या समस्या जोखीम वाढवू शकतात. Ugochi Ihe, TechHer या नायजेरिया-आधारित संस्थेच्या सहयोगी जी महिला आणि मुलींना तंत्रज्ञान शिकण्यास आणि काम करण्यास प्रोत्साहित करते, ती म्हणते की कर्ज ॲप्समधून पैसे उधार घेणाऱ्या महिला “AI वापरून बेईमान पुरुषांकडून ब्लॅकमेलला बळी पडतात. दररोज गैरवर्तनाने ते अधिक सर्जनशील होत आहे” अशी प्रकरणे तिच्या समोर आली आहेत.

मानसिक आरोग्य समस्या, अलगाव आणि कामाचे नुकसान यासह डिजिटल गैरवापराचे वास्तविक जीवनातील परिणाम विनाशकारी आहेत.

“या गोष्टी एका तरुण मुलीचे जीवन नष्ट करण्यास बांधील आहेत,” मर्सी मुटेमी म्हणाली, एक केनिया-आधारित वकील डीपफेक अत्याचाराच्या चार बळींचे प्रतिनिधित्व करत आहे. तिच्या काही क्लायंटना नोकरी नाकारण्यात आली आहे आणि शाळेत शिस्तभंगाची सुनावणी झाली आहे, ती म्हणाली, सर्व त्यांच्या संमतीशिवाय प्रसारित केलेल्या डीपफेक प्रतिमांमुळे.

इहे म्हणाली की तिच्या संस्थेने टेलीग्राम चॅनेलवरून मिळवलेल्या नग्न आणि अंतरंग प्रतिमांची धमकी दिल्यानंतर त्यांच्या कुटुंबियांनी बहिष्कृत केलेल्या महिलांच्या तक्रारी हाताळल्या होत्या.

“एकदा ते बाहेर पडले की, तुमची प्रतिष्ठा, तुमची ओळख पुन्हा सांगता येणार नाही. जरी अपराधी ‘अरे, तो डीपफेक होता’ असे म्हणायला आला, तरी तुम्ही किती लोकांनी ते पाहिले आहे हे सांगू शकत नाही. प्रतिष्ठेचे नुकसान भरून काढता येणार नाही.”