सोशल मीडिया जायंट X, पूर्वी ट्विटर, जागतिक निंदा आणि त्याच्या एआय चॅटबॉटवर काही क्रॅकडाउनचा सामना करत आहे. ग्रोक अब्जाधीशांच्या मालकीच्या प्लॅटफॉर्मवर लहान मुलांचे आणि स्त्रियांच्या डीपफेक लैंगिक प्रतिमा तयार केल्याबद्दल एलोन मस्क.
सोमवारी, इंडोनेशिया आणि मलेशिया हे ग्रोक AI ला अवरोधित करणारे जगातील पहिले देश बनले, ज्याने गैर-सहमतीच्या डीपफेक लैंगिक प्रतिमांबद्दल चिंता व्यक्त केली.
इंडोनेशियाचे दळणवळण आणि डिजिटल व्यवहार मंत्री म्युत्या हफिद यांनी एका निवेदनात म्हटले आहे की, “सरकार असहमती लैंगिक डीपफेककडे मानवी हक्क, सन्मान आणि नागरिकांच्या सुरक्षिततेचे गंभीर उल्लंघन म्हणून पाहते.
मलेशियाच्या कम्युनिकेशन्स अँड मल्टीमीडिया कमिशनने महिला आणि अल्पवयीन मुलांचा समावेश असलेल्या सामग्रीसह अश्लील, लैंगिकदृष्ट्या सुस्पष्ट आणि गैर-सहमतीने हाताळलेल्या प्रतिमा निर्माण करण्यासाठी साधनाचा “पुन्हा वारंवार गैरवापर” झाल्याचे नमूद केले.
नियामकाने सांगितले की, X Corp. आणि xAI यांना या महिन्यात नोटिसा बजावण्यात आल्या आहेत ज्यात मजबूत सुरक्षेची मागणी केली आहे.
युरोपियन कमिशनने क्रॅक डाउन केले आहे, X ला त्याच्या AI चॅटबॉटशी संबंधित सर्व कागदपत्रे राखून ठेवण्याचे आदेश दिले आहेत – या आदेशाने कायदेशीर कारवाईचे पालन केले जाईल की नाही याबद्दल प्रश्न निर्माण केले आहेत.
EU आयोगाचे प्रवक्ते थॉमस रेग्नियर यांनी एका निवेदनात म्हटले आहे की, “आम्हाला या वस्तुस्थितीची चांगलीच जाणीव आहे की X फॉर ग्रोक आता मुलांसारख्या प्रतिमांसह काही आउटपुटसह स्पष्ट लैंगिक सामग्री दर्शविणारा मसालेदार मोड ऑफर करत आहे.”
“हे मसालेदार नाही. हे बेकायदेशीर आहे. हे भयंकर आहे. हे घृणास्पद आहे. मी पुष्टी करू शकतो की आम्ही या प्रकरणाकडे गांभीर्याने पाहत आहोत.”
स्वीडनचे उपपंतप्रधान, एब्बा बुश, लैंगिक डीपफेक्सची शिकार बनली जेव्हा AI-व्युत्पन्न केलेल्या बिकिनीमध्ये तिचे चित्रण करणारे फोटो प्लॅटफॉर्मवर व्हायरल झाले.
“मी अनैच्छिकपणे X वर एलोन मस्कच्या ग्रोकने कपडे उतरवले होते. आणि मला अगदी स्पष्टपणे सांगू द्या – एक महिला म्हणून मी स्वतःला बिकिनी केव्हा, कुठे आणि कोणाला दाखवते हे मी ठरवते. मला दोन मुले आहेत. माझी मुलगी नऊ वर्षांची आहे. तिच्यासोबत असे घडू नये असे मला वाटते,” बुशने X वर पोस्ट केलेल्या व्हिडिओ प्रतिसादात सांगितले.
स्वीडिश पंतप्रधान उल्फ क्रिस्टरसन यांनी या प्रतिमांचे वर्णन “एक प्रकारची लैंगिक हिंसा” असे केले आणि म्हटले: “हे अप्रिय, अस्वीकार्य, आक्षेपार्ह आहे.”
सोमवारी, युनायटेड किंगडमच्या स्वतंत्र ऑनलाइन सेफ्टी वॉचडॉगने Grok द्वारे व्युत्पन्न केलेल्या “लैंगिक प्रतिमा” वर X ची तपासणी सुरू केली.
ताज्या राष्ट्रीय बातम्या मिळवा
कॅनडा आणि जगभरातील बातम्यांवर परिणाम करणाऱ्या बातम्यांसाठी, जेव्हा ते घडतात तेव्हा थेट तुमच्यापर्यंत पोहोचलेल्या ब्रेकिंग न्यूज अलर्टसाठी साइन अप करा.
“X वरील Grok AI चॅटबॉट खात्याचा वापर लोकांच्या कपड्यांशिवाय प्रतिमा तयार करण्यासाठी आणि सामायिक करण्यासाठी केला जात असल्याच्या गंभीर बातम्या आल्या आहेत – ज्यामध्ये अंतरंग प्रतिमा दुरुपयोग किंवा पोर्नोग्राफी असू शकते – आणि मुलांच्या लैंगिक शोषण सामग्री (CSAM) असू शकते” ऑफकॉमने एका निवेदनात म्हटले आहे.
वॉचडॉगने त्याच्यावरील आरोपांवर xAI कडून प्रतिसाद मागितला आणि सांगितले की कंपनीने शुक्रवारी अंतिम मुदतीपूर्वी प्रतिसाद दिला.
X ने कायद्याचे उल्लंघन केल्याचे तपासात आढळल्यास, त्याला 18 दशलक्ष पौंड किंवा त्याच्या पात्रता जागतिक कमाईच्या 10 टक्के, यापैकी जे जास्त असेल तो दंड होऊ शकतो.
ब्रिटीश पंतप्रधान कीर स्टारमर यांनी एका रेडिओ मुलाखतीत सांगितले की X ला “त्यांची कृती एकत्र करणे आणि ही सामग्री खाली आणणे आवश्यक आहे. आम्ही यावर कारवाई करू कारण ते फक्त सहन करण्यासारखे नाही.”
भारताने X ला AI चॅटबॉटचे निराकरण करण्यासाठी किंवा कारवाईला सामोरे जाण्यासाठी 72 तासांच्या आत कारवाई करण्याचे आदेश दिले.
भारताच्या इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने X ला एक औपचारिक नोटीस जारी केली आणि तिच्या AI चा “घोर गैरवापर” केल्याचा आणि “महिलांच्या अश्लील प्रतिमा किंवा व्हिडिओंना अपमानास्पद किंवा असभ्य रीतीने अनुमती दिल्याचा आरोप केला आहे.
पालन करण्यात अयशस्वी झाल्यास भारताच्या सायबर, गुन्हेगारी आणि बाल संरक्षण कायद्यांतर्गत X ला कारवाई होऊ शकते.
फ्रान्समध्ये, अभियोजकांनी X चा चालू असलेल्या तपासाचा विस्तार केला आहे, ज्यामध्ये ग्रोक कथितपणे होलोकॉस्ट नाकारण्याच्या दाव्यांचा प्रचार करत आहे — फ्रान्समधील गुन्हा — लैंगिकदृष्ट्या स्पष्ट डीपफेक समाविष्ट करण्यासाठी.
EU च्या डिजिटल सेवा कायद्याच्या संभाव्य उल्लंघनाबद्दल सरकारने देशाच्या कम्युनिकेशन रेग्युलेटरसह समस्या देखील ध्वजांकित केल्या आहेत.
“इंटरनेट हा कायदा नसलेला झोन किंवा दंडमुक्तीचा झोन नाही: ऑनलाइन केलेले लैंगिक गुन्हे हे त्यांच्या स्वत:च्या अधिकारात फौजदारी गुन्हे बनतात आणि ऑफलाइन केल्याप्रमाणे कायद्याच्या कक्षेत येतात,” फ्रेंच सरकारने म्हटले आहे.
ब्राझीलमध्ये, एका खासदाराने Grok आणि X फेडरल अभियोजकांना कळवले आणि Grok आणि X नेटवर्कची सर्व AI कार्ये अक्षम करण्यासाठी सरकारला विनंती केली.
कॅनडा काही करत आहे का?
कॅनडाचे कृत्रिम बुद्धिमत्ता मंत्री इव्हान सोलोमन यांनी डीपफेक लैंगिक शोषणाबद्दल चिंता व्यक्त केली जेव्हा ग्लोबल न्यूजने विचारले की फेडरल सरकार आणि मंत्री अजूनही X वापरत आहेत.
“आम्ही कॅनेडियन, विशेषत: महिला आणि तरुण लोकांचे शोषणापासून संरक्षण केले पाहिजे. प्लॅटफॉर्म आणि एआय डेव्हलपर्सचे हे नुकसान टाळण्यासाठी कर्तव्य आहे,” सोलोमन यांनी गुरुवारी X ला पोस्ट केलेल्या एका निवेदनात म्हटले आहे.
विधानात X, Grok किंवा Elon Musk यांचा विशेष उल्लेख केलेला नाही.
एका स्वतंत्र निवेदनात त्यांनी कॅनडा X वर बंदी घालण्याचा विचार करत नसल्याचे सांगितले.
“माध्यमांच्या अहवालांच्या विरूद्ध, कॅनडा X च्या बंदीबद्दल विचार करत नाही,” सोलोमन रविवारी जोडले.
X वर लैंगिक शोषण सामग्रीच्या सतत निर्मितीला प्रतिसाद कसा द्यायचा यावर संपूर्ण कॅनेडियन सरकारमध्ये “सक्रिय चर्चा” सुरू आहेत, ग्लोबल न्यूजने कळले आहे.
मस्कची आर्टिफिशियल इंटेलिजन्स कंपनी, xAI ने असोसिएटेड प्रेसच्या टिप्पणीच्या विनंतीला ऑटोमेटेड प्रतिसादासह प्रतिसाद दिला, “लेगेसी मीडिया लय.”
तथापि, X ने नाकारले नाही की Grok द्वारे व्युत्पन्न केलेली डीपफेक लैंगिक सामग्री अस्तित्वात आहे.
तरीही त्याने आपल्या सेफ्टी खात्यावरील पोस्टमध्ये दावा केला आहे की ते बाल लैंगिक शोषण सामग्रीसह बेकायदेशीर सामग्रीवर कारवाई करते, “ते काढून टाकून, खाती कायमची निलंबित करून आणि आवश्यकतेनुसार स्थानिक सरकार आणि कायद्याची अंमलबजावणी करून काम करते.”
प्लॅटफॉर्मने मस्कच्या टिप्पणीची पुनरावृत्ती देखील केली, ज्याने म्हटले आहे की, “कोणीही बेकायदेशीर सामग्री बनवण्यासाठी ग्रोक वापरत असेल तर त्यांनी बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगावे लागतील.”
– असोसिएटेड प्रेस आणि रॉयटर्सच्या फायलींसह
