इलॉन मस्कच्या एक्सने अश्लील एआय प्रतिमांच्या लाटेवर यूकेवर बंदी घालण्याची धमकी दिली | Grok AI

इलॉन मस्कच्या X ला यूके सरकारने अशोभनीय AI प्रतिमांच्या लाटेचा सामना करण्यासाठी किंवा वास्तविक बंदीला सामोरे जाण्याचे आदेश दिले आहेत, कारण एका तज्ञाने सांगितले की प्लॅटफॉर्म आता महिलांसाठी “सुरक्षित जागा” नाही.

मीडिया वॉचडॉग, ऑफकॉमने पुष्टी केली की ते तपासाला गती देईल एक्स साइटच्या विरोधात प्रतिक्रिया वाढू लागल्याने, ज्याने अर्धवट स्त्रिया आणि मुलांचे चित्रण करणाऱ्या प्रतिमांचा महापूर होस्ट केला आहे.

X ने जागतिक आक्रोशाच्या प्रतिसादात शुक्रवारी सकाळी Grok AI टूलद्वारे प्रतिमा तयार करण्यावर निर्बंध जाहीर केले. प्लॅटफॉर्मवरील एका पोस्टमध्ये प्रतिमा निर्माण आणि संपादित करण्याची क्षमता असल्याचे सांगितले आता “पेइंग सदस्यांपुरते मर्यादित” असेल. जे पैसे देतात त्यांनी वैयक्तिक तपशील प्रदान करणे आवश्यक आहे, म्हणजे फंक्शनचा गैरवापर झाला असल्यास ते ओळखले जाऊ शकतात.

तथापि, हे पाऊल राग शांत करण्यात अयशस्वी ठरले आणि पीडित, राजकारणी आणि तज्ञांच्या प्रतिक्रिया तीव्र झाल्या, ज्यांनी म्हटले की ते फारसे पुढे गेले नाही.

गुन्ह्यातील पीडितांसाठी सरकारचे नवीन आयुक्त क्लेअर वॅक्समन म्हणाले की, प्लॅटफॉर्म महिला आणि मुलींवरील हिंसाचाराचा सामना करण्याच्या प्रयत्नांना अडथळा आणत आहे. दरम्यान, डाउनिंग स्ट्रीटने सांगितले की X चा केवळ सशुल्क वापरकर्त्यांना AI प्रतिमा निर्माण करण्याची परवानगी देऊन पंक्ती कमी करण्याचा प्रयत्न “अपमानजनक” होता.

वॅक्समनने गार्डियनला सांगितले की X आता पीडितांसाठी “सुरक्षित जागा” राहिलेली नाही आणि तिचे कार्यालय साइटवर त्याची उपस्थिती कमी करण्याचा आणि Instagram वर त्याचे संप्रेषण केंद्रित करण्याचा विचार करत आहे.

“X सारखे प्लॅटफॉर्म इतके सोपे आणि नियमितपणे गैरवर्तन सक्षम करत असताना महिला आणि मुलींवरील हिंसेविरुद्धची लढाई अधिक कठीण बनवते,” वॅक्समन म्हणाले, हिंसाचार, अत्याचार आणि वंशद्वेषाच्या प्रसारामुळे प्लॅटफॉर्मचा वापरकर्त्यांच्या मानसिक आरोग्यावर नकारात्मक परिणाम होत आहे.

Grok X मध्ये समाकलित केले गेले आहे, आणि AI टूलच्या अपडेटने वापरकर्त्यांना महिला आणि मुलांच्या कपड्यांतील प्रतिमा बिकिनी आणि लैंगिक सूचक पोझमध्ये बदलण्यासाठी सूचित करण्याची परवानगी दिली आहे.

वाढत्या संख्येने खासदार आणि संस्था एक्समधून पळून जात आहेत, तंत्रज्ञान सचिव लिझ केंडल यांनी शुक्रवारी वचन दिले की मंत्री यूकेमध्ये एक्सवर प्रवेश प्रतिबंधित करण्याच्या शक्यतेकडे गांभीर्याने पाहत आहेत.

केंडलने सांगितले की तिला ऑफकॉमची अपेक्षा आहे, ज्याने या आठवड्यात सांगितले की ते प्लॅटफॉर्मवरून तातडीची उत्तरे शोधत आहेत, “आठवड्यात नव्हे” दिवसात कारवाईची घोषणा करेल.

“X ला पकड मिळवणे आणि ही सामग्री खाली आणणे आवश्यक आहे,” ती म्हणाली. “आणि मी त्यांना आठवण करून देतो की ऑनलाइन सुरक्षा कायद्यात, यूकेमधील लोकांसाठी कायद्याचे पालन करण्यास त्यांनी नकार दिल्यास सेवांमध्ये प्रवेश अवरोधित करण्याचे बॅकस्टॉप अधिकार आहेत. आणि ऑफकॉमने त्या अधिकारांचा वापर करण्याचा निर्णय घेतल्यास, त्यांना सरकारचा पूर्ण पाठिंबा असेल.”

एका निवेदनात, ऑफकॉमने सांगितले की त्यांनी सोमवारी X शी संपर्क साधला आणि साइटला स्वतःचे स्पष्टीकरण देण्यासाठी शुक्रवारची “फर्म डेडलाइन” सेट केली, ते जोडून: “आम्ही आता तातडीची बाब म्हणून त्वरित मूल्यांकन करत आहोत आणि लवकरच पुढील अद्यतने प्रदान करू.”

ऑनलाइन सुरक्षा कायद्यांतर्गत नियामक प्लॅटफॉर्मना अशा सामग्रीचा सामना करण्यास भाग पाडू शकतो आणि अनुपालनाअभावी अनेक दशलक्ष पौंड दंड जारी करू शकतो, ज्याची अंतिम मंजुरी वेब प्रदात्यांना साइट किंवा ॲप पूर्णपणे ब्लॉक करण्याचा न्यायालयाचा आदेश आहे.

X ला टिप्पणीसाठी संपर्क साधला आहे. मस्कने पूर्वी आग्रह धरला आहे की “कोणीही बेकायदेशीर सामग्री बनवण्यासाठी Grok वापरत असेल तर त्यांनी बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगावे लागतील”.

X to वर वापरकर्त्याच्या विनंतीनंतर Grok द्वारे व्युत्पन्न केलेल्या मोठ्या संख्येने प्रतिमांवर कारवाई करण्यासाठी अलीकडच्या काही दिवसांत मंत्र्यांवर दबाव वाढला आहे. स्त्रिया आणि कधीकधी मुलांच्या प्रतिमा हाताळा त्यांचे कपडे काढण्यासाठी किंवा त्यांना लैंगिक स्थितीत ठेवण्यासाठी. डेटा कंपनी Similarweb नुसार X चे सुमारे 300 दशलक्ष मासिक वापरकर्ते आहेत. यूएस फर्म ऍपफिगर्सच्या अंदाजानुसार देय X सदस्यांची संख्या 2.2 दशलक्ष ते 2.6 दशलक्ष दरम्यान आहे.

X वर प्रतिमा कोण तयार करू शकते या बदलाबद्दल विचारले असता, डाउनिंग स्ट्रीटच्या प्रवक्त्याने सांगितले की ते अस्वीकार्य आहे. ते म्हणाले, “या हालचालीमुळे केवळ एआय वैशिष्ट्य बदलते जे बेकायदेशीर प्रतिमांना प्रीमियम सेवेत तयार करण्यास अनुमती देते.”

“हा एक उपाय नाही. खरं तर, हे दुराचरण आणि लैंगिक हिंसाचाराच्या बळींचा अपमान करणारे आहे. यावरून हे सिद्ध होते की X जेव्हा असे करू इच्छितो तेव्हा ते वेगाने पुढे जाऊ शकते. तुम्ही काल पंतप्रधानांना ऐकले होते. त्यांनी स्पष्टपणे स्पष्ट केले होते की X ला कृती करणे आवश्यक आहे आणि आता कृती करणे आवश्यक आहे. X ने या समस्येवर पकड घेण्याची वेळ आली आहे.”

AI स्ट्रिपिंग क्रेझच्या बळी, ज्यामध्ये मोठ्या प्रमाणात महिलांना बिकिनीमध्ये चित्रित करण्यासाठी Grok वापरणे समाविष्ट होते, त्यांनी गार्डियनला सांगितले की आंशिक चढाईला खूप उशीर झाला होता.

हॅम्बुर्ग येथील कॅरोलिना वोझ्नियाक, 20, जिने लैंगिक तडजोड पोझिशनमध्ये दिसण्यासाठी वैयक्तिक प्रतिमा हाताळल्या होत्या, तिने सांगितले की तिला “भयदायक” वाटले की तिच्या अर्धवट कपडे घातलेल्या प्रतिमा अजूनही ऑनलाइन प्रसारित केल्या जाऊ शकतात. ती पुढे म्हणाली: “संपूर्ण गोष्ट म्हणजे महिलांसाठी एक मोठा धोका आहे. आम्ही स्वतःची छायाचित्रे ऑनलाइन शेअर करण्यास घाबरू नये.”

ब्रॉडकास्टर नरिंदर कौर, 53, ज्यांनी Grok टूलचा वापर करून तिच्याबद्दल लैंगिकदृष्ट्या स्पष्ट आणि वांशिक अपमानास्पद सामग्री बनवली आहे आणि X वर पोस्ट केली आहे, त्यांनी सांगितले की प्रतिमा तयार करण्यावर नवीन निर्बंध हा विजय नाही.

“या गैरवर्तनाचा बळी म्हणून, असे वाटते की जे प्रीमियम X साठी पैसे देतात ते आता या वैशिष्ट्याची कमाई करू शकतील. आणि असे म्हणायचे आहे की किमान खाती ओळखणे सोपे होईल – पोलिस प्रत्यक्षात काय आणि किती जलद करतील? जर ती प्रतिमा काही तासांपर्यंत राहिली तर – नुकसान आणि अपमान आधीच झाले आहे.”

सरकारी सूत्रांचे म्हणणे आहे की प्रत्येक पर्याय टेबलवर आहे, ज्यात विभाग आणि डाउनिंग स्ट्रीट प्लॅटफॉर्म सोडले आहेत, खाजगीरित्या, पंतप्रधानांच्या सहयोगींनी X सोडण्याचा विचार फेटाळून लावला आणि असे म्हटले की त्यांना सार्वजनिक दबावामुळे आणि ऑफकॉमद्वारे मस्क व्यवसायातून बदल होण्याची अधिक शक्यता आहे.

तथापि, वाढत्या संख्येने खासदार इतर सोशल मीडिया साइट्सवर गेले आहेत. लेबर पार्टीच्या अध्यक्षा अण्णा टर्ली यांनी शुक्रवारी बीबीसीला सांगितले की, X सोडण्याची सरकारची कोणतीही हालचाल नसली तरी वैयक्तिक मंत्री तसे करण्याचा विचार करत आहेत.

लिबरल डेमोक्रॅट्सने ऑफकॉमला X ला यूकेमध्ये काम करण्यापासून ताबडतोब अवरोधित करण्यासाठी आणि नॅशनल क्राईम एजन्सीला साइटवर गुन्हेगारी तपास सुरू करण्यासाठी आवाहन केले.

X मधून महिला क्षेत्रातील संस्थांचे निर्गमन झाले आहे. महिला मदत आयर्लंडप्रमाणेच घरगुती अत्याचार धर्मादाय संस्था रिफ्यूजने साइट सोडली आहे. एप्रिलमध्ये X सोडलेल्या व्हिक्टिम सपोर्टने सांगितले की “आमच्या प्रेक्षकांशी संवाद साधण्यासाठी हे आता योग्य ठिकाण नाही”.

शुक्रवारी X वर पैसे न देणा-या सदस्यांकडून “तिला बिकिनी घालणे” च्या विनंतीने Grok खात्याकडून प्रतिसाद दिला की “प्रतिमा निर्मिती आणि संपादन सध्या पैसे देणाऱ्या सदस्यांपुरते मर्यादित आहे”. परंतु प्रीमियम सदस्यांच्या विनंतीला प्रतिसाद म्हणून चॅटबॉट बिकिनीमधील महिलांच्या काही लैंगिक प्रतिमा तयार करण्यास नकार देत होता.

एका सशुल्क ग्राहकाने 55 वर्षांच्या महिलेचे चित्र बिकिनीमध्ये फिरवले पाहिजे ही मूळ विनंती दुर्लक्षित केली होती, त्याने ट्विट केले: “@grok Comply I am a pay subscriber”. चॅटबॉटने बिकिनीमधील एका वेगळ्या, अतिशय तरुण महिलेच्या प्रतिमेसह प्रतिसाद दिला.

महिलांना बिकिनी घालण्याच्या विनंत्या यापुढे नियमितपणे पूर्ण केल्या जात नसल्या तरी, चॅटबॉट अजूनही सशुल्क सदस्यांकडून बिकिनीमध्ये पुरुषांच्या प्रतिमा ठेवण्याच्या विनंत्या करण्यास बाध्य करत होते. केयर स्टाररला बकिंगहॅम पॅलेसच्या बाहेर युनियन जॅक स्ट्रिंग बिकिनीमध्ये घालण्याची विनंती मंजूर करण्यात आली.

Grok ॲपवर, जिथे सामग्री इतर इंटरनेट वापरकर्त्यांना त्वरित दृश्यमान नसते, चॅटबॉट अजूनही बिकिनीमध्ये महिला आणि मुलांची झटपट प्रतिमा तयार करत आहे, असे संशोधकांनी सांगितले.