X अजूनही वापरकर्त्यांना Grok AI टूलद्वारे व्युत्पन्न केलेल्या लैंगिक प्रतिमा पोस्ट करण्याची परवानगी देतो Grok AI

कंपनीचा गैरवापर रोखल्याचा दावा असूनही, X ने वापरकर्त्यांना त्याच्या AI टूल Grok द्वारे व्युत्पन्न केलेल्या बिकिनीमधील महिलांचे अत्यंत लैंगिक व्हिडिओ पोस्ट करण्याची परवानगी देणे सुरू ठेवले आहे.

गार्डियन पूर्णपणे कपडे घातलेल्या, खऱ्या महिलांच्या छायाचित्रांवरून बिकिनी घालणाऱ्या लोकांचे छोटे व्हिडिओ तयार करण्यात सक्षम होते. ही प्रौढ सामग्री X च्या सार्वजनिक प्लॅटफॉर्मवर नियंत्रित केली जात असल्याच्या कोणत्याही चिन्हाशिवाय पोस्ट करणे देखील शक्य होते, म्हणजे क्लिप खाते असलेल्या कोणालाही काही सेकंदात पाहता येईल.

हे एक सरळ उपाय ऑफर करत असल्याचे दिसून आले निर्बंध जाहीर केले या आठवड्यात एलोन मस्कच्या सोशल नेटवर्कद्वारे. पंतप्रधान केयर स्टारमर यांनी त्यांचे स्वागत केले होते, ज्यांनी ग्रोकने तयार केलेल्या छायाचित्रांचे वर्णन “घृणास्पद” आणि “लज्जास्पद” असे केले होते.

आठवड्यांच्या वाढत्या सार्वजनिक चिंतेनंतर, X ने बुधवारी उशीरा सांगितले की “ग्रोक खात्याला बिकिनीसारखे कपडे उघड करणाऱ्या वास्तविक लोकांच्या प्रतिमा संपादित करण्यास परवानगी देण्यापासून रोखण्यासाठी तांत्रिक उपाय लागू केले आहेत”.

हे निर्बंध सशुल्क सदस्यांसह सर्व वापरकर्त्यांना लागू होतील आणि त्यात “बाल लैंगिक शोषण, असहमती नग्नता आणि अवांछित लैंगिक सामग्रीसाठी शून्य सहनशीलता” असल्याचे म्हटले आहे. परंतु तरीही लोक स्वतंत्र Grok ॲपवर अशा प्रतिमा तयार करू शकतील की नाही हे निर्दिष्ट केले नाही आणि नंतर ही सामग्री X वर सार्वजनिकपणे सामायिक करतील.

द गार्डियनला आढळले की Grok ची ही स्वतंत्र आवृत्ती, Grok Imagine म्हणून ओळखली जाते – जी वेब ब्राउझरद्वारे सहज उपलब्ध आहे – अजूनही महिलांच्या प्रतिमांमधून कपडे डिजिटली काढण्याच्या सूचनांना प्रतिसाद देत आहे.

पत्रकारांनी पूर्ण कपडे घातलेल्या वास्तविक जीवनातील महिलांच्या स्थिर प्रतिमा अपलोड केल्या आणि AI टूलला त्यांना बिकिनी घालण्यास प्रवृत्त केले. प्लॅटफॉर्मने विनंतीपेक्षा पुढे जाऊन, लैंगिक उत्तेजक स्ट्रिपटीज पद्धतीने कपडे काढणाऱ्या महिलांचे छोटे व्हिडिओ तयार करून प्रतिसाद दिला.

टिप्पणीसाठी एक्सशी संपर्क साधला आहे.

एंड व्हायलेन्स अगेन्स्ट वुमन कोलिशनच्या धोरण आणि मोहिमेच्या प्रमुख रेबेका हिचेन म्हणाल्या की, असा साधा उपाय शक्य नसावा.

“अत्याधुनिक न्युडिफिकेशन टूल्समध्ये प्रवेशाची सतत सुलभता स्पष्टपणे दर्शवते की X महिला आणि मुलींवरील ऑनलाइन हिंसाचाराचा मुद्दा पुरेशा गांभीर्याने घेत नाही,” ती म्हणाली.

हिचेन यांनी यूके सरकारला बोलावले आणि ऑफकॉममीडिया नियामक, X आणि इतर प्लॅटफॉर्मवर दबाव आणण्यासाठी “प्रतिमा-आधारित लैंगिक शोषणाचा प्रसार थांबवण्यासाठी”.

रॉयटर्सने असेही नोंदवले आहे की ब्रिटनमधील एका रिपोर्टरसह त्याच्या पत्रकारांनी X च्या घोषणेनंतर मागणीनुसार लैंगिक फोटो तयार करण्यासाठी ग्रोकचा वापर केला.

फॉसेट सोसायटीचे मुख्य कार्यकारी पेनी ईस्ट म्हणाले, “या प्रतिमा Grok द्वारे बाहेर येण्यापासून कसे रोखायचे हे xAI आणि एलोन मस्क कार्य करू शकत नाहीत यावर विश्वास ठेवणे कठीण आहे.” “प्रथम, मस्कने निर्णय घेतला की केवळ X साठी पैसे देणाऱ्या वापरकर्त्यांसाठी न्युडिफिकेशन एक विशेषाधिकार म्हणून जतन करण्याचा उपाय आहे. नंतर त्याने ते पूर्णपणे थांबवण्याचे वचन दिले. आणि तरीही ते थांबले नाही.

“सत्य हे आहे की मस्क आणि तंत्रज्ञान क्षेत्र ते तयार करत असलेल्या उत्पादनांमध्ये सुरक्षितता किंवा प्रतिष्ठेला प्राधान्य देत नाहीत. पुरुषांनी कपडे न घालता ते ऑनलाइन संवाद साधू शकतील अशी अपेक्षा करणे स्त्रियांसाठी खूपच कमी आहे. आणि तरीही ते अशक्य आहे असे दिसते.”

डाउनिंग स्ट्रीटने सांगितले की X ने घेतलेल्या पावलांमुळे “पुष्ट” वाटले, परंतु बदल किती प्रमाणात आणि ते कसे वितरित केले जातील याबद्दल मंत्र्यांमध्ये सावधगिरी देखील होती.

गुरुवारी, तंत्रज्ञान सचिव, लिझ केंडल, ज्यांनी महिला आणि मुलांच्या प्रतिमांच्या लैंगिक छेडछाडीचे वर्णन “घृणास्पद आणि घृणास्पद” म्हणून केले होते, त्यांनी या निर्णयाचे स्वागत केले आणि “ज्यांनी या अत्याचाराविरूद्ध बोलले, सर्व पीडितांपेक्षा” आभार मानले.

तथापि, ती पुढे म्हणाली: “मी अपेक्षा करेन की ऑफकॉमच्या चालू तपासणीद्वारे तथ्ये पूर्णपणे आणि मजबूतपणे स्थापित केली जातील.”

स्टारमरनेही X ला विलंब न करता कार्य करण्याची मागणी केली. “भाषण स्वातंत्र्य म्हणजे संमतीचे उल्लंघन करण्याचे स्वातंत्र्य नाही,” तो म्हणाला. “तरुण महिलांच्या प्रतिमा सार्वजनिक मालमत्ता नाहीत आणि त्यांची सुरक्षितता वादासाठी नाही. मी स्वागत करतो की X आता यूके कायद्याचे पूर्ण पालन सुनिश्चित करण्यासाठी कार्य करत आहे – ते त्वरित घडले पाहिजे.”

ऑफकॉमने सांगितले की एक्स ची औपचारिक तपासणी, सोमवारी लॉन्च केलेचालूच राहिले आणि “हे प्रगती करण्यासाठी चोवीस तास काम करत होते आणि काय चूक झाली आणि ते दुरुस्त करण्यासाठी काय केले जात आहे याची उत्तरे मिळवा”.

कॅनडाच्या प्रायव्हसी वॉचडॉगने सांगितले की ते xAI चा तपास करत आहेत, तर फिलीपिन्समधील अधिका्यांनी सांगितले की ते ग्रोकला ब्लॉक करण्यासाठी जात आहेत, मलेशियातील अधिकारी कायदेशीर कारवाई करण्याची योजना आखत आहेत.

परंतु ग्रोकबद्दल लोकांमध्ये जागरूकता वाढवण्यासाठी हा वाद उपयुक्त ठरला असेल. गुरुवारी, मस्कने “लोकप्रियता आणि वास्तविक जगाचा वापर जागतिक स्तरावर गगनाला भिडत आहे” असा दावा करणारी एक पोस्ट शेअर केली – Google Trends वर नवीन उच्चांक गाठणारा शोध शब्द म्हणून “Grok” च्या आलेखासह. मस्क सहज जोडले: “Grok.com वापरून पहा.”

एका सरकारी प्रवक्त्याने सांगितले: “ऑनलाइन सुरक्षा कायद्यात आधीच X सारख्या प्लॅटफॉर्मची आवश्यकता आहे ज्यात बेकायदेशीर सामग्री, ज्यामध्ये असहमत अंतरंग प्रतिमा आणि बाल शोषण सामग्रीचा समावेश आहे, त्यांच्या सेवांवर दिसण्यापासून प्रतिबंधित आहे.

“राज्याच्या सचिवाने सांगितले आहे की तिला अपेक्षा आहे की यूके कायद्यांचे X चे पालन ऑफकॉमच्या तपासाद्वारे पूर्णपणे आणि मजबूतपणे स्थापित केले जाईल, जे आधीपासूनच चालू आहे आणि जोपर्यंत सोशल मीडिया कंपन्या त्यांचे कायदेशीर कर्तव्य पूर्ण करत नाहीत तोपर्यंत सरकार आराम करणार नाही.

“आम्ही प्रस्तावित ‘न्युडिफिकेशन’ गुन्ह्याद्वारे पुढील कारवाई देखील करत आहोत, जे विशेषत: असहमतीच्या अंतरंग प्रतिमा निर्माण करण्यासाठी डिझाइन केलेल्या साधनांना लक्ष्य करेल.”