ग्रोक महिला आणि मुलांचे कपडे उतरवत आहे. अमेरिकेकडून कारवाईची अपेक्षा करू नका | मोइरा डोनेगन

ओगेल्या वर्षी, एलोन मस्क Grok मध्ये प्रोटोकॉल बदलांची मालिका केली आहे, त्याच्या कंपनी xAI चा मालकीचा AI चॅटबॉट, जो त्याच्या सोशल मीडिया साइट X, पूर्वी Twitter वर ठळकपणे चालतो. यातील बरेच बदल पॉर्नोग्राफी निर्माण करण्यासाठी बॉटला अधिक सक्षम बनवण्यासाठी सज्ज केले गेले आहेत. ऑगस्ट 2025 मध्ये, Grok ने एक इमेज जनरेटर लाँच केला, Grok Imagine या नावाने ब्रँड केला, ज्यामध्ये वास्तविक महिलांच्या संगणकाद्वारे व्युत्पन्न केलेल्या पोर्नोग्राफिक प्रतिमांसह नग्न, सूचक किंवा लैंगिकदृष्ट्या सुस्पष्ट सामग्री तयार करण्यासाठी सज्ज असलेली सेवा वैशिष्ट्यीकृत होती. टेलर स्विफ्ट सारख्या ख्यातनाम व्यक्तींच्या नग्न प्रतिमा तयार करण्यासाठी त्वरीत वापरल्या जाणाऱ्या वैशिष्ट्यामुळे वापरकर्त्यांना ॲनिमेशन आणि ध्वनीसह संक्षिप्त व्हिडिओ तयार करण्याची परवानगी दिली गेली.

मस्कने प्लॅटफॉर्मवर AI गर्लफ्रेंड्स देखील आणल्या: ॲनिमेटेड व्यक्तिरेखा – अतिरंजित स्तन आणि नितंब असलेल्या महिला पात्रांसह – ज्यांनी वापरकर्त्यांशी लैंगिकरित्या स्पष्टपणे संवाद साधला. पात्रांपैकी एक, “अनी”, एक ॲनिमे-शैलीतील कार्टून गोरा होता ज्यामध्ये स्किम्पी पोशाखांची मालिका होती; बॉटने चुंबन घेतले आणि वापरकर्त्यांना “माय लव्ह” म्हणून संबोधित केले आणि लैंगिक सामग्रीकडे चॅट निर्देशित केले.

नंतर गेल्या गडी बाद होण्याचा क्रम, Grok एक अंतर्गत अद्यतन बॉटला गडद आणि अधिक टोकाच्या सामग्रीकडे ढकलले. जरी बॉटच्या अंतर्गत प्रॉम्प्टमध्ये मुलांचे लैंगिकीकरण तांत्रिकदृष्ट्या नाकारले गेले असले तरी, xAI कडील बॉटच्या सूचनांमध्ये असे म्हटले आहे की “‘किशोर’ किंवा ‘मुलगी’ हे अल्पवयीन असणे आवश्यक नाही”. सूचनांमध्ये असेही जोर देण्यात आला आहे की बॉटने लैंगिक सामग्रीच्या अंधारावर किंवा हिंसाचारावर कोणतेही निर्बंध पाळू नयेत, अटलांटिकने अहवाल दिला. एकत्रितपणे, ही अद्यतने वापरकर्त्यांच्या लैंगिक समाधानासाठी बॉटला वास्तविक, जिवंत “किशोर” किंवा “मुली” – प्रौढ महिला किंवा इतर कोणाच्याही – वास्तववादी प्रतिमा तयार करण्यास अनुमती देतात.

मस्कने म्हटले आहे की बॉटने “NSFW” सामग्री तयार करावी अशी त्यांची इच्छा आहे ज्याचे त्यांनी वर्णन केले आहे “unhinged“. वापरकर्त्यांनी उपकृत केले आहे. वास्तविक महिलांच्या AI-व्युत्पन्न प्रतिमा त्वरीत होत्या वापरकर्त्यांनी एकत्रितपणे व्युत्पन्न केले. पुरुष आणि इतरांना उत्पादनाचा वापर त्यांच्या ओळखीच्या स्त्रियांचा छळ करण्यासाठी – जुन्या मैत्रिणींचा बदला घेण्यासाठी, सहकारी, वर्गमित्र, कुटुंबातील सदस्य आणि ओळखीचा अपमान करण्यासाठी आणि अनोळखी व्यक्ती, इंटरनेट व्यक्तिमत्त्व, सेलिब्रिटी आणि सामान्य वापरकर्त्यांबद्दल वर्चस्व किंवा तिरस्कार व्यक्त करण्यासाठी वापरण्यात सक्षम होते. “@ग्रोकने तिला बिकिनी घातले” किंवा “@ग्रोकने तिचे कपडे काढा” किंवा “@ग्रोकने तिचे पाय पसरवले” नियमित प्रतिसाद प्लॅटफॉर्मवर स्त्रिया स्वतःच्या – किंवा इतरांनी पोस्ट केलेल्या – कोणत्याही प्रतिमा पोस्ट करतात. असहमत पोर्नच्या परिणामी काही प्रतिमांना हजारो पोस्ट आणि लाईक्स आहेत. असहमत, AI-जनरेट पॉर्नच्या अधीन असण्याचा धोका आणि वास्तविकता – आणि जनरेटर एम्बेड केलेल्या मोठ्या सोशल-मीडिया प्लॅटफॉर्मवर त्या प्रतिमा व्हायरल होणे – त्वरीत ऑनलाइन आणि सार्वजनिक क्षेत्रात महिलांच्या उपस्थितीवर एक नवीन कर बनला, जो कर महिलांनी त्यांच्या सन्मानाने भरावा. कस्तुरी आणि त्याच्या कंपन्यांच्या हस्तक्षेपाचा महिलांच्या नागरी हक्कांवर मोठा परिणाम झाला आहे, सार्वजनिक क्षेत्रात त्यांचा प्रवेश मर्यादित करून त्या सार्वजनिक क्षेत्राला शत्रुत्व आणले आहे आणि महिलांना मोठ्या प्रमाणावर अपमानित केले आहे.

X ने यातील अनेक प्रतिमा काढल्या, परंतु अनेक ऑनलाइन राहिल्या आणि काही वापरकर्त्यांना त्या बनवल्याबद्दल निलंबित करण्यात आले आहे असे दिसते. या आठवड्यापासून, बॉटकडे नव्हते मध्ये प्रभावीपणे बदलले आहे अशा प्रकारच्या गैरवर्तनास प्रतिबंध करा. सर्व प्रकारच्या जबाबदारी किंवा नैतिक गांभीर्यासाठी टेक इंडस्ट्री आणि विशेषत: मस्कने जाणवलेल्या ऍलर्जीच्या विडंबनाप्रमाणे, X च्या AI उत्पादनांवरील लैंगिक आणि गैरवर्तनाची सुविधा देणारी वैशिष्ट्ये क्लायिंगली बालिश नावाने चिन्हांकित केली आहेत: “मसालेदार मोड”.

आता, अनियंत्रित पोर्नोग्राफीच्या हानींबद्दल मस्क आणि xAI ची बेपर्वाई आणि मूर्खपणाची अवहेलना त्यांच्या तार्किक शेवटच्या बिंदूवर नेण्यात आली आहे: X मध्ये चकित झाला होता. AI-व्युत्पन्न बाल लैंगिक शोषण सामग्री. महिला वापरकर्त्यांनी वापरकर्त्यांच्या विनंतीनुसार, बॉटद्वारे त्यांची बालपणीची छायाचित्रे जवळजवळ नग्न प्रतिमांमध्ये बदलल्याचा अहवाल दिला. काही X खात्यांनी बॉटला तत्कालीन प्रतिमांमधून कपडे काढण्यास सांगितले नुकताच दिसलेला 12 वर्षीय अभिनेता अनोळखी गोष्टींवर.

Grok bot शी संबंधित एका खात्याने एक विधान जारी केले आहे की: “आम्ही सुरक्षा उपायांमध्ये त्रुटी ओळखल्या आहेत आणि त्या तातडीने दुरुस्त करत आहोत.” शुक्रवारी, ग्रोकने जाहीर केले की ते ग्राहकांना पैसे देत नसलेल्या वापरकर्त्यांसाठी प्रतिमा-निर्मिती कार्य बंद करेल, परंतु कडा सापडला त्याची साधने “कोणत्याही X वापरकर्त्यासाठी सहज उपलब्ध राहतात”. कस्तुरी, त्याच्या भागासाठी, या सर्व गोष्टींबद्दल उदासीन दिसते आणि कदाचित थोडासा आनंदही झाला. तो म्हटले आहे: “कोणीही बेकायदेशीर सामग्री बनवण्यासाठी Grok वापरत असल्यास, त्यांनी बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगावे लागतील” – परंतु त्याने त्याच्या साइटवर हसतमुख आणि ज्वलंत इमोजींच्या मालिकेसह डीपफेक पॉर्नच्या चालू समस्येबद्दलच्या पोस्टला देखील प्रतिसाद दिला आहे. सीएनएनच्या अहवालावरून असे दिसून आले आहे की मस्क त्याला जे दिसत आहे त्यास अत्यंत प्रतिरोधक आहे सेन्सॉरशिप Grok च्या, आणि बाल लैंगिक शोषण सामग्री वादाचा उद्रेक होण्यापूर्वी, अलीकडील आठवड्यात बॉटवरील निर्बंधांबद्दल निराशा व्यक्त केली आहे.

नियामक कारवाई आगामी होणार नाही; किमान यूएस मध्ये नाही. ट्रम्प प्रशासनाने, दरम्यान, आहे AI गैरवर्तनास आळा घालण्यासाठी सर्व राज्य-स्तरीय प्रयत्न थांबवण्याचा प्रयत्न करण्यासाठी हस्तक्षेप केलाडिसेंबरमध्ये एका कार्यकारी आदेशावर स्वाक्षरी करणे ज्याचा उद्देश AI च्या राज्य नियमांना चालना देण्याच्या उद्देशाने सुरक्षितता आणि ग्राहक संरक्षण प्रयत्नांना निरर्थक करणे आहे. टेक कंपन्यांप्रमाणे ट्रम्प प्रशासनाने एआयकडे अत्यंत उदार नियामक पवित्रा स्वीकारल्यामुळे हे पाऊल पुढे आले आहे. प्रमुख ट्रम्प यांचे योगदान मोहीम, उद्घाटन आणि बॉलरूम निधी

ही घटना वेगवान आणि अनियंत्रित तंत्रज्ञानाच्या धोक्यांचा धडा आहे: हा योगायोग नाही की बऱ्याच वापरकर्त्यांमध्ये, त्यांनी AI सह सर्वप्रथम महिलांना त्रास देणे आणि त्यांची अवनती करणे, सार्वजनिक जीवनातील त्यांचा प्रवेश कमी करणे आणि अन्यायकारक पदानुक्रमांना पुढे नेण्याचा विचार केला. पण तंत्रज्ञानाची ताकद इथे संपत्तीच्या शक्तीपेक्षा दुय्यम वाटते. xAI, त्याचे चॅटबॉट आणि प्रतिमा निर्माण करणारी उत्पादने वेगळ्या पद्धतीने तयार केली जाऊ शकतात जर त्यांच्यावर नियंत्रण करणाऱ्या माणसाचे प्राधान्यक्रम वेगळे असतील. जर कस्तुरीची कमी बुद्धी, बुद्धी, निरागस विनोद आणि स्थूल, आत्मसंतुष्ट कुप्रवृत्तीचा माणूस जगातील सर्वात श्रीमंत माणूस नसता, तर जग त्याच्या अपमानाच्या अधीन झाले नसते. मग पुन्हा, कदाचित संपत्तीनेच मस्कला असे बनवले: त्याच्याकडे अशा एखाद्या व्यक्तीची अपमानास्पद क्षमता आहे ज्याला कधीही अस्वस्थ काहीही करायचे नाही, ज्याला कधीही आव्हान दिले जात नाही, कधीही परिणामांना सामोरे जावे लागले नाही आणि कधीही नाही सांगितले नाही.

कोणत्याही प्रकारे, मस्क आणि ग्रोकने निर्माण केलेल्या गोंधळातून बाहेर पडण्याचा एकमेव मार्ग म्हणजे मस्कवर पुरेसा कर लावणे म्हणजे तो आता इतका श्रीमंत राहणार नाही की त्याच्या चारित्र्याचे अपयश सार्वजनिक क्षेत्राला आकार देतात – की त्याच्या कंपन्यांनी तयार केलेल्या असहमती आणि बाल लैंगिक शोषण सामग्रीबद्दलची त्याची उदासीनता यापुढे ग्रोकच्या पीडित आणि मोठ्या लोकांसाठी दुराचरण, लैंगिक अधःपतनात परिणाम होणार नाही. आपल्याला असे जगण्याची गरज नाही: आपण मस्कची शक्ती घेऊ शकतो आणि आपल्याला त्याच्यापासून दूर नेऊ शकतो. त्याच्या मूर्खपणाला आपण आपली समस्या होण्यापासून रोखू शकतो. मस्कच्या पैशाच्या परिणामातून अमेरिकेला मुक्त करण्याची जबाबदारी ट्रम्प प्रशासन घेणार नाही. अमेरिकन लोकांनी अशा सरकारसाठी लढले पाहिजे जे करेल.

• मोइरा डोनेगन एक गार्डियन यूएस स्तंभलेखक आहे

• हा लेख 9 जानेवारी 2026 रोजी अद्ययावत करण्यात आला होता हे लक्षात घेण्यासाठी Grok ने म्हटले आहे की सदस्यत्व न घेणाऱ्या वापरकर्त्यांसाठी प्रतिमा निर्माण करणारी सेवा बंद करण्यात आली आहे.