महिलांना इजा करण्यासाठी एआयचा वापर नुकताच सुरू झाला आहे, तज्ञांनी चेतावणी दिली | Grok AI

“ग्रोक एआय शोधल्यापासून, नियमित पोर्न आता माझ्यासाठी असे करत नाही, आता ते केवळ मूर्खपणाचे वाटते,” एलोन मस्कच्या मालकीच्या एआय चॅटबॉटसाठी एका उत्साही व्यक्तीने रेडिटवर लिहिले. दुसऱ्याने सहमती दर्शविली: “मला खरोखर विशिष्ट व्यक्ती हवी असल्यास, होय.”

जे झाले असतील तर Grok वर लैंगिक प्रतिमेच्या वितरणामुळे भयभीत गेल्या आठवड्यात अशी आशा होती विलंबित सुरक्षा उपाय जिनी परत बाटलीत ठेवता येईल, Reddit आणि इतरत्र अशा अनेक पोस्ट्स आहेत ज्या वेगळी कथा सांगतात.

आणि Grok ने निःसंशयपणे कृत्रिम बुद्धिमत्तेच्या सामर्थ्याबद्दल सार्वजनिक समज बदलून टाकली आहे, परंतु त्याने एका मोठ्या समस्येकडे देखील लक्ष वेधले आहे: साधनांची वाढती उपलब्धता आणि वितरणाची साधने, जे जगभरातील नियामकांना एक अशक्य कार्य म्हणून पाहतात. जरी यूकेने जाहीर केले की असहमतीपूर्ण लैंगिक आणि अंतरंग प्रतिमा तयार करणे लवकरच फौजदारी गुन्हा असेल, तज्ञ म्हणतात की महिलांना हानी पोहोचवण्यासाठी एआयचा वापर नुकताच सुरू झाला आहे.

इतर AI साधनांमध्ये जास्त कडक सुरक्षा आहेत. बिकिनीमध्ये एका महिलेचा फोटो काढण्यास सांगितल्यावर, लार्ज लँग्वेज मॉडेल (LLM) क्लॉड म्हणतात: “मी ते करू शकत नाही. मी कपडे बदलण्यासाठी किंवा लोकांचे फेरफार केलेले फोटो तयार करण्यासाठी प्रतिमा संपादित करू शकत नाही.” चॅटजीपीटी आणि Google चे AI टूल जेमिनी बिकिनी प्रतिमा तयार करेल, परंतु अधिक स्पष्ट काहीही नाही.

तथापि, इतरत्र खूपच कमी मर्यादा आहेत. Grok फोरमचे वापरकर्ते चालू आहेत Reddit वास्तविक महिलांच्या चित्रांचा वापर करून शक्य तितक्या हार्डकोर अश्लील प्रतिमा कशा तयार करायच्या यावरील टिपा सामायिक करत आहेत. एका थ्रेडवर, वापरकर्ते तक्रार करत होते की Grok त्यांना “संघर्षानंतर” स्त्रियांच्या टॉपलेस प्रतिमा बनविण्याची परवानगी देईल, परंतु गुप्तांग निर्माण करण्यास नकार दिला. इतरांच्या लक्षात आले आहे की “कलात्मक नग्नता” विचारणे हे स्त्रियांना पूर्णपणे नग्न करण्यापासून संरक्षण देते.

LLM आणि प्रमुख प्लॅटफॉर्मच्या पलीकडे वेबसाइट्स, मंच आणि ॲप्सची संपूर्ण परिसंस्था आहे जी नग्नीकरण आणि स्त्रियांच्या अपमानासाठी समर्पित आहे. हे समुदाय वाढत्या प्रमाणात मुख्य प्रवाहात पाइपलाइन शोधत आहेत, तंत्रज्ञान-सुविधायुक्त, लिंग-आधारित हिंसाचारावर काम करणाऱ्या इन्स्टिट्यूट फॉर स्ट्रॅटेजिक डायलॉग (ISD) मधील संशोधक ॲन क्रॅनेन यांनी सांगितले.

Reddit आणि Telegram वरील समुदाय LLM पोर्नोग्राफी निर्माण करण्यासाठी रेलिंग कसे बायपास करायचे यावर चर्चा करतात, ही प्रक्रिया “जेलब्रेकिंग” म्हणून ओळखली जाते. X वरील थ्रेड्स न्युडिफिकेशनबद्दल माहिती वाढवतात ॲप्सजे महिलांचे कपडे काढून त्यांच्या AI-व्युत्पन्न केलेल्या प्रतिमा तयार करतात आणि ते कसे वापरायचे.

क्रेनेन म्हणाले की, विस्तीर्ण इंटरनेटपर्यंत पोहोचण्यासाठी गैर-वियोगविषयक सामग्रीचा मार्ग अधिक व्यापक झाला आहे, ते जोडून: “तिथे दुराचार वाढण्यासाठी एक अतिशय फलदायी मैदान आहे.”

गेल्या उन्हाळ्यात ISD कडून संशोधन आढळले डझनभर न्युडिफिकेशन ॲप्स आणि वेबसाइट्स, ज्यांना मे 2025 मध्ये एकत्रितपणे सुमारे 21 दशलक्ष अभ्यागत मिळाले. गेल्या वर्षी जून आणि जुलैमध्ये X वर या टूल्सचे 290,000 उल्लेख होते. अमेरिकन सनलाइट प्रोजेक्टने सप्टेंबरमध्ये केलेल्या संशोधनात असे आढळून आले आहे की हजारो जाहिराती प्लॅटफॉर्मच्या प्रयत्नांना न जुमानता, मेटावरील अशा ॲप्ससाठी क्रॅक डाउन त्यांच्यावर.

“ॲपल आणि Google सारख्या मुख्य प्रवाहातील ॲप स्टोअर्सवर होस्ट केलेले शेकडो ॲप्स आहेत जे हे शक्य करतात,” नीना जॅन्कोविझ यांनी सांगितले, ज्यांनी अमेरिकन सनलाइट प्रोजेक्टची सह-संस्थापना केली होती. “डीपफेक लैंगिक शोषणाच्या बहुतेक पायाभूत सुविधांना आम्ही सर्व दररोज वापरत असलेल्या कंपन्यांद्वारे समर्थित आहे.”

क्लेअर मॅकग्लिन, कायद्याचे प्राध्यापक आणि डरहम विद्यापीठातील महिला आणि मुलींवरील हिंसाचाराचे तज्ञ, म्हणाले की तिला भीती वाटते की गोष्टी आणखी वाईट होतील. “OpenAI ने गेल्या नोव्हेंबरमध्ये जाहीर केले की ते ChatGPT मध्ये ‘इरोटिका’ ला अनुमती देणार आहे. यावर काय झाले आहे एक्स कोणत्याही नवीन तंत्रज्ञानाचा वापर महिला आणि मुलींचा गैरवापर आणि छळ करण्यासाठी केला जातो हे दर्शविते. मग आपण ChatGPT वर काय पाहणार आहोत?

“महिला आणि मुली AI वापरण्यास जास्त नाखूष असतात. हे आपल्यापैकी कोणासाठीही आश्चर्यचकित होऊ नये. महिलांना हे रोमांचक नवीन तंत्रज्ञान म्हणून दिसत नाही, परंतु आम्हाला त्रास देण्याचा आणि गैरवर्तन करण्याचा आणि आम्हाला ऑफलाइन ढकलण्याचा प्रयत्न करण्याचे नवीन मार्ग आहेत.”

लोवेस्टॉफ्टचे लेबर खासदार जेस असाटो या मुद्द्यावर प्रचार करत आहेत आणि म्हणाले की तिचे समीक्षक आनंदाने तिची स्पष्ट प्रतिमा तयार करत आहेत आणि सामायिक करत आहेत – जरी ग्रोकवरील निर्बंध असल्यापासून. “हे अजूनही माझ्यासोबत घडत आहे आणि X वर पोस्ट केले जात आहे कारण मी याबद्दल बोलत आहे,” ती पुढे म्हणाली.

Asato जोडले की AI deepfake गैरवर्तन वर्षानुवर्षे महिलांवर होत आहे, आणि ते Grok पुरते मर्यादित नाही. “मला का माहीत नाही [action] इतका वेळ घेतला आहे. मी बर्याच पीडितांशी बोललो आहे, खूप वाईट.

सार्वजनिक Grok X खाते यापुढे सशुल्क सदस्यत्व नसलेल्यांसाठी चित्रे व्युत्पन्न करत नसताना, आणि बिकिनी चित्रे निर्माण करणे थांबवण्यासाठी रेलिंग लावलेले दिसत असले तरी, त्याच्या ॲप-मधील साधनावर खूपच कमी निर्बंध आहेत.

X च्या मोफत वापरकर्त्यांसाठी कोणतेही निर्बंध नसताना वापरकर्ते अजूनही खऱ्या लोकांच्या पूर्ण कपडे घातलेल्या चित्रांवर आधारित लैंगिकदृष्ट्या सुस्पष्ट प्रतिमा तयार करण्यास सक्षम आहेत. बॉन्डेज गियरमध्ये छायाचित्र काढून टाकण्यास सांगितले, ते त्याचे पालन करते. हे स्त्रियांना लैंगिकदृष्ट्या तडजोड करण्याच्या स्थितीत देखील ठेवेल आणि त्यांना पांढऱ्या, वीर्यासारख्या पदार्थाने ओतले जाईल.

डीपफेक न्युड्स तयार करण्याचा मुद्दा बहुतेकदा केवळ कामुक प्रतिमा सामायिक करण्यापुरताच नसतो, तर त्याचा तमाशा असतो, असे क्रेनेन म्हणाले – विशेषत: एक्स सारख्या प्लॅटफॉर्मवर प्रतिमा पूर आल्याने.

“हे खरे तर पुढे आणि पुढे आहे, [trying] ‘ग्रोक, तिला बिकिनी घाल’ असे सांगून एखाद्याला बंद करणे,” ती म्हणाली.

“त्याची कामगिरी तिथं खरोखरच महत्त्वाची आहे, आणि स्त्रियांना शिक्षा करण्याचा किंवा गप्प करण्याचा प्रयत्न करून त्यातील चुकीचे स्वभाव दर्शवते. याचा लोकशाही नियमांवर आणि समाजातील महिलांच्या भूमिकेवरही मोठा परिणाम होतो.”