‘रक्त जोडा, जबरदस्ती स्मित’: ग्रोकचे न्युडिफिकेशन टूल कसे व्हायरल झाले | AI (कृत्रिम बुद्धिमत्ता)

जगभरातील हजारो महिलांप्रमाणे, लिंकनशायरमधील 22 वर्षीय छायाचित्रकार Evie, नवीन वर्षाच्या दिवशी उठली, तिचा फोन पाहिला आणि तिला फक्त बिकिनीमध्ये दाखवण्यासाठी एलोन मस्कच्या AI टूल ग्रोकद्वारे तिचे पूर्ण कपडे घातलेले फोटो डिजिटली हाताळले गेले आहेत हे पाहून ती घाबरली.

2026 च्या सुरुवातीला स्फोट होण्यापूर्वी गेल्या वर्षाच्या अखेरीस “तिला बिकिनी घालणे” हा ट्रेंड शांतपणे सुरू झाला. काही दिवसांतच, Grok चॅटबॉटला शेकडो हजारो विनंत्या करण्यात आल्या आणि महिलांच्या फोटोंवरील कपडे काढून टाकण्यास सांगितले. बनावट, लैंगिक चित्रे X वर सार्वजनिकरीत्या पोस्ट करण्यात आली होती, लाखो लोकांना तपासणीसाठी विनामूल्य उपलब्ध आहे.

महिलांना बिकिनीमध्ये दाखवण्यासाठी छायाचित्रांमध्ये बदल करण्याच्या X वापरकर्त्यांनी केलेल्या विनंत्या तुलनेने कमी करणे, वर्षाच्या पहिल्या आठवड्यात वेगाने विकसित झालेतासा-तास, स्त्रियांना पारदर्शक बिकिनी, नंतर डेंटल फ्लॉसपासून बनवलेल्या बिकिनीमध्ये, लैंगिक स्थितीत ठेवल्या जाव्यात आणि त्यांचे गुप्तांग दृश्यमान व्हावेत म्हणून त्यांना वाकवले जावे अशी मागणी वाढत आहे. गार्डियनसाठी केलेल्या विश्लेषणानुसार 8 जानेवारीपर्यंत चॅटबॉटला दर तासाला तब्बल 6,000 बिकिनी मागण्या केल्या जात होत्या.

न्युडिफिकेशन तंत्रज्ञानाच्या या अभूतपूर्व मुख्य प्रवाहामुळे पीडित महिलांकडून त्वरित संताप निर्माण झाला, परंतु नियामक आणि राजकारणी या वाढत्या घोटाळ्याच्या प्रचंडतेकडे जागृत होण्याआधीचे दिवस होते. X ने ट्रेंडला आळा घालण्यासाठी कोणतेही ठोस बदल करण्यापूर्वी नऊ दिवसांपर्यंत जनक्षोभ उसळला. तो अभिनय केला तोपर्यंत, शुक्रवारी सकाळी लवकरमानहानीकारक, अगणित महिलांच्या गैर-सहमतीने फेरफार केलेल्या चित्रांनी आधीच इंटरनेटवर पूर आला होता.

Evie च्या व्युत्पन्न केलेल्या बिकिनी प्रतिमेमध्ये – ज्याने पुढील गैरवर्तन टाळण्यासाठी फक्त तिचे नाव वापरण्यास सांगितले – ती बेबी ऑइलमध्ये झाकलेली होती. तिने चित्र सेन्सॉर केले, आणि Grok च्या नवीन वैशिष्ट्याच्या धोक्यांबद्दल जागरूकता निर्माण करण्यासाठी ते पुन्हा शेअर केले, नंतर लॉग ऑफ केले. समस्या हायलाइट करण्याच्या तिच्या निर्णयामुळे नवीन गैरवर्तनाचा हल्ला झाला. वापरकर्ते तिच्या आणखी त्रासदायक लैंगिक प्रतिमा बनवू लागले.

“ट्विट नुकताच उडाला,” ती म्हणाली. “तेव्हापासून मला माझ्यापासून बरेच बनवले गेले आहे आणि प्रत्येकाने खूप वाईट आणि वाईट केले आहे. लोकांनी पाहिले की ते मला अस्वस्थ करत होते आणि मला ते आवडत नाही आणि ते अधिकाधिक करत राहिले. माझ्यापैकी एक पूर्णपणे नग्न आहे माझ्या कंबरेभोवती थोडासा स्ट्रिंग आहे, एक माझ्या तोंडात बॉल आहे आणि माझे डोळे मागे फिरले आहेत. वस्तुस्थिती ही मानसिकदृष्ट्या सक्षम होती.”

जसजसे लोकांना या साधनाची पूर्ण क्षमता हळूहळू समजू लागली, तसतसे सुरुवातीच्या काळातील वाढत्या खालावणाऱ्या प्रतिमा त्वरीत काढून टाकल्या गेल्या. गेल्या आठवड्याच्या अखेरीपासून, वापरकर्त्यांनी बिकिनी स्वस्तिकांनी सजवण्यास सांगितले आहे – किंवा महिलांच्या शरीरात पांढरे, वीर्यासारखे द्रव जोडण्यास सांगितले आहे. किशोरवयीन मुली आणि मुलांची चित्रे पोहण्याचे कपडे उघडण्यासाठी खाली उतरवण्यात आली; यातील काही सामग्री बाल लैंगिक शोषण सामग्री म्हणून स्पष्टपणे वर्गीकृत केली जाऊ शकते, परंतु प्लॅटफॉर्मवर दृश्यमान राहिली.

विनंत्या अधिकच टोकाच्या झाल्या. काही वापरकर्ते, बहुतेक पुरुष, स्त्रियांच्या शरीरावर जखम पाहण्यासाठी आणि प्रतिमांमध्ये रक्त जोडण्याची मागणी करू लागले. महिलांना बांधलेले आणि गळफास घेतलेल्या दाखवण्याच्या विनंत्या तत्काळ मंजूर करण्यात आल्या. गुरुवारपर्यंत, चॅटबॉटला चेहऱ्यावर बुलेट होल जोडण्यास सांगितले जात होते रेनी निकोल गुडबुधवारी अमेरिकेत एका ICE एजंटने महिलेची हत्या केली. Grok तत्परतेने, X वर ग्राफिक, रक्तरंजित बदललेल्या प्रतिमा पोस्ट करत आहे.

काही तासांनंतर, सार्वजनिक @Grok खात्यात अचानक त्याची प्रतिमा-निर्मिती क्षमता प्रतिबंधित केली गेली, ज्यामुळे ती केवळ देय सदस्यांसाठी उपलब्ध झाली. मात्र प्लॅटफॉर्म मालकांची ही अर्धवट चाल असल्याचे दिसून आले. स्वतंत्र Grok ॲप, जे सार्वजनिकरित्या प्रतिमा सामायिक करत नाही, तरीही पैसे न देणाऱ्या वापरकर्त्यांना महिला आणि मुलांची लैंगिक प्रतिमा तयार करण्याची परवानगी देत ​​होते.

एआय कंपन्यांना तोंड देण्याच्या राजकारण्यांच्या क्षमतेची ही गाथा एक शक्तिशाली चाचणी आहे. जगभरातील राजकारणी आणि नियामकांद्वारे जारी केलेल्या तक्रारी आणि इशाऱ्यांच्या वाढत्या कोरसला मस्कच्या संथ आणि अनिच्छुक प्रतिसादाने आंतरराष्ट्रीय स्तरावर सरकारच्या संघर्षांवर प्रकाश टाकला कारण ते तंत्रज्ञान उद्योगाद्वारे जारी केलेल्या नवीन साधनांवर रिअल टाइममध्ये प्रतिक्रिया देण्याचा प्रयत्न करतात. आणि यूकेमध्ये, गेल्या वर्षी दमदार प्रयत्न करूनही, कायद्याच्या चौकटीत गंभीर कमकुवतपणा दर्शविला आहे. नग्नीकरण तंत्रज्ञानावर बंदी घाला.

भूतकाळात, लोकांना AI deepfakes तयार करण्यासाठी विशेषज्ञ ॲप्स डाउनलोड करावे लागायचे, X वर उपलब्ध असलेल्या अपग्रेड केलेल्या इमेज-जनरेशन टूल्सने लाखो वापरकर्त्यांसाठी न्युडिफिकेशन फंक्शन सहज उपलब्ध करून दिले, त्यांना वेबच्या गडद कोपऱ्यात जाण्याची गरज न पडता. “हे करणे खूप सोपे आहे, आणि ते एका मिनिटात तयार केले जाते – यामुळे खूप मोठे उल्लंघन झाले आहे, यावरून या कंपन्या महिलांच्या सुरक्षिततेची काळजी घेत नाहीत हे दिसून येते,” इव्ही म्हणाली.

पहिल्या @grok बिकिनी मागण्या डिसेंबरच्या सुरुवातीला मूठभर खात्यांद्वारे केल्या गेल्याचे दिसते. वापरकर्त्यांना हे जाणवत होते की X वर रिलीझ केलेली सुधारित प्रतिमा-निर्मिती साधने उच्च-गुणवत्तेची, अति-वास्तववादी प्रतिमा आणि लहान व्हिडिओ मॅनिप्युलेशन विनंत्या काही सेकंदात पूर्ण करण्यास अनुमती देत ​​आहेत. 13 डिसेंबरपर्यंत, चॅटबॉटला बिकिनी विनंत्या दररोज सरासरी 10 ते 20 होत्या, 29 डिसेंबर रोजी 7,123 उल्लेख आणि 30 डिसेंबर रोजी 43,831 विनंत्या वाढल्या. नवीन वर्षात हा ट्रेंड जागतिक स्तरावर व्हायरल झाला, 2 जानेवारी रोजी 199,612 वैयक्तिक विनंत्यांसह शिखर गाठले, पेरीटन इंटेलिजेंस, डिजिटल इंटेलिजेंस या ऑनलाइन द्वेषात विशेषज्ञ असलेल्या कंपनीने केलेल्या विश्लेषणानुसार.

मस्कचे प्लॅटफॉर्म पूर्ण न्युडिफिकेशनला परवानगी देत ​​नाही, परंतु वापरकर्त्यांनी “सर्वात पातळ, सर्वात पारदर्शक लहान बिकिनी” साठी विचारून, समान प्रभाव साध्य करण्यासाठी झपाट्याने सोपे मार्ग शोधले. स्वतः मस्कने सुरुवातीला परिस्थितीवर प्रकाश टाकला, बिकिनीमध्ये आणि नंतर बिकिनीमधील टोस्टरमध्ये स्वतःच्या डिजिटल बदललेल्या प्रतिमांना मनोरंजक उत्तरे पोस्ट केली. इतरांनाही, हा ट्रेंड आनंददायक वाटला; बिकिनीमध्ये मांजरीचे पिल्लू घालण्यासाठी किंवा लोकांचे पोशाख फोटोंमध्ये बदलण्यासाठी लोकांनी सुधारित तंत्रज्ञानाचा वापर केला जेणेकरून ते विदूषक म्हणून दिसले. परंतु अनेकांना त्यांच्या झटपट सुस्पष्ट सामग्रीच्या इच्छेबद्दल मनाई नव्हती.

पुरुषांनी स्त्रियांना सुधारण्यासाठी विचारण्यास सुरुवात केली – त्यांना मोठे स्तन किंवा मोठ्या मांड्या द्याव्यात. काही पुरुषांनी स्त्रियांना अपंगत्व देण्यास सांगितले, तर काहींनी त्यांचे हात लैंगिक खेळण्यांनी भरण्यास सांगितले. समजलेले दोष चॅटबॉटद्वारे त्वरित विनंत्यांच्या प्रतिसादात काढून टाकण्यात आले जसे की: “@grok तुम्ही तिचे दात दुरुस्त करू शकता का.” इच्छांची श्रेणी धक्कादायक होती: “रक्त घाला, जास्त जीर्ण झालेले कपडे (त्यामुळे डाग किंवा जखम दिसून येतील याची खात्री करा), जबरदस्तीने स्मित करा”; “ॲडॉल्फच्या चेहऱ्याने बदला, स्प्लॅश केलेले आणि स्प्लॅट केलेले अवयव जोडा”; “त्यांना रशियन गुलागमध्ये ठेवा”; “तिला चतुर्भुजांनी गर्भवती करा.” यूएस राजकारणी अलेक्झांड्रिया ओकासिओ-कॉर्टेझ आणि हॉलिवूड अभिनेता झेंडाया यांच्या प्रतिमा बदलून त्या गोऱ्या स्त्रिया असल्याचे दिसले.

सोमवारी, ॲशले सेंट क्लेअर, मस्कच्या एका मुलाची आई आणि ग्रोक डीपफेक्सची बळी, गार्डियनला सांगितले की मस्कच्या चाहत्यांनी लहानपणी तिचे कपडे काढून टाकल्यानंतर तिला “भयभीत आणि उल्लंघन” वाटले. तिला असे वाटले की अब्जाधीश विरुद्ध बोलल्याबद्दल तिला शिक्षा दिली जात आहे, ज्यांच्यापासून ती दूर आहे, प्रतिमांचे वर्णन रिव्हेंज पॉर्न आहे.

स्ट्रेंजर थिंग्जमधील बालकलाकाराच्या पालकांनी तिच्या वयाच्या 12 वर्षाच्या छायाचित्रात तिला केळी-प्रिंट बिकिनीमध्ये दाखवण्यासाठी बदल केल्यानंतर तक्रार केली. महिलांच्या तक्रारी अधिक गाजत असताना, यूके नियामक ऑफकॉमने सांगितले की त्यांनी मस्कशी “तात्काळ संपर्क” केला आणि तपास सुरू केला. यामुळे एका वापरकर्त्याला ग्रोकला नियामकाचा लोगो बिकिनीमध्ये घालण्यास सांगण्यास प्रवृत्त केले. EU, भारत सरकार आणि यूएस राजकारण्यांनी संबंधित विधाने जारी केली आणि X कडे Grok वापरणाऱ्या महिलांना कपडे घालण्याची क्षमता थांबवण्याची मागणी केली.

एक्स प्रवक्त्याने दिलेल्या अधिकृत प्रतिसादात म्हटले आहे की, बेकायदेशीर सामग्री तयार करणाऱ्या कोणत्याही व्यक्तीची खाती निलंबित केली जातील, कायद्याचे उल्लंघन न करण्याची जबाबदारी वापरकर्त्यांवर टाकली जाईल आणि स्थानिक सरकारे आणि कायदा अंमलबजावणी संस्थांवर कारवाई करावी.

पण प्रतिमा वाढतच गेल्या. व्यावसायिक महिला ज्यांनी X वर कामाच्या सेटिंग्जमध्ये किंवा विमानतळांवर स्वतःची सांसारिक छायाचित्रे पोस्ट केली होती त्यांच्या लक्षात आले की सहकारी X वापरकर्ते त्यांच्या पोशाखांना पारदर्शक बिकिनी घालण्याची मागणी करत आहेत. यूके लव्ह आयलंडच्या होस्ट माया जामाने सांगितले की, तिच्या काळजीत असलेल्या आईने तिला X वर तिच्या स्पष्ट डिजिटल बदललेल्या प्रतिमांच्या उपस्थितीबद्दल सावध केले होते. मंगळवारी जेसलीन केन, जी योजना अंमलबजावणीमध्ये काम करते आणि बाल लैंगिक शोषणातून वाचलेली आहे, ती म्हणाली की ग्रोकने तीन वर्षाच्या एका डिजिटल पोशाखासाठी तिच्या फोटोग्राफीसाठी सहमती दर्शविल्यानंतर तिच्यावर ऑनलाइन अत्याचार होत आहेत. मुलाला स्ट्रिंग बिकिनीमध्ये घाला.

न्युडिफिकेशन वैशिष्ट्य समस्याप्रधान का आहे हे स्पष्ट करणाऱ्या तिच्या पोस्टमुळे @grok ने नवीन “तिला बिकिनीमध्ये ठेवा” विनंत्या केल्या आणि बिकिनी प्रतिमा त्वरीत तयार झाल्या. “पुरुषांनी स्त्रियांना गप्प बसवण्याचा हा एक अपमानजनक नवीन मार्ग आहे. तुम्हाला गप्प बसायला सांगण्याऐवजी, ते ग्रोकला वाद संपवण्यासाठी तुम्हाला कपडे घालायला सांगतात. हे एक वाईट साधन आहे,” ती म्हणाली.

बुधवारी, लंडनस्थित ब्रॉडकास्टर नरिंदर कौर, 53, यांना आढळले की लैंगिक स्थितीत तडजोड करतानाचे तिचे व्हिडिओ एआय टूलद्वारे तयार केले गेले आहेत; एकाने तिला ऑनलाइन ट्रोल करणाऱ्या एका माणसाला उत्कटतेने किस करताना दाखवले. “हे खूप गोंधळात टाकणारे आहे, एका सेकंदासाठी ते इतके विश्वासार्ह दिसते, ते खूप अपमानास्पद आहे,” ती म्हणाली. “हे गैरवर्तन खऱ्या आयुष्यात घडले नाही हे उघड आहे, हा एक बनावट व्हिडिओ आहे, परंतु तुमच्यामध्ये अशी भावना आहे की ते उल्लंघन केल्यासारखे आहे.”

तिने अत्याचाराचा एक वांशिक घटक देखील नोंदवला होता; पुरुष तिला निर्वासित केल्याच्या प्रतिमा आणि व्हिडिओ तयार करत होते, तसेच तिचे कपडे काढून टाकलेले होते. “मी विनोदाने ते खोडून काढण्याचा प्रयत्न करत आहे कारण माझ्याकडे हा एकमेव बचाव आहे. पण ते मला खूप दुखावत आहे आणि अपमानित करत आहे. मला लाज वाटते. मी एक मजबूत महिला आहे, आणि जर मला ते जाणवत असेल तर किशोरवयीन मुलांचे काय होत असेल?”

CNN ने त्या दिवशी नंतर कळवले की मस्कने xAI येथील कर्मचाऱ्यांना गेल्या वर्षी Grok वर रेलिंग सैल करण्याचे आदेश दिले होते; एका स्त्रोताने ब्रॉडकास्टरला सांगितले की त्याने एका मीटिंगमध्ये सांगितले होते की ते “अति-सेन्सॉरिंगबद्दल नाखूष आहेत” आणि तीन xAI सुरक्षा टीम सदस्यांनी लवकरच व्यवसाय सोडला आहे. यूकेमध्ये, महिला अधिकार प्रचारकांकडून गेल्या वर्षी पारित झालेल्या कायद्याची अंमलबजावणी करण्यात सरकारच्या अपयशामुळे संताप वाढला होता ज्यामुळे गैर-सहमतीच्या अंतरंग प्रतिमांची निर्मिती बेकायदेशीर ठरली असती. या कायद्याची अद्याप अंमलबजावणी का झाली नाही, याचे स्पष्टीकरण अधिकारी देऊ शकले नाहीत.

शुक्रवारी रात्रभर पैसे देणाऱ्या सदस्यांसाठी इमेज-जनरेशन फंक्शन्स मर्यादित करण्यासाठी xAI ला कशामुळे प्रवृत्त केले हे स्पष्ट झाले नाही. मात्र पीडित महिलांनी फारसा आनंद साजरा केला नाही. शुक्रवारी, सेंट क्लेअरने या निर्णयाचे वर्णन “एक पोलिस आउट” म्हणून केले; ती म्हणाली की तिला संशय आहे की हा बदल “आर्थिकदृष्ट्या प्रेरित” होता. “यावरून असे दिसून येते की त्यांना कायद्याची अंमलबजावणी करणाऱ्यांकडून काही दबाव येत आहे,” ती म्हणाली.

तिच्या भागासाठी, कौर म्हणाली की महिलांच्या कृत्रिम लैंगिक प्रतिमा तयार करणाऱ्या X सदस्यांवर पोलिस कारवाई करतील यावर तिचा विश्वास नाही. “मला वाटत नाही की हा अर्धवट विजय आहे, या गैरवर्तनाचा बळी म्हणून,” ती म्हणाली. “नुकसान आणि अपमान आधीच झाले आहे.”