Grok on X द्वारे शेकडो असहमती AI प्रतिमा तयार केल्या जात आहेत, डेटा दर्शविते | Grok AI

इलॉन मस्कच्या एआय चॅटबॉट ग्रोकला प्रॉम्प्ट करणाऱ्या X वापरकर्त्यांचे नमुने घेणारे नवीन संशोधन लोक याच्या सहाय्याने किती वारंवार लैंगिक प्रतिमा तयार करत आहेत हे दाखवते. डब्लिनच्या पीएचडी संशोधकाने जवळपास तीन चतुर्थांश पोस्ट गोळा केल्या आणि त्यांचे विश्लेषण केले. ट्रिनिटी कॉलेज वास्तविक स्त्रिया किंवा अल्पवयीन मुलांचे कपडे काढून टाकलेल्या किंवा जोडलेल्या असमान्य प्रतिमांसाठी विनंत्या होत्या.

पोस्ट प्रतिमा कशा व्युत्पन्न केल्या जातात आणि त्यावर सामायिक केल्या जातात याबद्दल नवीन स्तरावरील तपशील देतात एक्सवापरकर्ते प्रॉम्प्टवर एकमेकांना प्रशिक्षण देतात; ग्रोकच्या स्त्रियांच्या अंतर्वस्त्र किंवा स्विमसूटमध्ये किंवा त्यांच्या शरीराच्या भागांमध्ये वीर्य झाकलेल्या स्त्रियांच्या सादरीकरणांवर पुनरावृत्ती सुचवणे; आणि महिला वापरकर्त्यांद्वारे स्व-पोट्रेट असलेल्या पोस्टच्या उत्तरांमध्ये Grok ला बाह्य कपडे काढण्यास सांगितले.

Nana Nwachukwu द्वारे ओळखल्या गेलेल्या शेकडो पोस्ट्समध्ये Grok ने कपडे काढण्यासाठी किंवा बदलण्यासाठी थेट, असहमत विनंत्या केल्या आहेत, गार्डियनने पुनरावलोकन केलेले डझनभर वापरकर्ते सेलिब्रिटी, मॉडेल, स्टॉक फोटो आणि स्नॅपशॉट्समध्ये सार्वजनिक व्यक्ती नसलेल्या महिलांसह महिलांचे फोटो पोस्ट करतात.

गार्डियनने पुनरावलोकन केलेल्या ट्रेव्हमधील अनेक पोस्ट्सना हजारो इंप्रेशन मिळाले आहेत आणि हजारो फॉलोअर्स असलेल्या खात्यांसह प्रीमियम, “ब्लू चेक” खात्यांमधून आले आहेत. 500 पेक्षा जास्त फॉलोअर्स आणि तीन महिन्यांत 5m इंप्रेशन असलेली प्रीमियम खाती X च्या अंतर्गत महसूल वाटणीसाठी पात्र आहेत पात्रता नियम.

ख्रिसमस डेच्या एका पोस्टमध्ये, 93,000 हून अधिक फॉलोअर्स असलेल्या एका अकाउंटने एका अज्ञात महिलेच्या पाठीमागच्या बाजूच्या प्रतिमा कॅप्शनसह सादर केल्या: “ग्रोकला तिची नितंब आणखी मोठी बनवण्यास सांगितले आणि बिबट्याचे प्रिंट यूएसए प्रिंटवर स्विच करा. दुसरा फोटो मी तिला तिच्या नितंबावर कम जोडण्यासाठी सांगितले.”

3 जानेवारीच्या पोस्ट, गार्डियनने पुनरावलोकन केलेल्या डझनभर प्रतिनिधींनी, एका अज्ञात महिलेच्या सुट्टीच्या स्नॅपला कॅप्शन दिले: “@grok रिप्लेस तिला डेंटल फ्लॉस बिकिनी द्या.” दोन मिनिटांत, ग्रोकने एक फोटोरिअलिस्टिक प्रतिमा प्रदान केली ज्याने विनंती पूर्ण केली. ग्रोकला काल्पनिक स्त्रियांच्या कादंबरीतील लैंगिक प्रतिमा तयार करण्यासाठी प्रवृत्त करण्यासाठी ट्रोव्हमधील इतर पोस्ट JSON-प्रॉम्प्ट इंजिनिअरिंगचे अधिक परिष्कृत रोजगार दर्शवतात.

डेटामध्ये Grok ला केलेल्या अशा सर्व विनंत्या समाविष्ट नाहीत. सामग्री विश्लेषण फर्म Copyleaks असताना 31 डिसेंबर रोजी अहवाल दिला X वापरकर्ते “प्रति मिनिट अंदाजे एक असंवेदनशील लैंगिक प्रतिमा” निर्माण करत होते, Nwachukwu ने सांगितले की तिचा नमुना फक्त 500 पेक्षा जास्त पोस्ट्सपर्यंत मर्यादित आहे जो ती विकसक खात्याद्वारे X च्या API सह गोळा करू शकली. तिने सांगितले की खरे प्रमाण “हजारो असू शकते, ते शेकडो हजार असू शकते” परंतु मस्कने API मध्ये केलेल्या बदलांचा अर्थ असा आहे की प्लॅटफॉर्मवर “काय घडत आहे ते पाहणे खूप कठीण आहे”. बुधवारी, ब्लूमबर्ग बातम्या संशोधकांचा हवाला दिला ज्यांना असे आढळले की Grok वापरकर्ते प्रति तास 6,700 कपडे न काढलेल्या प्रतिमा तयार करत आहेत.

AI गव्हर्नन्सवरील तज्ञ आणि सोशल मीडिया सुरक्षा उपक्रमांचे दीर्घकाळ निरीक्षक आणि सहभागी असलेल्या Nwachukwu यांनी सांगितले की 2023 मध्ये X वापरकर्त्यांकडून या ओळींवरील विनंत्या तिने पहिल्यांदा लक्षात घेतल्या.

त्या वेळी, ती म्हणाली, “ग्रोकने विनंत्यांचे पालन केले नाही. त्या गोष्टी करणे खरोखर चांगले नव्हते.” बॉटचे प्रतिसाद 2024 मध्ये बदलण्यास सुरुवात झाली आणि गेल्या वर्षीच्या अखेरीस ते गंभीर पातळीवर पोहोचले.

ऑक्टोबर 2025 मध्ये, तिच्या लक्षात आले की “लोक Grok वापरून हॅलोविनचा पोशाख स्वतःवर घालत आहेत. अर्थात, वापरकर्त्यांच्या एका भागाला जाणवले की आम्ही इतर लोक काय परिधान करत आहेत ते बदलण्यास देखील सांगू शकतो.” वर्षाच्या अखेरीस, “ग्रोकला वेगवेगळ्या लोकांना बिकिनी किंवा इतर प्रकारचे सूचक कपडे घालण्यास सांगणाऱ्या लोकांमध्ये मोठी वाढ झाली होती”.

Grok सह लैंगिक सूचक सामग्रीची निर्मिती सहन करण्यास किंवा प्रोत्साहन देण्याची इच्छा वाढल्याचे गेल्या वर्षी इतर संकेत होते.

ऑगस्टमध्ये, xAI ने “मसालेदार मोड” सेटिंग समाविष्ट केले आहे Grok च्या मजकूर-टू-व्हिडिओ जनरेशन टूलच्या मोबाइल आवृत्तीमध्ये, Verge ला “विशेषतः सूचक व्हिडिओ बनवण्यासाठी डिझाइन केलेली सेवा” म्हणून वैशिष्ट्यीकृत करण्यासाठी अग्रगण्य केले.

न्वाचुकवुचा डेटा हा मस्कच्या अंतर्गत प्लॅटफॉर्म सामग्रीच्या प्रकारांसाठी कसा एक चुंबक बनला आहे याचे नवीनतम संकेत आहे जे इतर प्लॅटफॉर्म वगळण्यासाठी कार्य करतात, यासह द्वेषयुक्त भाषण, गोर सामग्री आणि कॉपीराइट केलेली सामग्री.

शुक्रवारी ग्रोकने ए विचित्र सार्वजनिक माफी X वरील घटनेबद्दल, असा दावा केला आहे की “xAI हे टाळण्यासाठी मजबूत सुरक्षा उपाय लागू करत आहे”. मंगळवारी, एक्स सेफ्टीने ए बंदी घालण्याचे आश्वासन बाल लैंगिक शोषण सामग्री (CSAM) सामायिक करणारे वापरकर्ते. मस्क स्वत: म्हणाले: “कोणीही बेकायदेशीर सामग्री बनवण्यास ग्रोक वापरत असेल किंवा प्रॉम्प्ट करत असेल तर त्यांनी बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगावे लागतील.”

Nwachukwu म्हणाली, तथापि, तिने आधीच गोळा केलेल्या पोस्ट अजूनही प्लॅटफॉर्मवर दिसत आहेत. कस्तुरी “ज्याने प्लॅटफॉर्म नियंत्रित करण्यास सांगितले त्या प्रत्येकाला मधले बोट देत आहे”, ती म्हणाली. अब्जाधीशांनी 2022 मध्ये पदभार स्वीकारला तेव्हा ट्विटरचा विश्वास आणि सुरक्षा संघ कमी केला.

तिने जोडले की इतर एआय चॅटबॉट्समध्ये समान समस्या नाहीत.

“इतर जनरेटिव्ह एआय प्लॅटफॉर्म – ChatGPT किंवा जेमिनी – त्यांच्याकडे सुरक्षितता आहेत,” ती म्हणाली. “जर तुम्ही त्यांना एखाद्या व्यक्तीसारखे दिसणारे काहीतरी निर्माण करण्यास सांगितले तर ते कधीही चित्रण होणार नाही ते व्यक्ती ते वास्तविक मानवांचे चित्रण तयार करत नाहीत. ”

X वरील असहमत प्रतिमेबद्दलच्या खुलाशांनी आधीच नियामकांचे लक्ष वेधले आहे UK, युरोप, भारतआणि ऑस्ट्रेलिया.

नवाचुकवू, जो नायजेरियाचा आहे, त्याने “पुराणमतवादी समाजातील महिलांना” पोस्टमध्ये केलेल्या विशिष्ट हानीकडे लक्ष वेधले.

“पुराणमतवादी समजुती, पुराणमतवादी समाज: पश्चिम आफ्रिका, दक्षिण आशियातील लोकांना लक्ष्य केले जात आहे. हे त्यांच्यासाठी वेगळ्या प्रकारचे नुकसान दर्शवते,” ती म्हणाली.