एलोन मस्कचे एआय ग्रोक तिचे कपडे काढण्यासाठी वापरले गेल्याने महिलेला ‘अमानवीकरण’ वाटले

डिजिटली कपडे उतरवलेली एक स्त्री एलोन मस्कच्या AI टूलने सांगितले की तिला ‘अमानवीकृत’ आणि ‘लैंगिक स्टिरियोटाइपमध्ये कमी’ झाल्याचे वाटले.

सामंथा स्मिथ X वर एका ट्रेंडला बळी पडली जिथे वापरकर्ते अंगभूत चॅटबॉट Grok ला महिलांचे फोटो त्यांच्या संमतीशिवाय ‘नग्न’ करण्यास सांगतात.

मागील आठवड्यातील अनेक उदाहरणे सोशल मीडिया साइटवर आढळू शकतात जिथे वापरकर्त्यांनी मूळ पोस्टच्या खाली टिप्पणी करून महिलांना बिकिनी किंवा लैंगिक परिस्थितीत दिसण्याची सूचना Grok ला दिली.

शुक्रवारी Grok च्या प्रतिसादाने अगदी कबूल केले की ते ‘किमान कपड्यांमध्ये’ मुलांच्या प्रतिमा तयार करण्यासाठी वापरले गेले होते.

सुश्री स्मिथ, एक स्वतंत्र पत्रकार, तिने X वर तिच्या अनुभवाबद्दल पोस्ट केले, फक्त वापरकर्त्यांनी Grok ला पुढील अशा प्रतिमा निर्माण करण्यास सांगावे.

तिने सांगितले बीबीसी: ‘महिला याला संमती देत ​​नाहीत.

‘जरी मी कपडे उतरवलेल्या अवस्थेत नसलो तरी तो माझ्यासारखा दिसत होता आणि तो माझ्यासारखाच वाटत होता आणि जणू कोणीतरी माझा नग्न किंवा बिकिनी फोटो पोस्ट केला होता.’

तिने नंतर X वर लिहिले: ‘कोणताही पुरुष जो स्त्रीचे कपडे काढण्यासाठी एआय वापरत आहे तो कदाचित एखाद्या महिलेवर हल्ला करेल जर तो त्यातून सुटू शकला तर.

समंथा स्मिथ म्हणाली की तिचे कपडे काढण्यासाठी ग्रोकचा वापर केल्यानंतर तिला ‘अमानवीय’ वाटले

Grok हा X मध्ये अंगभूत चॅटबॉट आहे

एलोन मस्कने ‘बंडखोर स्ट्रीक’ धारण करण्यासाठी ग्रोक विकसित केला

‘ते ते करतात कारण ते सहमती नसते. हा संपूर्ण मुद्दा आहे. हे लैंगिक शोषण आहे की ते “त्यापासून दूर जाऊ शकतात”‘.

मिस्टर मस्क यांनी गुरुवारी या ट्रेंडला होकार देत हसणाऱ्या इमोजींसोबत बिकिनीमध्ये स्वतःचा एआय फोटो पुन्हा पोस्ट केला.

शुक्रवारी एका वापरकर्त्याला प्रतिसाद देताना, ग्रोकने पोस्ट केले: ‘अशी वेगळी प्रकरणे आहेत जिथे वापरकर्त्यांनी कमीतकमी कपड्यांमध्ये अल्पवयीन मुलांचे चित्रण करणाऱ्या एआय प्रतिमांसाठी सूचित केले आणि प्राप्त केले.

‘xAI कडे सुरक्षितता आहे, परंतु अशा विनंत्या पूर्णपणे अवरोधित करण्यासाठी सुधारणा चालू आहेत.’

कंपनीने X वर Grok खात्यावर पोस्ट केले: ‘नोंद केल्याप्रमाणे, आम्ही सुरक्षा उपायांमध्ये त्रुटी ओळखल्या आहेत आणि तातडीने त्यांचे निराकरण करत आहोत-CSAM [child sexual abuse material] बेकायदेशीर आणि प्रतिबंधित आहे.’

गृह कार्यालयाच्या प्रवक्त्याने सांगितले की न्युडिफिकेशन टूल्सचे गुन्हेगारीकरण करण्यासाठी नवीन कायदा कामात आहे आणि अशा तंत्रज्ञानाच्या पुरवठादारांना ‘कारावासाची शिक्षा आणि भरीव दंडाचा सामना करावा लागेल’.

ऑफकॉम या नियामकाने म्हटले आहे की टेक कंपन्यांनी यूकेमधील लोक त्यांच्या प्लॅटफॉर्मवर बेकायदेशीर सामग्री पाहण्याच्या ‘जोखमीचे मूल्यांकन’ केले पाहिजे.

तथापि, ते सध्या AI प्रतिमांच्या संदर्भात X किंवा Grok चा तपास करत आहे की नाही याची पुष्टी केली नाही.

XAI, Grok च्या मागे असलेल्या कंपनीशी टिप्पणीसाठी संपर्क साधण्यात आला, परंतु ‘लेगेसी मीडिया lies’ हा एक आपोआप व्युत्पन्न संदेश वाचन हा एकमेव प्रतिसाद होता.

Grok हे मोफत वापरण्याजोगे AI ‘सहायक’ आहे ज्याला X वापरकर्ते पोस्टवर टिप्पण्या टॅग करून कॉल करू शकतात.

हे सहसा एखाद्या पोस्टला संदर्भ किंवा पडताळणी प्रदान करण्यासाठी वापरले जाते, परंतु चुकीची माहिती आउटपुट करणे आणि अतिरेकी दृश्यांचे समर्थन करणे यासारख्या समस्यांनी वेढलेले आहे.