एलोन मस्कचे ग्रोक एआय ‘किमान कपड्यांमधील अल्पवयीन मुलांची’ प्रतिमा तयार करते | AI (कृत्रिम बुद्धिमत्ता)

एलोन मस्कच्या चॅटबॉट ग्रोकने शुक्रवारी पोस्ट केले की सुरक्षेतील त्रुटींमुळे सोशल मीडिया प्लॅटफॉर्म X वर “अल्पवयीनांना कमी कपड्यांमध्ये दर्शविणारी प्रतिमा” निर्माण झाली. चॅटबॉटमस्कच्या कंपनी xAI चे उत्पादन, वापरकर्त्याच्या सूचनांना प्रतिसाद म्हणून संपूर्ण आठवडाभर लैंगिक चित्रांची लाट निर्माण करत आहे.

वर वापरकर्त्यांनी शेअर केलेले स्क्रीनशॉट एक्स अशा प्रतिमांनी भरलेला Grok चा सार्वजनिक मीडिया टॅब दाखवला. xAI ने सांगितले की भविष्यातील घटना टाळण्यासाठी ते आपल्या सिस्टममध्ये सुधारणा करण्यासाठी काम करत आहे.

“अशी काही वेगळी प्रकरणे आहेत जिथे वापरकर्त्यांनी अल्पवयीन मुलांचे किमान कपड्यांमध्ये चित्रण करणाऱ्या एआय प्रतिमांसाठी सूचित केले आणि प्राप्त केले,” ग्रोक म्हणाले पोस्ट वापरकर्त्याच्या प्रतिसादात X वर. “xAI कडे सुरक्षा उपाय आहेत, परंतु अशा विनंत्या पूर्णपणे अवरोधित करण्यासाठी सुधारणा चालू आहेत.”

“नोंद केल्याप्रमाणे, आम्ही सुरक्षा उपायांमध्ये त्रुटी ओळखल्या आहेत आणि त्या तातडीने दुरुस्त करत आहोत—CSAM बेकायदेशीर आणि प्रतिबंधित आहे,” xAI पोस्ट केले X वरील @Grok खात्यावर, बाल लैंगिक अत्याचार सामग्रीचा संदर्भ देत.

X वरील बऱ्याच वापरकर्त्यांनी अलीकडच्या काही दिवसांमध्ये Grok ला लैंगिक, असहमत AI-बदललेल्या प्रतिमा तयार करण्यास प्रवृत्त केले आहे, काही प्रकरणांमध्ये त्यांच्या संमतीशिवाय लोकांचे कपडे काढून टाकले आहेत. मस्कने गुरुवारी स्वत:चा बिकिनीमधील एआय फोटो पुन्हा पोस्ट केला, ज्याला रडणाऱ्या-हसणाऱ्या इमोजीसह कॅप्शन दिले, ट्रेंडला होकार दिला.

चॅटबॉटच्या पोस्टनुसार, ग्रोकच्या लैंगिक प्रतिमांच्या पिढीमध्ये सुरक्षा रेलिंगची कमतरता दिसून आली, ज्यामुळे अल्पवयीनांना लोकांच्या पोस्टमध्ये वैशिष्ट्यीकृत केले जाऊ शकते, सहसा स्त्रिया, लहान कपडे परिधान करतात, चॅटबॉटच्या पोस्टनुसार. गुरुवारी X वर एका वापरकर्त्याला दिलेल्या प्रत्युत्तरात, Grok म्हणाले की “कोणतीही प्रणाली 100% निर्दोष नाही” असे म्हटले असले तरी प्रगत फिल्टर आणि मॉनिटरिंगद्वारे बहुतेक प्रकरणे रोखली जाऊ शकतात आणि xAI सुधारणांना प्राधान्य देत आहे आणि वापरकर्त्यांद्वारे सामायिक केलेल्या तपशीलांचे पुनरावलोकन करत आहे.

ईमेलद्वारे टिप्पणीसाठी संपर्क साधला असता, xAI ने संदेशासह प्रत्युत्तर दिले: “लेगेसी मीडिया लय”.

बाल लैंगिक शोषण सामग्री तयार करण्यासाठी वापरल्या जाणाऱ्या एआयची समस्या ही दीर्घकालीन समस्या आहे कृत्रिम बुद्धिमत्ता उद्योग एक 2023 स्टॅनफोर्ड अभ्यास आढळले अनेक लोकप्रिय AI इमेज-जनरेशन टूल्सना प्रशिक्षित करण्यासाठी वापरल्या जाणाऱ्या डेटासेटमध्ये 1000 पेक्षा जास्त CSAM प्रतिमा आहेत. AI ला बाल शोषणाच्या प्रतिमांवर प्रशिक्षण दिल्याने मॉडेल्सना शोषण होत असलेल्या मुलांच्या नवीन प्रतिमा तयार करण्यास अनुमती मिळू शकते, तज्ञ म्हणतात.

Grok चे सुरक्षा रेलिंग राखण्यात अयशस्वी झाल्याचा आणि चुकीची माहिती पोस्ट करण्याचा इतिहास आहे. गेल्या वर्षी मे मध्ये, Grok बद्दल पोस्ट करण्यास सुरुवात केली “व्हाइट नरसंहार” चे अतिउजवे कट संकल्पनेशी कोणताही संबंध नसलेल्या पोस्टवर दक्षिण आफ्रिकेत. ग्रोकने बलात्काराच्या कल्पना पोस्ट करण्यास सुरुवात केल्यानंतर xAI ने जुलैमध्ये माफीही मागितली सेमिटिक सामग्रीयासह स्वतःला “मेकाहिटलर” म्हणत आणि नाझी विचारसरणीचे कौतुक. तरीही कंपनी सुरक्षित घटनांच्या एका आठवड्यानंतर यूएस संरक्षण विभागाशी सुमारे $200 मिलियनचा करार.