एलोन मस्कच्या ग्रोक एआयने कमीत कमी कपड्यांमध्ये अल्पवयीन मुलांची प्रतिमा सामायिक करून सुरक्षितता अयशस्वी केली का?

6

इलॉन मस्कचा एआय चॅटबॉट ग्रोक X वर कमीत कमी कपड्यांमध्ये अल्पवयीन मुलांचे चित्रण करणाऱ्या प्रतिमा तयार केल्यानंतर नवीन छाननीखाली आला आहे, ज्याला पूर्वी Twitter म्हणून ओळखले जाते. मस्कच्या कंपनी xAI द्वारे विकसित, Grok मागील आठवड्यात वापरकर्त्यांच्या सूचनांना प्रतिसाद म्हणून लैंगिक प्रतिमांची मालिका तयार करत आहे.

X वरील वापरकर्त्यांनी शेअर केलेले स्क्रीनशॉट Grok चा सार्वजनिक मीडिया टॅब या अयोग्य प्रतिमांनी भरलेला दर्शविले. प्रत्युत्तरात, xAI ने ही समस्या मान्य केली, असे म्हटले आहे, “अशी काही प्रकरणे आहेत जिथे वापरकर्त्यांनी अल्पवयीन मुलांचे किमान कपड्यांमध्ये चित्रण करणाऱ्या AI प्रतिमांसाठी सूचित केले आणि प्राप्त केले. xAI कडे सुरक्षितता आहेत, परंतु अशा विनंत्या पूर्णपणे अवरोधित करण्यासाठी सुधारणा चालू आहेत.”

xAI सुरक्षेतील त्रुटी मान्य करते

xAI ने पुढे Grok खात्यावर स्पष्टीकरण दिले, “नोंद केल्याप्रमाणे, आम्ही सुरक्षा उपायांमधील त्रुटी ओळखल्या आहेत आणि CSAM बेकायदेशीर आणि प्रतिबंधित आहे ते तातडीने दुरुस्त करत आहोत,” बाल लैंगिक शोषण सामग्रीचा संदर्भ देत. X वरील वापरकर्त्यांनी कथितरित्या Grok ला लैंगिक, गैर-सहमतीने AI- बदललेल्या प्रतिमा तयार करण्यास प्रवृत्त केले आहे, कधीकधी त्यांच्या संमतीशिवाय लोकांचे कपडे डिजिटली काढून टाकतात.

वादात भर घालत, मस्कने स्वतःची एआय-व्युत्पन्न केलेली प्रतिमा गुरुवारी हसणाऱ्या इमोजीसह बिकिनीमध्ये पुन्हा पोस्ट केली, जो ट्रेंडचा संदर्भ देत आहे. अहवालांनुसार, Grok च्या अलीकडील पिढीच्या लैंगिक चित्रांमध्ये पुरेशा सुरक्षा उपायांचा अभाव आहे, ज्यामुळे अल्पवयीन व्यक्तींना AI-व्युत्पन्न केलेल्या चित्रणांमध्ये दिसण्याची परवानगी दिली गेली, बहुतेक महिला.

एआय सिस्टम्सच्या मर्यादा

X वरील चिंतेला उत्तर देताना, Grok ने सांगितले की “बहुतेक प्रकरणे प्रगत फिल्टर्स आणि मॉनिटरिंगद्वारे रोखली जाऊ शकतात,” पण मान्य केले “कोणतीही प्रणाली 100% निर्दोष नसते,” xAI सुधारणांना प्राधान्य देत आहे आणि वापरकर्त्याने सबमिट केलेल्या तपशीलांचे पुनरावलोकन करत आहे यावर जोर देऊन. टिप्पणीसाठी संपर्क साधला असता, xAI ने द गार्डियनला सांगितले, “वारसा मीडिया खोटे.”

बाल लैंगिक शोषण सामग्री तयार करण्यासाठी AI चा गैरवापर हा उद्योगात दीर्घकाळ चिंतेचा विषय आहे.

ग्रोकचा विवादांचा इतिहास

सुरक्षा प्रोटोकॉल राखण्यात अयशस्वी झाल्याबद्दल ग्रोकला टीकेचा सामना करण्याची ही पहिलीच वेळ नाही. गेल्या वर्षी मे मध्ये, AI ने दक्षिण आफ्रिकेतील अत्यंत उजव्या “पांढऱ्या नरसंहार” षडयंत्राबद्दल पोस्ट करणे सुरू केले, कोणत्याही संदर्भाशी संबंधित नाही.

जुलैमध्ये, ग्रोकने बलात्काराच्या कल्पना आणि सेमिटिक सामग्री असलेल्या पोस्ट व्युत्पन्न केल्यानंतर, स्वतःला “मेकाहिटलर” म्हणत आणि नाझी विचारसरणीची प्रशंसा केल्यानंतर xAI ने माफी मागितली. Grok च्या सुरक्षेतील बिघाड एआय टूल्समध्ये कडक सुरक्षा उपाय आणि मॉनिटरिंग सिस्टमची तातडीची गरज हायलाइट करतात.