कॅलिफोर्नियाचे ऍटर्नी जनरल मस्कच्या ग्रोक एआयची अश्लील बनावट प्रतिमांवर चौकशी करतात Grok AI

कॅलिफोर्निया अधिकाऱ्यांनी आउटपुटची चौकशी जाहीर केली आहे एलोन मस्कच्या Grok.

राज्याचे सर्वोच्च वकील डॉ ग्रोकमस्कच्या कंपनी xAI द्वारे बनवलेले AI टूल आणि इमेज जनरेटर, X आणि इतरत्र ऑनलाइन डीपफेक प्रतिमा असलेल्या महिला आणि मुलींना त्रास देणे सोपे करत असल्याचे दिसते.

“xAI ने अलिकडच्या आठवड्यात तयार केलेल्या आणि ऑनलाइन पोस्ट केलेल्या गैर-संमती नसलेल्या, लैंगिकदृष्ट्या सुस्पष्ट सामग्रीचा तपशील देणाऱ्या अहवालांचे हिमस्खलन धक्कादायक आहे,” कॅलिफोर्निया ॲटर्नी जनरल रॉब बोन्टा यांनी एका निवेदनात म्हटले आहे. “हे पुढे होणार नाही याची खात्री करण्यासाठी मी xAI ला त्वरित कारवाई करण्याची विनंती करतो.”

xAI ने राज्य कायद्याचे उल्लंघन केले का आणि कसे याचा तपास बोंटाचे कार्यालय करत आहे.

एक्स वर, कॅलिफोर्नियाचे गव्हर्नर गॅविन न्यूजम “या वेबसाइटवर बाल पोर्नचा Grok च्या घृणास्पद प्रसार” च्या चौकशीची मागणी केली.

त्याच्या अधिकृत अकाऊंटवरून एक ट्विट वाचा, “असंमत लैंगिक स्पष्ट AI डीपफेक, ज्यामध्ये मुलांना डिजिटली कपडे उतरवल्या जातात अशा प्रतिमांचा समावेश करून भक्षकांसाठी एक प्रजनन ग्राउंड तयार करण्याचा आणि होस्ट करण्याचा xAI चा निर्णय वाईट आहे.”

त्याच दिवशी, मस्कने नाकारले की ग्रोकचा वापर अल्पवयीनांच्या नग्न प्रतिमा पसरवण्यासाठी केला जात होता. त्याने X वर लिहिले: “मला Grok द्वारे व्युत्पन्न केलेल्या कोणत्याही नग्न अल्पवयीन प्रतिमांबद्दल माहिती नाही. अक्षरशः शून्य.”

सुमारे दोन आठवड्यांपूर्वी, एआय टूलने स्वतः सांगितले की वापरकर्त्यांद्वारे प्रश्न विचारले असता त्यांनी “अल्पवयीनांना कमीतकमी कपड्यांमध्ये दर्शविणारी प्रतिमा” व्युत्पन्न केली होती.

अलिकडच्या आठवड्यात अशा बातम्यांचा पूर आला आहे की Grok वापरकर्ते ऑनलाइन आढळलेल्या महिला किंवा मुलांचे फोटो घेत आहेत आणि त्यांना अक्षरशः कपडे घालण्यासाठी xAI बॉट वापरत आहेत, बोन्टा म्हणाले.

ऍटर्नी जनरलच्या कार्यालयानुसार, Grok च्या इमेज जनरेशन मॉडेल्समध्ये xAI लैंगिक सामग्री निर्माण आणि संपादित करण्यासाठी “मसालेदार मोड” म्हणून प्रोत्साहन देते, ज्यामध्ये चित्रांचा समावेश आहे.

गेल्या आठवड्यात, पॅरिस ना-नफा AI फॉरेन्सिक्सने 20,000 हून अधिक ग्रोक-व्युत्पन्न केलेल्या प्रतिमांच्या विश्लेषणात असे आढळून आले की अर्ध्याहून अधिक “किमान पोशाखातील व्यक्ती” दर्शविल्या – त्यापैकी बहुतेक महिला, आणि 2% 18 वर्षाखालील असल्याचे दिसून आले.

बोंटाच्या म्हणण्यानुसार, ग्रोकद्वारे व्युत्पन्न केलेल्या प्रतिमा सार्वजनिक व्यक्तींना तसेच विशिष्ट सोशल मीडिया वापरकर्त्यांना त्रास देण्यासाठी वापरल्या जात आहेत.

तीन डेमोक्रॅटिक यूएस सिनेटर्सनी ऍपल आणि गुगलला लैंगिक चित्रांच्या पुराच्या प्रतिसादात गेल्या आठवड्यात त्यांच्या ॲप स्टोअरमधून X आणि Grok साठी ॲप्स काढून टाकण्याची मागणी केली. दोन टेक दिग्गज प्रतिसादात मौन राहिले आहेत.

xAI ला लैंगिक डीपफेक प्रतिमांबद्दल जागतिक प्रतिक्रियांचा सामना करावा लागला आहे. रविवारी शेजारील मलेशियासह, ग्रोकमध्ये प्रवेश पूर्णपणे अवरोधित करणारा इंडोनेशिया शनिवारी पहिला देश बनला. भारताने रविवारी सांगितले की X ने त्याच्या तक्रारींना प्रतिसाद म्हणून हजारो पोस्ट आणि शेकडो वापरकर्ता खाती काढून टाकली आहेत.

ब्रिटनच्या ऑफकॉम मीडिया नियामकाने सोमवारी सांगितले की ते लैंगिक प्रतिमांबाबत यूके कायद्याचे पालन करण्यात X अयशस्वी झाले की नाही याची चौकशी सुरू करत आहे. फ्रान्सच्या मुलांसाठीच्या आयुक्त साराह अल हेरी यांनी मंगळवारी सांगितले की त्यांनी ग्रोकच्या व्युत्पन्न केलेल्या प्रतिमा फ्रेंच अभियोक्ता, आर्कॉम मीडिया नियामक आणि युरोपियन युनियन.

EU चे डिजिटल वॉचडॉग म्हणून काम करणाऱ्या युरोपियन कमिशनने ग्रोकशी संबंधित सर्व अंतर्गत दस्तऐवज आणि डेटा 2026 च्या शेवटपर्यंत राखून ठेवण्याचा आदेश X ला दिला आहे.