किशोरवयीन मुलींनी मस्कच्या xAI वर खटला दाखल केला, Grok टूलवर बाल लैंगिक शोषण सामग्री तयार केल्याचा आरोप Grok AI

तीन किशोरवयीन मुलींच्या गटाने, ज्यापैकी दोन अल्पवयीन आहेत, सोमवारी त्यांच्याविरुद्ध खटला दाखल केला एलोन मस्कच्या xAI कृत्रिम बुद्धिमत्ता कंपनीचा आरोप आहे की त्याच्या Grok इमेज जनरेटरने बाल लैंगिक शोषण सामग्री तयार करण्यासाठी आणि वितरित करण्यासाठी त्यांचे फोटो वापरले. या वर्षाच्या सुरुवातीला ग्रोकच्या असहमतीयुक्त नग्न प्रतिमांच्या मोठ्या प्रमाणावर निर्मितीनंतर अल्पवयीन मुलांनी दाखल केलेला वर्ग-कृती खटला हा पहिला आहे.

“एक्सएआयने असे धोकादायक उत्पादन तयार करण्याचे परिणाम चांगल्याप्रकारे माहीत असूनही मुलांसह वास्तविक लोकांच्या लैंगिक प्रवृत्तीचा फायदा घेण्याचे निवडले,” असे फिर्यादींच्या वकील व्हेनेसा बेहर-जोन्स यांनी एका निवेदनात म्हटले आहे.

तीन टेनेसी किशोरवयीन मुलांनी आणलेल्या परंतु xAI चे मुख्यालय असलेल्या कॅलिफोर्नियामध्ये दाखल केलेला खटला, मुलींना त्यांच्या नग्न, AI-बदललेल्या प्रतिमा कशाप्रकारे आढळल्या याचा तपशील डिसकॉर्ड सर्व्हरवर अपलोड केला गेला आणि त्यांच्या नकळत ऑनलाइन शेअर केला गेला.

त्यांनी कायद्याची अंमलबजावणी करणाऱ्यांना प्रतिमांबाबत सतर्क केल्यानंतर, तक्रारीनुसार, पोलिसांनी त्या महिन्याच्या शेवटी एका संशयिताला अटक केली आणि त्याच्या फोनवर बाल लैंगिक शोषण सामग्री (CSAM) सापडली जी कथितपणे xAI ची प्रतिमा आणि व्हिडिओ निर्मिती तंत्रज्ञान वापरून तयार केली गेली होती.

xAI ने गार्डियनच्या टिप्पणीच्या विनंतीला त्वरित प्रतिसाद दिला नाही.

दाव्याचा आरोप आहे की CSAM हे तृतीय-पक्ष ॲप वापरून तयार केले गेले होते ज्याने सामग्री तयार करण्यासाठी Grok च्या AI वर परवाना दिला होता आणि त्यावर अवलंबून होता. वॉशिंग्टन पोस्ट प्रथम नोंदवले केस वर.

खटला इतर अनेक कायदेशीर कृतींमध्ये सामील होतो आणि आंतरराष्ट्रीय तपास मस्कच्या एका मुलाच्या आईचा आणखी एक खटला आणि औपचारिक युरोपियन युनियन चौकशी यासह असहमत लैंगिक चित्रांच्या निर्मिती आणि प्रसाराबद्दल xAI मध्ये. घोटाळ्याच्या शिखरावर, सेंटर फॉर काउंटरिंग डिजिटल हेट येथील संशोधकांनी गणना केली Grok ने दोन आठवड्यांपेक्षा कमी कालावधीत सुमारे 3m लैंगिक प्रतिमा तयार केल्या होत्या – त्यापैकी सुमारे 23,000 मुलांचे चित्रण होते.

मस्कने पूर्वी नाकारले आहे की ग्रोकचा वापर सीएसएएम तयार करण्यासाठी केला गेला आहे, जानेवारी मध्ये दावा की त्याला “ग्रोकने व्युत्पन्न केलेल्या कोणत्याही नग्न अल्पवयीन प्रतिमांची जाणीव नव्हती. अक्षरशः शून्य.”

त्यांनी असा आरोप केला की Grok कोणत्याही बेकायदेशीर प्रतिमा निर्माण करणार नाही आणि त्याचे कार्य तत्त्व स्थानिक कायद्यांचे पालन करणे आहे.

सोमवारी दाखल केलेल्या तक्रारीत, किशोरवयीन फिर्यादींच्या वकिलांनी मुलींना त्यांच्या एआय-बदललेल्या नग्न प्रतिमा ऑनलाइन प्रसारित केल्या जात असल्याचे कसे समजले याची तपशीलवार माहिती दिली. जेन डो 1 म्हणून ओळखल्या जाणाऱ्या एका मुलीला डिसेंबरमध्ये एका अनामिक वापरकर्त्याकडून इंस्टाग्रामवर एक संदेश मिळाला, ज्याने तिला अलर्ट केला की तिच्या सामाजिक वर्तुळातील कोणीतरी डीपफेक व्हिडिओ आणि प्रतिमांची मालिका डिसकॉर्ड सर्व्हरवर अपलोड केली आहे ज्यामध्ये तिचे आणि तिच्या हायस्कूलमधील इतर मुलींना नग्न आणि लैंगिक स्थितीत चित्रित केले आहे, तक्रारीनुसार.

जेन डोच्या लक्षात आले की तीन फोटोंमध्ये ती अल्पवयीन असताना घेतलेल्या छायाचित्रांच्या AI-बदललेल्या प्रतिमा आहेत, ज्यात तिच्या शाळेच्या घरवापसी उत्सवातील एक समावेश आहे. गुन्हेगारी अन्वेषकांनी नंतर हे देखील शोधून काढले की प्रतिमा मेसेजिंग ॲप टेलीग्रामवर सामायिक केल्या गेल्या होत्या, तक्रारीनुसार, जिथे बाल लैंगिक अत्याचाराच्या इतर सामग्रीसाठी ते चलन म्हणून वापरले जात होते.

“प्रतिमांमध्ये तिचे संपूर्ण शरीर, तिच्या गुप्तांगांसह, कोणत्याही कपड्यांशिवाय दाखवले आहे. व्हिडिओमध्ये ती पूर्णपणे नग्न होईपर्यंत तिचे कपडे उतरवल्याचे चित्रण करण्यात आले आहे,” तक्रारीत म्हटले आहे.

या खटल्यातील इतर फिर्यादींना फेब्रुवारीमध्ये असे आढळून आले की त्यांच्याशी असलेली तत्सम CSAM सामग्री देखील AI द्वारे व्युत्पन्न केली गेली होती आणि ऑनलाइन शेअर केली गेली होती, या दाव्यात प्रतिमांमुळे होणाऱ्या प्रतिष्ठेच्या आणि मानसिक आरोग्याच्या हानीसाठी xAI विरुद्ध नुकसान भरपाई मागितली होती.

“माझ्या मुलीला पॅनीक अटॅक आल्याचे लक्षात आल्यानंतर या प्रतिमा तयार केल्या आहेत आणि त्या आठवण्याची कोणतीही आशा न ठेवता वितरित केल्या आहेत हे पाहणे हृदयद्रावक होते,” असे एका मुलीच्या आईने प्रतिनिधीद्वारे सांगितले.

जरी तक्रारीत आरोप आहे की प्रतिमा थेट X वेबसाइट किंवा Grok ॲपवर ऐवजी Grok च्या तंत्रज्ञानावर प्रवेश करणाऱ्या तृतीय-पक्ष ऍप्लिकेशनचा वापर करून तयार केल्या गेल्या आहेत, तरीही तक्रारीत असा युक्तिवाद केला आहे की या वापरासाठी अजूनही xAI च्या सर्व्हरची आवश्यकता आहे आणि xAI या ॲप्सना त्याच्या तंत्रज्ञानाचा परवाना दिल्याने फायदा होतो.

फिर्यादींचे वकील xAI वर त्याच्या परवाना संरचनेद्वारे प्रभावीपणे ऑफ-लोडिंग दायित्व आणि पर्यवेक्षणाच्या अभावाचा आरोप करतात.