अब्जाधीश मस्कच्या मुलाची आई असभ्य डीपफेक प्रतिमांबद्दल xAI वर खटला दाखल करते

3

इलॉन मस्कच्या एका मुलाच्या आईने त्याच्या कृत्रिम बुद्धिमत्ता कंपनी xAI विरुद्ध खटला दाखल केला आहे, त्याच्या चॅटबॉट ग्रोकवर वापरकर्त्यांना तिच्या लैंगिक स्पष्ट डीपफेक प्रतिमा तयार करण्याची परवानगी दिल्याचा आरोप आहे. तिने सांगितले की या प्रतिमांमुळे तिचा अपमान, भीती आणि भावनिक आघात झाला आहे.

ऍशले सेंट क्लेअर कोण आहे ज्याने xAI विरुद्ध खटला दाखल केला?

एलोन मस्कच्या मुलांपैकी एकाची आई, ऍशले सेंट क्लेअर 27 वर्षांची आहे. ती एक लेखिका आणि राजकीय रणनीतीकार आहे. न्यूयॉर्क शहरात राहणारी सेंट क्लेअर ही मस्कचा १६ महिन्यांचा मुलगा रोम्युलसची आई आहे. तिने गुरुवारी न्यूयॉर्क शहरात xAI विरुद्ध पॉलिसी उल्लंघनाचा खटला दाखल केला आहे.

ऍशले सेंट क्लेअरने xAI विरुद्ध खटला का दाखल केला?

सेंट क्लेअरचा आरोप आहे की मस्कच्या सोशल मीडिया प्लॅटफॉर्म X वर कार्यरत असलेल्या ग्रोकचा वापर तिच्या संमतीशिवाय तिच्या बनावट लैंगिक प्रतिमा तयार करण्यासाठी केला गेला.

तक्रारीनुसार, एका इमेजमध्ये ती 14 वर्षांची असतानाचा तिचा खरा फोटो वापरला होता, त्यात बदल करून तिने बिकिनी घातलेली दाखवली होती. इतर डीपफेकने कथितपणे तिला लैंगिक पोझमध्ये प्रौढ म्हणून दाखवले, ज्यामध्ये ती स्वस्तिक चिन्हांकित बिकिनीमध्ये दिसते. सेंट क्लेअर ज्यू आहे.

ऍशले सेंट क्लेअर भावनिक हानी आणि भीतीचे दावे

सेंट क्लेअर म्हणाले की, प्रतिमांचा तिच्या मानसिक आरोग्यावर आणि वैयक्तिक सुरक्षिततेवर घातक परिणाम झाला आहे. “माझ्या या डिजिटली बदललेल्या प्रतिमा तयार करण्यात आणि वितरित करण्यात xAI च्या भूमिकेमुळे मला गंभीर वेदना आणि मानसिक त्रास सहन करावा लागला आहे,” असे तिने खटल्याशी संलग्न कागदपत्रात म्हटले आहे.

“मी अपमानित झालो आहे आणि असे वाटते की जोपर्यंत ग्रोक माझ्या या प्रतिमा तयार करत आहे तोपर्यंत हे दुःस्वप्न कधीही थांबणार नाही.” तिने असेही सांगितले की ती अशा लोकांच्या भीतीने जगते जे ऑनलाइन फिरत असलेल्या डीपफेक प्रतिमा पाहू शकतात किंवा त्यांचा गैरवापर करू शकतात.

ऍशले सेंट क्लेअर तक्रारीवर एक्स प्रतिसाद आणि आरोपित प्रतिशोध

सेंट क्लेअरने सांगितले की तिने प्रथम X ला गेल्या वर्षी प्रतिमा कळवल्या आणि त्या काढण्याची विनंती केली. तिचा दावा आहे की प्लॅटफॉर्मने सुरुवातीला तिला सांगितले की सामग्रीने तिच्या धोरणांचे उल्लंघन केले नाही.

नंतर, ती म्हणते की X ने तिला आश्वासन दिले की तिच्या प्रतिमा यापुढे तिच्या परवानगीशिवाय बदलल्या जाणार नाहीत किंवा वापरल्या जाणार नाहीत. तथापि, तिने आरोप केला की प्लॅटफॉर्मने नंतर तिच्या विरुद्ध बदला घेतला:

• तिचे प्रीमियम X सदस्यत्व काढून टाकत आहे

• तिचे सत्यापन चेकमार्क काढून टाकत आहे

• सुमारे 1 दशलक्ष फॉलोअर्स असलेल्या तिच्या खात्यातून पैसे कमविण्याची तिची क्षमता अवरोधित करणे

• बनावट प्रतिमा प्रसारित करण्याची परवानगी देणे सुरू ठेवत आहे

ऍशले सेंट क्लेअर कायदेशीर कारवाई आणि न्यायालयीन लढाई

ॲशले सेंट क्लेअर यांनी राज्याच्या सर्वोच्च न्यायालयात खटला दाखल करून नुकसान भरपाईची अघोषित रक्कम मागितली. ती कोर्टाला XAI ला तिच्या आणखी डीपफेक प्रतिमांना परवानगी देण्यापासून थांबवण्याची विनंती करत आहे.

नंतर त्याच दिवशी, xAI च्या वकिलांनी मॅनहॅटनमधील फेडरल कोर्टात केस हलवली. गुरुवारी तसेच, xAI ने टेक्सासमधील फेडरल कोर्टात सेंट क्लेअर विरुद्ध काउंटरसुट दाखल केला, तिने कंपनीच्या वापरकर्ता कराराचे उल्लंघन केल्याचा युक्तिवाद केला, ज्यासाठी टेक्सास फेडरल कोर्टात खटला दाखल करणे आवश्यक आहे.

xAI तिच्या विरुद्ध अघोषित आर्थिक न्यायाची मागणी करत आहे.

xAI वकिलाने काउंटरसूटला “धडपड” म्हटले

सेंट क्लेअरचे प्रतिनिधीत्व करणाऱ्या वकील कॅरी गोल्डबर्ग यांनी काउंटरसूटला अत्यंत असामान्य म्हणत xAI च्या प्रतिसादावर टीका केली.

“सुश्री सेंट क्लेअर न्यू यॉर्कमधील तिच्या मंचाचा जोरदारपणे बचाव करतील,” गोल्डबर्ग म्हणाले.

“परंतु खरे सांगायचे तर, कोणतेही अधिकार क्षेत्र सुश्री सेंट क्लेअरच्या दाव्याचे गंभीर स्वरूप ओळखेल की मुली आणि स्त्रियांच्या असहमतीपूर्ण लैंगिक स्पष्ट प्रतिमा तयार करून, xAI सार्वजनिक उपद्रव आहे आणि वाजवी सुरक्षित उत्पादन नाही.”

ऍशले सेंट क्लेअरने दाखल केलेल्या खटल्यानंतर xAI आणि X प्रतिसाद देतात

xAI च्या वकिलांनी टिप्पणीसाठी केलेल्या विनंत्यांना प्रतिसाद दिला नाही. खटल्याबद्दल थेट विचारले असता, xAI ने फक्त उत्तर दिले: “वारसा मीडिया खोटे.”

या आठवड्याच्या सुरुवातीला, महिला आणि मुलांच्या लैंगिक चित्रांवर जागतिक टीका झाल्यानंतर, X ने Grok वर नवीन निर्बंध जाहीर केले. कंपनीने म्हटले आहे की चॅटबॉट यापुढे अशा सामग्री बेकायदेशीर असलेल्या ठिकाणी कपडे उघडण्यासाठी वास्तविक लोकांच्या प्रतिमा संपादित करण्यास सक्षम राहणार नाही.

X ने असेही म्हटले आहे की ते अतिरिक्त सुरक्षा उपायांचा परिचय देत आहे, ज्यात प्रतिमा निर्मिती मर्यादित करणे आणि जबाबदारी सुधारण्यासाठी सशुल्क खाती संपादित करणे समाविष्ट आहे.

प्लॅटफॉर्मने म्हटले आहे की बाल लैंगिक शोषण, गैर-सहमतीची नग्नता किंवा अवांछित लैंगिक सामग्रीसाठी शून्य सहिष्णुता आहे आणि अशी सामग्री त्वरित काढून टाकली जाईल आणि आवश्यक असेल तेव्हा कायद्याच्या अंमलबजावणीकडे तक्रार केली जाईल.