डच न्यायालयाने दुर्मिळ कायदेशीर फटकारामध्ये एआय-व्युत्पन्न संवेदनशील प्रतिमांवर ग्रोकवर कठोर बंदी घातली

डच न्यायालयाने तात्काळ बंदी आणि भारी दंडाचे आदेश दिले

ॲमस्टरडॅम जिल्हा न्यायालयाने xAI ला त्यांच्या थेट परवानगीशिवाय काही भागांमध्ये किंवा पूर्णपणे नग्न लोकांच्या लैंगिक चित्रांचे उत्पादन आणि विक्री थांबविण्याचे निर्देश दिले. पालन ​​करण्यात अयशस्वी झाल्यास दररोज 100,000 युरो (अंदाजे 115,000) दंड आकारला जाईल. न्यायाधीशांनी असेही सांगितले की सतत उल्लंघनाच्या बाबतीत Grok नेदरलँड्समध्ये X मध्ये काम करण्यास अक्षम असेल. या निर्णयामुळे AI व्यवसायांवर सामग्री नियंत्रण सुधारण्यासाठी खूप दबाव येतो.

डीपफेकच्या तक्रारीनंतर गुन्हा दाखल

डच ऑनलाइन सेफ्टी ऑर्गनायझेशन ऑफ लिमिट्स विथ विक्टिम्स सपोर्ट फंडने हे प्रकरण समोर आणले. गटांनी या वस्तुस्थितीबद्दल तक्रारी व्यक्त केल्या आहेत की ग्रोक हायपर-रिअलिस्टिक डीपफेक प्रतिमा तयार करू शकतात अगदी महिला आणि अल्पवयीन मुलांची छायाचित्रे देखील हाताळू शकतात. तक्रारीनुसार, वापरकर्त्यांना वास्तविक चित्रे पोस्ट करण्याचा आणि ग्रोकला बनावट नग्न आवृत्त्या बनवण्याची विनंती करण्याचा अधिकार होता, ज्यामुळे गंभीर गोपनीयता आणि सुरक्षितता समस्या उद्भवत होत्या.

न्यायालयाने xAI चा बचाव नाकारला

xAI च्या वकिलांच्या मते, सर्व गैरवापर थांबवणे तांत्रिकदृष्ट्या कठीण होते आणि ते संरक्षण आधीच लागू केले गेले होते. यापैकी काही क्रिया म्हणजे प्रतिमा संपादन पर्यायांचे निर्बंध आणि पैसे देणाऱ्या वापरकर्त्यांना काही वैशिष्ट्ये ऑफर करणे. मात्र असे संरक्षण पुरेसे नाही, असे न्यायालयाने नमूद केले. सुनावणीच्या आधी घडलेल्या एका घटनेत म्हटले आहे की ग्रोकने अयोग्य सामग्री तयार करणे सुरू ठेवले आहे, जी कंपनीविरूद्ध एक ठोस केस होती.

युरोपने एआय नियम कडक केले

युरोपियन रेग्युलेटर एआय टूल्सवर अधिक छाननी करत असताना हा निर्णय प्राप्त झाला आहे. डिजिटल सेवा कायद्यात, प्लॅटफॉर्मला हानिकारक किंवा बेकायदेशीर सामग्री कमी करणे आवश्यक आहे. तथापि, एआय-व्युत्पन्न लैंगिक डीपफेकच्या व्यापक प्रतिबंधास अलीकडेच युरोपियन संसदेने समर्थन दिले आहे, कारण युरोपीय स्तरावर या विषयाबद्दल चिंता वाढत आहे.

एआय डीपफेक तंत्रज्ञानाचे वाढते धोके

तज्ञांच्या मते, एआय-व्युत्पन्न डीपफेक्सची झपाट्याने वाढ होत आहे. हे देखील नोंदवले गेले आहे की संपूर्ण जगभरात डीपफेक सामग्रीमध्ये 400% पेक्षा जास्त वाढ झाली आहे ज्यामध्ये एक महत्त्वाचा भाग समाविष्ट नसलेल्या संमती नसलेल्या प्रतिमा आहेत. या घडामोडींमुळे AI निर्मात्यांच्या जबाबदाऱ्या वाढवण्यासाठी नियंत्रण घट्ट करण्यासाठी अधिक मागणी निर्माण झाली आहे.

एआय कंपन्यांसाठी याचा अर्थ काय आहे

डच न्यायालयाचा निकाल हा एक महत्त्वाचा नमुना आहे आणि AI प्रतिमा तंत्रज्ञान तयार करणाऱ्या कंपन्या आता AI च्या वाढत्या क्षमतेसह त्यांच्या सिस्टमचा गैरवापर झाल्यास कायदेशीर उत्तरदायित्वासाठी अधिक जबाबदार असू शकतात, प्रत्येक देशातील नियामक गोपनीयता, संमती आणि डिजिटल सुरक्षितता वाढवण्यासाठी अधिक कठोर नियमांचे समर्थन करण्यास बांधील आहेत.