EU ने Grok AI ने बनवलेल्या लैंगिक सुस्पष्ट प्रतिमांबद्दल X ची चौकशी सुरू केली | Grok AI

द युरोपियन कमिशन प्लॅटफॉर्मच्या AI चॅटबॉट, Grok द्वारे लैंगिकदृष्ट्या सुस्पष्ट प्रतिमांचे उत्पादन आणि संभाव्य बाल लैंगिक शोषण सामग्रीचा प्रसार करण्याबद्दल एलोन मस्कच्या X चा तपास सुरू केला आहे.

सोमवारी सुरू करण्यात आलेली औपचारिक चौकशी, X च्या शिफारस प्रणाली, अल्गोरिदमची तपासणी देखील वाढवते जे वापरकर्त्यांना नवीन सामग्री शोधण्यात मदत करते.

Grok ने वापरकर्त्यांना डिजिटल पद्धतीने महिला आणि मुलांना काढून टाकण्याची आणि त्यांना प्रक्षोभक पोझमध्ये ठेवण्याची परवानगी देऊन आंतरराष्ट्रीय संताप निर्माण केला आहे. Grok AI बद्दल व्युत्पन्न दोन आठवड्यांपेक्षा कमी कालावधीत 3m लैंगिक प्रतिमासेंटर फॉर काउंटरिंग डिजिटल हेटच्या संशोधकांच्या म्हणण्यानुसार, मुलांचे चित्रण करण्यासाठी दिसलेल्या 23,000 सह.

आयोगाने म्हटले आहे की त्याची तपासणी “कंपनीने योग्यरित्या मूल्यांकन केले आहे की नाही आणि जोखीम कमी केली आहे” हे EU मधील Grok च्या कार्यक्षमतेमुळे उद्भवते, ज्यामध्ये बेकायदेशीर सामग्री सामायिक करण्यावरील जोखीम जसे की हाताळलेल्या लैंगिकरित्या स्पष्ट प्रतिमा आणि “मुलांच्या लैंगिक शोषण सामग्री” सारख्या सामग्रीच्या सामायिकरणातील जोखीम समाविष्ट आहेत.

EU च्या डिजिटल सेवा कायदा (DSA) अंतर्गत तपास सुरू करण्यात आला आहे, जो तुलनेने नवीन कायद्याचा भाग आहे ज्याचा हेतू इंटरनेट वापरकर्त्यांना मोठ्या प्रमाणात हानीपासून संरक्षण करण्यासाठी आहे.

पत्रकारांशी बोलताना एका अधिकाऱ्याने सांगितले की, या समस्येचे निराकरण करण्यासाठी X ने केलेल्या उपाययोजना कमी केल्याने आयोगाला खात्री पटली नाही.

फेरफार केलेल्या प्रतिमांबद्दल सुरुवातीच्या आक्रोशानंतर, कंपनीने सशुल्क सदस्यांसाठी टूलमध्ये प्रवेश प्रतिबंधित केला, परंतु युरोपियन नियामकांच्या दबावाखाली बदल केला. या महिन्याच्या सुरुवातीला जाहीर केले की त्यांनी ग्रोकला कपड्यांमध्ये वास्तविक लोकांच्या प्रतिमा संपादित करण्यास परवानगी देण्यापासून रोखण्यासाठी उपाययोजना सुरू केल्या आहेत.

कमिशनच्या एका अधिकाऱ्याने सांगितले की उपायांनी ग्रोकबद्दल व्यापक चिंता दूर केली नाही. तपासामध्ये महिलांवरील हिंसा आणि बाल लैंगिक शोषण सामग्रीचे चित्रण करणाऱ्या सामग्रीसह बेकायदेशीर सामग्रीच्या निर्मितीच्या प्रणालीगत जोखमींचा विचार केला जात आहे. X कडे “त्यांच्या प्लॅटफॉर्मवरील जोखीम कमी करण्यासाठी … प्रभावी कमी करणारे उपाय” नव्हते, ते म्हणाले.

तपासाची घोषणा करताना, तंत्रज्ञान सार्वभौमता, सुरक्षा आणि लोकशाहीसाठी आयोगाच्या सर्वोच्च अधिकारी, हेना विर्कुनेन म्हणाल्या: “महिला आणि मुलांचे गैर-सहमतीने लैंगिक डीपफेक हा हिंसक, अस्वीकार्य प्रकारचा अधःपतन आहे. या तपासणीसह, आम्ही डीएसए अंतर्गत X ने त्याच्या कायदेशीर दायित्वांची पूर्तता केली आहे की नाही हे निर्धारित करू, की युरोपियन नागरिकांच्या अधिकारांसह – महिलांच्या अधिकारांचे नुकसान केले आहे किंवा नाही. त्याची सेवा.”

तसेच सुस्पष्ट प्रतिमांच्या तपासाबरोबरच, वापरकर्त्यांना माहिती आणि सामग्री फिल्टर करण्यासाठी Grok-आधारित मॉडेलकडे जाण्याच्या कंपनीच्या घोषणेच्या पार्श्वभूमीवर, X च्या तथाकथित शिफारस प्रणालींबाबत आयोग डिसेंबर 2023 मध्ये सुरू केलेल्या चौकशीचा विस्तार करत आहे.

यूके मीडिया वॉचडॉग ऑफकॉमनंतर हे पाऊल पुढे आले आहे स्वतःच्या तपासाची घोषणा केली या महिन्याच्या सुरुवातीला X वर “अधम” आणि बेकायदेशीर सामग्री.

डीएसएची अंमलबजावणी करण्यात खूप मंद असल्याबद्दल आयोगावर मोठ्या प्रमाणावर टीका केली गेली आहे, विशेषत: एक्सच्या संबंधात.

जर्मन ग्रीन एमईपी अलेक्झांड्रा गीझ म्हणाली, “तपास खूप उशीर झाला आहे, परंतु तरीही प्लॅटफॉर्मने युरोपियन कायद्याचे पालन केले पाहिजे असा स्पष्ट संकेत पाठवू शकतो.” “हे प्रकरण स्पष्ट आहे. लाखो स्त्रिया आणि अनेक मुलांचे नुकसान भरून न येणारे आहे. आम्हाला आशा आहे की आयोग या शिक्षणाचा उपयोग भविष्यात जलद कार्य करण्यासाठी करेल.”

फेब्रुवारी 2024 पासून कंपन्यांना लागू झालेल्या DSA अंतर्गत सुरू असलेल्या 15 चौकशींकडे लक्ष वेधून EU अधिकाऱ्यांनी अशी टीका नाकारली आहे.

युरोपियन संसदेच्या मध्य-उजव्या आयरिश उपाध्यक्ष रेजिना डोहर्टी यांनी सांगितले की तिने औपचारिक तपासणीचे स्वागत केले. डोहर्टी म्हणाले, “जेव्हा AI सिस्टीमचा वापर महिला आणि मुलांना हानी पोहोचवण्याच्या मार्गाने होत असल्याच्या विश्वासार्ह अहवाल येतात, तेव्हा EU कायद्याची विलंब न करता तपासणी आणि अंमलबजावणी करणे आवश्यक आहे.”

तपासाला प्रतिसाद म्हणून, X ने 14 जानेवारी रोजी प्रकाशित केलेल्या विधानाची लिंक दिली: “आम्ही प्रत्येकासाठी X ला सुरक्षित व्यासपीठ बनवण्यासाठी वचनबद्ध आहोत आणि कोणत्याही प्रकारचे बाल लैंगिक शोषण, असहमती नग्नता आणि अवांछित लैंगिक सामग्रीसाठी शून्य सहिष्णुता ठेवत आहोत.”

आयोग X €120m दंड EU कायदा मोडल्याबद्दल गेल्या महिन्यात. प्लॅटफॉर्मने वापरकर्त्यांची फसवणूक केली होती, स्वतंत्र संशोधकांना अडथळा आणला होता आणि जबाबदारी टाळली होती,” असे त्यात म्हटले आहे.

EU नियामकाने सांगितले की X ने पडताळणी न करता खात्यांना “फसवणूक करणारा” निळा टिक बॅज दिला, संभाव्यत: वापरकर्त्यांना घोटाळे आणि दुर्भावनापूर्ण अभिनेत्यांकडून फसवणूक करणे शक्य होते. X ने संशोधकांना बनावट जाहिराती आणि संकरित धोक्याची मोहीम तपासण्यात अडथळा आणून जाहिरातींवरील पारदर्शकतेवर EU कायदेशीर आवश्यकता देखील मोडल्या.

दंडाची घोषणा करणाऱ्या कमिशन पोस्टला मस्कने “बकवास” उत्तर दिले आणि नंतर EU रद्द करण्याची मागणी केली.

दंड भरण्यासाठी कंपनीला तीन महिन्यांची मुदत देण्यात आली होती. EU अधिकाऱ्याने सांगितले की त्यांना खात्री आहे की दंड भरला जाईल.