एआय चॅटबॉट ग्रोक लैंगिक डीपफेक्सवर मस्कच्या एक्स प्लॅटफॉर्मची EU तपासणी करत आहे – राष्ट्रीय
युरोपियन युनियनने औपचारिक चौकशी सुरू केली एलोन मस्कच्या सोशल मीडिया प्लॅटफॉर्म X नंतर सोमवारी त्याचा कृत्रिम बुद्धिमत्ता चॅटबॉट ग्रोक प्लॅटफॉर्मवर संमती नसलेल्या लैंगिक स्वरूपाच्या डीपफेक प्रतिमा तयार केल्या.
प्लॅटफॉर्मने वापरकर्त्यांना कोणती पोस्ट पाहतात ते निवडण्यासाठी ते Grok च्या AI सिस्टमवर स्विच करेल असे म्हटल्यानंतर युरोपियन नियामकांनी X च्या शिफारस प्रणालींमध्ये स्वतंत्र, चालू असलेल्या तपासाचा विस्तार केला.
ब्रुसेल्स कडून छाननी झाली जेव्हा ग्रोकने वापरकर्त्यांना परवानगी देऊन जागतिक प्रतिक्रिया निर्माण केली AI प्रतिमा निर्माण करणे आणि लोकांना कपडे उतरवणे, महिलांना पारदर्शक बिकिनी घालणे किंवा कपडे उघडणे यासाठी संपादन क्षमता.
संशोधकांनी सांगितले की काही प्रतिमांमध्ये मुलांचा समावेश आहे. काही सरकारांनी सेवेवर बंदी घातली किंवा इशारे जारी केले.
27-राष्ट्रीय EU च्या कार्यकारिणीने सांगितले की ते “फेरफार केलेल्या लैंगिक सुस्पष्ट प्रतिमा” सारख्या बेकायदेशीर सामग्रीचा प्रसार करण्याच्या जोखमींना समाविष्ट करण्यासाठी ब्लॉकच्या डिजिटल नियमांनुसार आवश्यकतेनुसार X ने पुरेसे केले आहे की नाही हे पाहत आहे.
त्यामध्ये “बाल लैंगिक शोषण सामग्री असू शकते,” असे युरोपियन कमिशनने म्हटले आहे. या जोखमींचे आता “भौतिकीकरण” झाले आहे, आयोगाने म्हटले आहे की, ब्लॉकच्या नागरिकांना “गंभीर हानी” होऊ शकते.
Grok अंतर्गत त्याच्या जबाबदाऱ्या पूर्ण करत आहे की नाही हे नियामक तपासतील डिजिटल सेवा कायदाइंटरनेट वापरकर्त्यांना हानिकारक सामग्री आणि उत्पादनांपासून सुरक्षित ठेवण्यासाठी ब्लॉकचे विस्तृत नियम पुस्तक.
दररोज राष्ट्रीय बातम्या मिळवा
दिवसातून एकदा तुमच्या इनबॉक्समध्ये दिवसभरातील प्रमुख बातम्या, राजकीय, आर्थिक आणि चालू घडामोडींचे मथळे मिळवा.
टिप्पणीच्या विनंतीला प्रतिसाद म्हणून, X प्रवक्त्याने असोसिएटेड प्रेसला पूर्वीच्या विधानाकडे निर्देश दिले की कंपनी “X ला प्रत्येकासाठी सुरक्षित व्यासपीठ बनवण्यास वचनबद्ध आहे” आणि बाल लैंगिक शोषण, गैर-सहमतीची नग्नता आणि अवांछित लैंगिक सामग्रीसाठी “शून्य सहनशीलता” आहे.
14 जानेवारीच्या X विधानात असेही म्हटले आहे की ते वापरकर्त्यांना “बिकिनी, अंडरवेअर किंवा इतर प्रकट पोशाखात” दर्शविण्याची परवानगी देणे थांबवेल, परंतु केवळ अशा ठिकाणी जेथे ते बेकायदेशीर मानले गेले आहे.
“महिला आणि मुलांचे गैर-सहमतीने लैंगिक डीपफेक हे एक हिंसक, अस्वीकार्य स्वरूपाचे अधःपतन आहे,” हेना विर्ककुनेन, आयोगाच्या कार्यकारी उपाध्यक्षा, एका निवेदनात म्हणाल्या.
“या तपासणीसह, आम्ही हे निर्धारित करू की X ने DSA अंतर्गत त्याच्या कायदेशीर दायित्वांची पूर्तता केली आहे की नाही, किंवा त्याने युरोपियन नागरिकांच्या – महिला आणि मुलांसह – त्याच्या सेवेचे संपार्श्विक नुकसान म्हणून वागले आहे का,” विर्ककुनेन म्हणाले, जे तंत्रज्ञान सार्वभौमत्व, सुरक्षा आणि लोकशाहीचे निरीक्षण करतात.
मस्कची कृत्रिम बुद्धिमत्ता कंपनी xAI ने गेल्या उन्हाळ्यात Grok चे इमेज टूल लाँच केले. परंतु समस्या गेल्या महिन्याच्या अखेरीस स्नोबॉलिंग सुरू झाली जेव्हा ग्रोकने इतरांनी पोस्ट केलेल्या प्रतिमा सुधारित करण्यासाठी मोठ्या संख्येने वापरकर्त्याच्या विनंत्या मंजूर केल्या.
मस्कने त्याच्या चॅटबॉटला प्रतिस्पर्ध्यांपेक्षा कमी सुरक्षिततेसह एक उत्कृष्ट पर्याय म्हणून पिच केल्यामुळे आणि X वर Grok चे प्रतिसाद सार्वजनिकरित्या दृश्यमान असल्यामुळे आणि त्यामुळे ते सहजपणे पसरवता येत असल्यामुळे ही समस्या वाढली होती.
EU तपासणीमध्ये फक्त Grok च्या X वरील सेवेचा समावेश आहे, Grok ची वेबसाइट आणि स्टँडअलोन ॲप नाही. कारण DSA फक्त सर्वात मोठ्या ऑनलाइन प्लॅटफॉर्मवर लागू होते.
या प्रकरणाचे निराकरण करण्यासाठी ब्लॉकसाठी कोणतीही अंतिम मुदत नाही, ज्याचा शेवट X ने त्याचे वर्तन बदलण्याचे वचन दिल्याने किंवा मोठा दंड भरला जाऊ शकतो.
डिसेंबरमध्ये ब्रुसेल्सने X ला 120-दशलक्ष युरो (तत्कालीन-$140 दशलक्ष) दंडासह पूर्वी सुरू असलेल्या DSA तपासणीचा भाग म्हणून जारी केले, निळ्या चेकमार्कसह त्रुटींसाठी ज्याने “फसव्या डिझाइन पद्धती” चे नियम तोडले ज्यामुळे वापरकर्त्यांना घोटाळे आणि हाताळणीचा धोका होता.
Grok ने सेमेटिक सामग्री तयार केल्याच्या आरोपांवरून X ची छाननी देखील करत आहे आणि साइटला अधिक माहितीसाठी विचारले आहे.
मलेशिया आणि इंडोनेशियाने या महिन्याच्या सुरुवातीला ग्रोकमध्ये प्रवेश अवरोधित केला आणि विवादाला प्रतिसाद म्हणून असे करणारे पहिले देश बनले.
शुक्रवारी, मलेशियाच्या अधिकाऱ्यांनी सांगितले की, कंपनीने अधिक तपशील न देता अतिरिक्त सुरक्षा आणि प्रतिबंधात्मक उपाय लागू केल्यानंतर त्यांनी तात्पुरते निर्बंध उठवले. मलेशियाच्या नियामकांनी सांगितले की ते गेल्या आठवड्यात X च्या प्रतिनिधींशी भेटले आणि परिस्थितीचे निरीक्षण करणे सुरू ठेवतील.
&कॉपी 2026 कॅनेडियन प्रेस
