जागतिक बातम्या | कॅलिफोर्नियाच्या ॲटर्नी जनरलने एआय-व्युत्पन्न डीपफेक गैरवर्तनाबद्दल एलोन मस्कच्या ग्रोकची चौकशी सुरू केली
ओकलंड [US]15 जानेवारी (ANI): कॅलिफोर्नियाचे ऍटर्नी जनरल रॉब बोन्टा यांनी आर्टिफिशियल इंटेलिजन्स मॉडेल ग्रोकच्या मागे असलेल्या xAI ची चौकशी सुरू केली आहे, या चिंतेमुळे या साधनाचा वापर असहमत लैंगिकदृष्ट्या सुस्पष्ट सामग्री ऑनलाइन तयार करण्यासाठी आणि प्रसारित करण्यासाठी केला जात आहे.
Grok चा वापर स्त्रिया आणि मुलींच्या संमतीशिवाय लैंगिकदृष्ट्या सुस्पष्ट परिस्थितींमध्ये चित्रित करणाऱ्या डीपफेक प्रतिमा तयार करण्यासाठी केला गेला आहे, ज्या सामग्रीचा वापर सोशल मीडिया प्लॅटफॉर्म X सह इंटरनेटवर व्यक्तींना त्रास देण्यासाठी कथितपणे केला गेला आहे.
“xAI ने अलिकडच्या आठवड्यात तयार केलेल्या आणि ऑनलाइन पोस्ट केलेल्या गैर-संमती नसलेल्या, लैंगिकदृष्ट्या सुस्पष्ट सामग्रीचा तपशील देणाऱ्या अहवालांचे प्रमाण धक्कादायक आहे. महिला आणि मुलांचे नग्न आणि लैंगिकदृष्ट्या सुस्पष्ट स्थितीत चित्रण करणारी ही सामग्री संपूर्ण इंटरनेटवर लोकांना त्रास देण्यासाठी वापरली गेली आहे. मी xAI ला विनंती करतो की ते त्वरीत कारवाई करा आणि यापुढे निर्माण होणार नाही याची खात्री करण्यासाठी आम्ही xAI ला विनंती करतो. असहमतीच्या अंतरंग प्रतिमा किंवा बाल लैंगिक शोषण सामग्रीचा प्रसार,” बोंटा म्हणाले.
“आज, xAI ने कायद्याचे आणि कसे उल्लंघन केले हे निर्धारित करण्यासाठी माझे कार्यालय औपचारिकपणे xAI ची चौकशी जाहीर करत आहे. कॅलिफोर्नियाच्या सर्वोच्च कायद्याची अंमलबजावणी करणाऱ्या अधिकाऱ्याने आमच्या रहिवाशांचे संरक्षण करण्याचे काम सोपवलेले असल्याने, मी AI मधील या विकासाबद्दल खूप चिंतित आहे आणि कॅलिफोर्नियाच्या रहिवाशांना सुरक्षित ठेवण्यासाठी माझ्याकडे असलेली सर्व साधने वापरेन,” ते पुढे म्हणाले.
तसेच वाचा | तैवानने वनप्लसचे सीईओ पीट लाऊ यांना बेकायदेशीर कामावर घेण्याच्या आरोपावरून अटक करण्याची मागणी केली आहे.
ऍटर्नी जनरल बोन्टा यांनी कृत्रिम बुद्धिमत्तेच्या साधनांमुळे निर्माण होणाऱ्या व्यापक जोखमींबद्दल त्यांच्या चिंतेचा पुनरुच्चार केला आणि सांगितले की त्यांचे कार्यालय AI सुरक्षिततेवर केंद्रित आहे, विशेषत: बाल संरक्षणात. त्यांनी यापूर्वी AI सहचर चॅटबॉट्सपासून मुलांचे रक्षण करण्यासाठी राज्य कायद्याचे समर्थन केले आहे आणि सुरक्षिततेच्या मुद्द्यांवर AI कंपन्यांशी थेट संपर्क साधला आहे.
अलीकडे, संमतीशिवाय लैंगिक प्रतिमा तयार करण्यासाठी AI चा गैरवापर करण्याबद्दल वाढत्या जागतिक चिंतेच्या पार्श्वभूमीवर, एलोन मस्कच्या कंपनी xAI द्वारे विकसित केलेल्या कृत्रिम बुद्धिमत्ता चॅटबॉट Grok वर प्रवेश पूर्णपणे निलंबित करणारा इंडोनेशिया पहिला देश बनला आहे, CBS बातम्यांनी वृत्त दिले आहे.
भारतात, इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) देखील कारवाई केली आहे, X (पूर्वीचे Twitter) ला माहिती तंत्रज्ञान कायदा, 2000 अंतर्गत वैधानिक देय परिश्रम दायित्वांचे पालन करण्यात अयशस्वी झाल्याचे वर्णन केले आहे. मंत्रालयाने तत्काळ पावले उचलण्याची खात्री करण्यासाठी प्लॅटफॉर्मकडून कारवाईचा अहवाल मागवला आहे, लैंगिक सामग्रीचे प्रसार आणि प्रसार रोखण्यासाठी तत्काळ पावले उचलली आहेत. AI टूल्स जसे की Grok.
एलोन मस्कने गेल्या आठवड्यात ग्रोकच्या आसपासच्या टीकेला प्रतिसाद दिला, वापरकर्त्यांना बेकायदेशीर क्रियाकलापांविरूद्ध चेतावणी दिली. तो म्हणाला की कोणीही चॅटबॉट वापरून “बेकायदेशीर सामग्री बनविल्यास, त्यांनी बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगावे लागतील.” (ANI)
(वरील कथा एएनआयच्या कर्मचाऱ्यांनी सत्यापित आणि लिहिली आहे, एएनआय ही भारत, दक्षिण आशिया आणि जगभरातील 100 हून अधिक ब्युरोसह दक्षिण आशियातील आघाडीची मल्टीमीडिया न्यूज एजन्सी आहे. ANI भारत आणि जगभरातील राजकारण आणि चालू घडामोडी, क्रीडा, आरोग्य, फिटनेस, मनोरंजन आणि बातम्यांवरील ताज्या बातम्या आणते. वरील मते नवीनतम पोस्टमध्ये दिसत नाहीत.
