AI चॅटबॉट Grok बाल लैंगिक शोषण प्रतिमा तयार करण्यासाठी वापरले, वॉचडॉग म्हणतो | Grok AI

ऑनलाइन गुन्हेगार मुलांची लैंगिक प्रतिमा तयार करण्यासाठी एलोन मस्कच्या ग्रोक चॅटबॉटचा वापर केल्याचा दावा करत आहेत, कारण बाल सुरक्षा वॉचडॉगने चेतावणी दिली आहे की एआय टूलने अशी सामग्री मुख्य प्रवाहात आणण्याचा धोका आहे.

यूके स्थित इंटरनेट वॉच फाउंडेशन (IWF) ने सांगितले की गडद वेब मंचाच्या वापरकर्त्यांनी 11 ते 13 वयोगटातील मुलींची लैंगिक आणि टॉपलेस प्रतिमा तयार करण्यासाठी ग्रोक इमॅजिनचा वापर केल्याबद्दल बढाई मारली. IWF विश्लेषकांनी सांगितले की यूके कायद्यानुसार प्रतिमा बाल लैंगिक शोषण सामग्री (CSAM) मानल्या जातील.

“आम्ही आमच्या विश्लेषकांनी 11 आणि 13 वयोगटातील मुलांची गुन्हेगारी प्रतिमा शोधली आहे याची पुष्टी करू शकतो जे टूल वापरून तयार केले गेले आहे असे दिसते,” Ngaire अलेक्झांडर म्हणाले, IWF च्या हॉटलाइनचे प्रमुख, जे लोकांच्या सदस्यांकडून CSAM च्या अहवालांची चौकशी करते.

एक्स, इलॉन मस्कचे सोशल मीडिया प्लॅटफॉर्म आहे ज्यांचे कपडे डिजिटल पद्धतीने काढले गेले आहेत अशा स्त्रिया आणि मुलांच्या प्रतिमांनी भरलेला आहे Grok साधनाद्वारे, सार्वजनिक आक्रोश निर्माण करणे आणि राजकारण्यांकडून निषेध.

दरम्यान, बुधवारी हाऊस ऑफ कॉमन्स महिला आणि समानता समितीने सांगितले की ते यापुढे वापरणार नाही एक्स स्त्रिया आणि मुलींवरील हिंसाचार रोखणे हे त्याच्या प्रमुख धोरणात्मक क्षेत्रांपैकी एक आहे, असे सांगून असे करणे यापुढे योग्य नाही असे सांगून त्याच्या संप्रेषणासाठी.

Grok च्या गैरवापराला प्रतिसाद म्हणून X मधून बाहेर पडण्याची वेस्टमिन्स्टर संस्थेची पहिली महत्त्वपूर्ण हालचाल हा निर्णय आहे. निर्णय केवळ समितीच्या खात्याशी संबंधित असताना, कामगार अध्यक्ष, सारा ओवेन यांच्यासह काही वैयक्तिक सदस्यांनी आधीच X वापरणे थांबवले आहे. आणखी एक, लिबरल डेमोक्रॅट खासदार क्रिस्टीन जार्डिन यांनी सांगितले की, ती प्लॅटफॉर्म सोडत आहे आणि ग्रोकने तयार केलेल्या प्रतिमांना “शेवटचा पेंढा” म्हणत आहे.

अलेक्झांडर म्हणाले की IWF द्वारे पाहिल्या गेलेल्या प्रतिमा वेगळ्या AI साधनाचा वापर करून – श्रेणी A म्हणून ओळखल्या जाणाऱ्या, ज्यामध्ये भेदक लैंगिक क्रियाकलाप समाविष्ट आहेत – आणखी अत्यंत सामग्री तयार करण्यासाठी वापरली गेली आहे.

“लोक ज्या सहजतेने आणि वेगाने फोटो-वास्तविक बाल लैंगिक शोषण सामग्री तयार करू शकतात त्याबद्दल आम्ही अत्यंत चिंतित आहोत. Grok सारख्या साधनांमुळे आता मुलांची लैंगिक AI प्रतिमा मुख्य प्रवाहात आणण्याचा धोका आहे. ते अस्वीकार्य आहे,” अलेक्झांडर जोडले.

मस्कच्या xAI, ज्याचे मालक Grok आणि X आहेत, टिप्पणीसाठी संपर्क साधला गेला आहे.

डाउनिंग स्ट्रीटने सांगितले की “सर्व पर्याय टेबलवर आहेत”, X च्या बहिष्कारासह मंत्र्यांनी यूके रेग्युलेटर ऑफकॉमला कारवाई करण्यासाठी पाठिंबा दिला.

बुधवारी, पंतप्रधानांचे अधिकृत प्रवक्ते म्हणाले: “एक्सला याला तातडीने सामोरे जाण्याची आवश्यकता आहे आणि जेथे कंपन्या यूके वापरकर्त्यांचे संरक्षण करण्यात अयशस्वी ठरत आहेत तेथे अंमलबजावणी कारवाई करण्यासाठी ऑफकॉमला आमचा पूर्ण पाठिंबा आहे.

“त्यामध्ये कोट्यवधी पौंडांपर्यंतचा दंड ठोठावण्याची आणि कायद्याचे उल्लंघन करणाऱ्या साइटवर प्रवेश थांबविण्याचा अधिकार आधीच आहे.”

“तिला बिकिनी घालण्यासाठी” महिलांच्या प्रतिमांमध्ये फेरफार करण्यासाठी ग्रोकच्या विनंत्या बुधवारी X वर पूर आल्या. EU आणि UK च्या नियामक कारवाईच्या इशाऱ्यांनंतरही, प्लॅटफॉर्मने कडक सुरक्षा व्यवस्था स्थापित केल्याचा कोणताही पुरावा नाही आणि किशोरवयीन मुलींची छायाचित्रे X वापरकर्त्यांच्या विनंतीनुसार डिजिटल पद्धतीने काढून टाकली जात आहेत, त्यांना अंडरवियरच्या छोट्या, उघड वस्तूंमध्ये दाखवण्यासाठी किंवा लैंगिकदृष्ट्या सुस्पष्ट पोझमध्ये ठेवण्यासाठी.

काही वापरकर्त्यांनी चॅटबॉटला स्वस्तिकने बिकिनी सजवण्यास सांगून किंवा महिलांच्या छायाचित्रांमध्ये बदल करण्याची विनंती करत अधिक टोकाच्या सामग्रीची मागणी केली आहे जेणेकरून ते अत्याचाराला बळी पडतील. चॅटबॉटने महिलांच्या काही प्रतिमांमध्ये सिगारेट जळणे, चेहऱ्यावर जखमा आणि रक्त जोडले आहे.

यूकेच्या डेटा वॉचडॉग – माहिती आयुक्त कार्यालय (ICO) – ने सांगितले की त्यांनी “यूके डेटा संरक्षण कायद्याचे पालन करण्यासाठी आणि व्यक्तींच्या हक्कांचे संरक्षण करण्यासाठी त्यांच्याकडे असलेल्या उपाययोजनांबद्दल स्पष्टता मिळविण्यासाठी” X आणि xAI शी संपर्क साधला होता, “त्यांच्या वैयक्तिक डेटाची कायदेशीररीत्या आणि आदराने हाताळणी केली जात आहे हे जाणून सोशल मीडिया वापरण्याचा अधिकार लोकांना आहे” असे जोडून.

X ने म्हटले आहे की ते बाल लैंगिक शोषण सामग्रीसह बेकायदेशीर सामग्रीवर कारवाई करते, “ते काढून टाकून, खाती कायमची निलंबित करून आणि आवश्यकतेनुसार स्थानिक सरकार आणि कायद्याची अंमलबजावणी करून”