एलोन मस्कच्या ग्रोक एआयचा वापर महिला आणि मुलांच्या प्रतिमा डिजिटली काढण्यासाठी केला जातो AI (कृत्रिम बुद्धिमत्ता)

Grok AI द्वारे डिजीटल काढलेल्या त्यांच्या कपड्यांसह मुलांची आणि स्त्रियांची मानहानीकारक प्रतिमा एलोन मस्कच्या X वर शेअर केली जात आहे, प्लॅटफॉर्मची वचनबद्धता असूनही ते तयार करणाऱ्या वापरकर्त्यांना निलंबित करण्याची वचनबद्धता आहे.

वास्तविक महिलांची लैंगिक चित्रे तयार करण्यासाठी छायाचित्रे बदलण्यासाठी चॅटबॉटचा वापर करण्याबद्दल काही दिवसांच्या चिंतेनंतर आणि मुलांनी त्यांचे अंडरवेअर काढले त्यांच्या संमतीशिवाय, UK च्या कम्युनिकेशन वॉचडॉग, Ofcom ने सोमवारी सांगितले की त्यांनी “UK मधील वापरकर्त्यांचे संरक्षण करण्यासाठी त्यांच्या कायदेशीर कर्तव्यांचे पालन करण्यासाठी कोणती पावले उचलली आहेत हे समजून घेण्यासाठी X आणि xAI शी त्वरित संपर्क साधला आहे”. ऑफकॉमने जोडले की कंपनीच्या प्रतिसादाच्या आधारे तपासणी आवश्यक आहे की नाही हे ते मूल्यांकन करेल.

दरम्यान, राजकारणी आणि महिला हक्क प्रचारकांनी यूके सरकारवर अशा घनिष्ट प्रतिमांची निर्मिती बेकायदेशीर बनवून सहा महिन्यांपूर्वी संमत केलेला कायदा लागू करण्यात अयशस्वी होऊन “त्याची टाच ओढत” असल्याचा आरोप केला.

नवीन वर्षाच्या कालावधीत व्हायरल झालेल्या या ट्रेंडने सोमवारी युरोपियन कमिशनला असे म्हणण्यास प्रवृत्त केले की ते “खूप गांभीर्याने” तक्रारींचा विचार करत आहे ज्याचा वापर लैंगिकदृष्ट्या सुस्पष्ट बालकांसारख्या प्रतिमा तयार करण्यासाठी आणि प्रसारित करण्यासाठी केला जात आहे.

मस्कच्या मोफत एआय असिस्टंट, ग्रोकला डिसेंबरमध्ये अपडेट केल्यानंतर चिंता वाढू लागली, वापरकर्त्यांना छायाचित्रे पोस्ट करणे आणि त्यांचे कपडे काढण्यास सांगणे सोपे झाले. साइट पूर्ण न्युडिफिकेशनला परवानगी देत ​​नसली तरी, ती वापरकर्त्यांना लहान, अंतर्वस्त्रांच्या उघड्या वस्तू आणि लैंगिक सूचक पोझमध्ये व्यक्तींना दाखवण्यासाठी प्रतिमा बदलण्याची विनंती करण्याची परवानगी देते.

रविवारी आणि सोमवारी, Grok वापरकर्त्यांनी अल्पवयीन मुलांची लैंगिकदृष्ट्या सूचक चित्रे तयार करणे सुरू ठेवले, ज्यामध्ये 10 वर्षांपेक्षा लहान मुलांच्या प्रतिमा रात्रभर तयार केल्या गेल्या. ऍशले सेंट क्लेअर, मस्कच्या एका मुलाची आई, अशी तक्रार केली AI टूलने ती 14 वर्षांची असताना बिकिनीमध्ये तिचे चित्र तयार केले.

स्ट्रेंजर थिंग्ज अभिनेता नेल फिशरच्या चित्रात रविवारी ग्रोकने तिला केळीच्या प्रिंट बिकिनीमध्ये घालण्यासाठी हाताळले होते. फिशर 14 वर्षांचा आहे. यावर अनेक महिलांनी संताप व्यक्त केला आहे एक्स त्यांच्या संमतीशिवाय त्यांच्या प्रतिमा उतरवल्या गेल्याचे आढळून आल्यावर. एआय टूलद्वारे स्त्रिया आणि मुलांची काही छायाचित्रे हाताळली गेली आहेत ज्यामध्ये त्यांच्या चेहऱ्यावर आणि छातीवर वीर्यासारखे पदार्थ लावलेले दिसतात.

येथील संशोधक एआय फॉरेन्सिक्सपॅरिस-आधारित ना-नफा, X वरील @Grok चे 50,000 उल्लेख आणि टूलद्वारे व्युत्पन्न केलेल्या 20,000 प्रतिमा तपासल्या, 25 डिसेंबर ते 1 जानेवारी दरम्यान एक आठवडाभराच्या कालावधीत आढळले. @Grok उल्लेखांपैकी किमान एक चतुर्थांश प्रतिमा तयार करण्याच्या साधनासाठी विनंत्या होत्या. त्या इमेज जनरेशन प्रॉम्प्ट्समध्ये, “तिचे”, “पुट”, “रिमूव्ह”, “बिकिनी” आणि “कपडे” यासारख्या संज्ञांचा उच्च प्रसार होता.

त्यात असे आढळून आले की अर्ध्याहून अधिक प्रतिमा अंडरवेअर किंवा बिकिनी सारख्या “किमान पोशाखात” लोकांच्या होत्या, बहुतेक स्त्रिया आहेत ज्या 30 वर्षांपेक्षा कमी वयाच्या आहेत. अल्पसंख्याक प्रतिमा, किंवा 2%, 18 वर्षे किंवा त्यापेक्षा कमी वयाचे लोक दाखवतात, एआय फॉरेन्सिक्सने जोडले, काही प्रतिमा पाच वर्षांपेक्षा कमी वयाच्या मुलांचे प्रतिनिधित्व करतात. संशोधकांनी सांगितले की बहुतेक सामग्री अद्याप ऑनलाइन उपलब्ध आहे आणि त्यात नाझी आणि इस्लामिक स्टेटचा प्रचार व्युत्पन्न करण्याच्या विनंत्या समाविष्ट आहेत.

सुरुवातीला, मस्कने बिकिनी परिधान केलेल्या डिजिटली हाताळलेल्या टोस्टरच्या चित्राला प्रतिसाद म्हणून शुक्रवारी रडणारा-हसणारा इमोजी पोस्ट करत ट्रेंडवर करमणूक व्यक्त केली. तो म्हणाला: “का माहीत नाही, पण हे पाहून मला हसू आवरले नाही.” सामग्रीच्या हानीकारक स्वरूपावर जागतिक आक्रोशानंतर, त्यांनी नंतर पोस्ट केले की “कोणीही बेकायदेशीर सामग्री बनवण्यासाठी Grok वापरत असेल तर त्यांनी बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगावे लागतील”.

X च्या प्रवक्त्याने सांगितले: “आम्ही X वरील बेकायदेशीर सामग्रीवर कारवाई करतो, ज्यात बाल लैंगिक शोषण सामग्री (CSAM) समाविष्ट आहे, ती काढून टाकून, खाती कायमची निलंबित करून आणि आवश्यकतेनुसार स्थानिक सरकार आणि कायद्याची अंमलबजावणी करून काम करतो.”

Grok चे पूर्वीचे विधान जाहीर केले की त्यात “सुरक्षेतील त्रुटी ओळखल्या गेल्या आहेत” आणि “तत्काळ त्या दुरुस्त करत आहे” कृत्रिम बुद्धिमत्तेद्वारे व्युत्पन्न केले गेले आहे; कंपनी सुरक्षेतील त्रुटी दूर करण्यासाठी प्रत्यक्षात कारवाई करत आहे की नाही हे स्पष्ट झाले नाही.

रेग्युलेटर अनेक वर्षांपासून फोनवरील न्युडिफिकेशन ॲप्सला बेकायदेशीर ठरवण्यावर काम करत आहेत, संमिश्र यश मिळवून, परंतु गेल्या महिन्यात Grok मधील अद्यतनांनी समस्या मुख्य प्रवाहात आणली आहे, ज्याने इंटरनेटच्या सर्वात लोकप्रिय प्लॅटफॉर्मपैकी एकावर बहुतेक कपडे काढून टाकलेल्या व्यक्तींच्या अंतरंग प्रतिमा तयार करणे आणि सामायिक करणे सोपे झाले आहे.

मुलांचे कपडे काढून टाकलेल्या प्रतिमा तयार करणे आधीच बेकायदेशीर असताना, प्रौढांच्या डीपफेकच्या निर्मितीभोवतीचा कायदा अधिक क्लिष्ट आहे. यूके प्रचारकांनी गेल्या जूनमध्ये कायदा पारित करण्यात यश मिळवले ज्यामुळे एखाद्या व्यक्तीच्या संमतीशिवाय अंतरंग प्रतिमा तयार करणे आणि तयार करण्याची विनंती करणे या दोन्ही गोष्टी बेकायदेशीर ठरतात, परंतु संबंधित तरतुदी अद्याप अंमलात आणल्या जाऊ शकल्या नाहीत, याचा अर्थ असा की कायदा सध्या लागू नाही. तथापि, या गैर-सहमतीने डीपफेक प्रतिमा सामायिक करणे आधीच बेकायदेशीर आहे.

शार्लोट ओवेन, कंझर्व्हेटिव्ह पीअर ज्यांनी कायदा केलाम्हणाले: “सरकारने वारंवार आपली टाच ओढली आहे आणि या महत्त्वाच्या तरतुदी कधी अंमलात आणतील याची कालमर्यादा देण्यास नकार दिला आहे. आम्हाला आणखी विलंब परवडणारा नाही. या गैरवर्तनातून वाचलेले चांगले पात्र आहेत. या भयंकर मार्गाने त्यांच्या संमतीचे उल्लंघन होईल या भीतीने कोणीही जगू नये.”

एका प्रवक्त्याने सांगितले की, संमतीशिवाय अंतरंग डीपफेक तयार करणे किंवा विनंती करणे या नवीन गुन्ह्यांची अंमलबजावणी करण्यासाठी सरकार कटिबद्ध आहे, ते जोडून की लैंगिकदृष्ट्या स्पष्ट डीपफेक “अपमानकारक आणि हानिकारक आहेत … म्हणूनच आम्ही त्यांच्या गैर-सहमतीच्या निर्मितीवर बंदी घालण्याचा कायदा केला आहे, जेणेकरून गुन्हेगारांना योग्य शिक्षा भोगावी लागेल.”

गब्बी बर्टिनकंझर्व्हेटिव्ह पीअर ज्याने न्युडिफिकेशन तंत्रज्ञानाचे नियमन करण्यासाठी मोहीम चालवली आहे, म्हणाले की सरकारने त्वरेने कार्य करणे आवश्यक आहे कारण सध्याचे कायदे “नेहमीच कॅच अप प्ले करत आहे”.

पोर्नोग्राफीच्या चांगल्या नियमनासाठी मोहीम राबवणारे लेबर खासदार जेस असातो म्हणाले: “हे लैंगिक अत्याचाराचे एक प्रकार आहे हे लक्षात घेणे आणि योग्य ती कारवाई करणे हे एलोन मस्कवर अवलंबून आहे. ते महिलांच्या संमतीविना त्यांची प्रतिमा काढत आहे आणि तिला अपमानित करण्यासाठी ते काढून टाकत आहे – अपमान करण्याशिवाय दुसरे कोणतेही कारण नाही.”