Grok AI टूलला खऱ्या लोकांच्या लैंगिक प्रतिमा तयार करण्यापासून रोखण्यासाठी मस्कचा X | एलोन मस्क

इलॉन मस्कच्या xAI ने घोषणा केली आहे की ते त्यांच्या Grok AI टूलची खऱ्या लोकांच्या प्रतिमा बदलून त्यांना “बिकिनी सारख्या उघड कपडे” मध्ये ठेवण्याची क्षमता अवरोधित करेल, या साधनावर स्पष्ट प्रतिमा निर्माण करण्यासाठी वापरल्या जाणाऱ्या जागतिक प्रतिक्रिया दरम्यान.

अब्जाधीशांनी ग्रोकने बनवलेल्या कोणत्याही “नग्न अल्पवयीन प्रतिमा” बद्दल माहिती नसल्याचे सांगितल्यानंतर काही तासांनंतर हे पाऊल पुढे आले.

Grok ची छाननी जगभरात तीव्र झाली आहे, काही लोक स्त्रिया आणि मुलांना त्यांच्या संमतीशिवाय डिजिटली कपडे उतरवण्यासाठी आणि त्या प्रतिमा पोस्ट करण्यासाठी वापरत आहेत एक्स. या हजारो लैंगिक AI प्रतिमांनी गेल्या काही आठवड्यांपासून X मध्ये पाणी भरले आहे. xAI, जी Grok बनवते, X चे मालक देखील आहेत – दोन्ही मस्क चालवतात.

“ज्या व्यक्ती कायद्याचे किंवा आमच्या धोरणांचे उल्लंघन करण्यासाठी Grok खात्याचा दुरुपयोग करण्याचा प्रयत्न करतात त्यांना जबाबदार धरले जाऊ शकते याची खात्री करण्यात मदत करून हे संरक्षणाचा अतिरिक्त स्तर जोडते,” कंपनी X वर पोस्ट केले बुधवारी संध्याकाळी. त्यात असेही म्हटले आहे की “बाल लैंगिक शोषण, गैर-सहमतीची नग्नता आणि अवांछित लैंगिक सामग्रीसाठी शून्य सहनशीलता” आहे.

बुधवारी जाहीर केलेले बदल X सोशल मीडिया प्लॅटफॉर्मवरील सर्व वापरकर्त्यांना लागू होतील, अगदी पैसे देणाऱ्या सदस्यांना, कंपनीने सांगितले. X ने स्पष्ट केले नाही, तथापि, लोक अजूनही स्टँडअलोन Grok ॲपवर अशा प्रतिमा तयार करण्यास सक्षम असतील की नाही.

तत्पूर्वी बुधवारी मस्क यांनी ए X वर पोस्ट करा: “मी [sic] Grok द्वारे व्युत्पन्न केलेल्या कोणत्याही नग्न अल्पवयीन प्रतिमांबद्दल माहिती नाही. अक्षरशः शून्य.” मस्कच्या xAI आणि X ने जागतिक स्तरावर वाढत्या प्रतिक्रियेचा सामना केला आहे, ज्यात एक कॅलिफोर्नियाच्या ऍटर्नी जनरलकडून तपास आणि ऍपल आणि Google साठी कायदे निर्माते आणि वकिली गटांद्वारे Grok ला ॲप स्टोअरमधून वगळण्यासाठी कॉल. यूकेच्या नियामकांनी देखील तपास सुरू केला आहे आणि मलेशिया आणि इंडोनेशियासह देशांनी बंदी किंवा कायदेशीर कारवाई करण्यास प्रवृत्त केले आहे.

मस्कने म्हटले आहे की ग्रोक हे बेकायदेशीर विनंत्या नाकारण्यासाठी प्रोग्राम केले गेले होते आणि कोणत्याही देशाच्या किंवा राज्याच्या कायद्यांचे पालन केले पाहिजे.

“स्पष्टपणे, Grok उत्स्फूर्तपणे प्रतिमा व्युत्पन्न करत नाही. ते केवळ वापरकर्त्याच्या विनंतीनुसार असे करते,” मस्क यांनी बुधवारी सांगितले.

मस्क यांनी यापूर्वी X वर म्हटले आहे की बेकायदेशीर सामग्री बनवण्यासाठी ग्रोक वापरणाऱ्या कोणीही बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगतील.

तीन डेमोक्रॅटिक यूएस सिनेटर्सनी गेल्या आठवड्यात ऍपल आणि अल्फाबेटच्या Google ला त्यांच्या ॲप स्टोअरमधून X आणि त्याचे अंगभूत AI टूल Grok काढून टाकण्याची मागणी केली होती, प्लॅटफॉर्मवर महिला आणि अल्पवयीनांच्या असंवेदनशील लैंगिक प्रतिमांच्या प्रसाराचा हवाला देऊन.

महिला गट, टेक वॉचडॉग आणि पुरोगामी कार्यकर्त्यांच्या युतीने टेक दिग्गजांनाही अशाच हालचालीसाठी बोलावले.

गेल्या आठवड्यात, X ने Grok ची प्रतिमा व्युत्पन्न किंवा संपादित करण्याची क्षमता कमी केली आहे जे वापरकर्त्यांना पैसे देत नाहीत. तथापि, उद्योग तज्ञ आणि वॉचडॉग्सने म्हटले आहे की ग्रोक अजूनही लैंगिकरित्या सुस्पष्ट प्रतिमा तयार करण्यास सक्षम आहे आणि विशिष्ट वैशिष्ट्यांसह पेवॉलिंग सारख्या निर्बंधांमुळे सखोल एआय प्रतिमा साधनांचा प्रवेश पूर्णपणे अवरोधित होऊ शकत नाही.

यूकेमध्ये, अशा प्रतिमांच्या निर्मितीला गुन्हेगारी स्वरूप देण्यासाठी या आठवड्यात कायदा बदलणार आहे आणि पंतप्रधान, केयर स्टारमर यांनी बुधवारी सांगितले की एक्स नवीन नियमांचे पालन करण्यासाठी काम करत आहे. कम्युनिकेशन्स रेग्युलेटर ऑफकॉम एआय टूलची चौकशी करत आहे.

X आणि xAI ने टिप्पणीसाठी विनंती परत केली नाही.

रॉयटर्सने अहवालात योगदान दिले