इंडोनेशियाने अश्लील सामग्रीच्या जोखमीमुळे मस्कचा ग्रोक चॅटबॉट ब्लॉक केला | इंडोनेशिया

इंडोनेशिया एआय-व्युत्पन्न अश्लील सामग्रीच्या जोखमीमुळे शनिवारी एलोन मस्कचा ग्रोक चॅटबॉट तात्पुरता अवरोधित केला, एआय टूलमध्ये प्रवेश नाकारणारा पहिला देश बनला.

युरोप ते आशियातील सरकारे, संशोधक आणि नियामकांनी निषेध केल्यानंतर आणि काहींनी चौकशी सुरू केल्यानंतर हे पाऊल पुढे आले आहे. लैंगिक सामग्रीमध्ये ॲपवर.

xAI, मागे स्टार्टअप ग्रोकगुरुवारी सांगितले की ते प्रतिमा निर्मिती आणि संपादन करणाऱ्या सदस्यांना देय देण्यापर्यंत प्रतिबंधित करत आहे कारण त्यांनी लैंगिक आउटपुटला अनुमती देणाऱ्या सुरक्षिततेच्या त्रुटी दूर करण्याचा प्रयत्न केला आहे, ज्यामध्ये कमी कपडे घातलेल्या मुलांच्या चित्रणांचा समावेश आहे.

“सरकार गैर-सहमतीने लैंगिक डीपफेकच्या प्रथेकडे मानवी हक्क, सन्मान आणि डिजिटल जागेत नागरिकांच्या सुरक्षिततेचे गंभीर उल्लंघन मानते,” असे कम्युनिकेशन आणि डिजिटल मंत्री मुत्या हाफिद यांनी एका निवेदनात म्हटले आहे.

मंत्रालयानेही बोलावले आहे एक्स या विषयावर चर्चा करण्यासाठी अधिकारी.

मस्कने X वर सांगितले की, बेकायदेशीर सामग्री बनवण्यासाठी ग्रोक वापरणाऱ्या कोणीही बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगतील.

xAI ने रॉयटर्सच्या ईमेलला एक स्वयंचलित प्रतिसाद असे वाटणाऱ्या टिप्पणीसह उत्तर दिले: “लेगेसी मीडिया लय”. X ने टिप्पणीच्या विनंतीला त्वरित प्रतिसाद दिला नाही.

जगातील सर्वात मोठी मुस्लिम लोकसंख्या असलेल्या इंडोनेशियामध्ये कठोर नियम आहेत जे अश्लील समजल्या जाणाऱ्या सामग्रीच्या ऑनलाइन सामायिकरणावर बंदी घालतात.

इंडोनेशियाचा ब्लॉक लैंगिकदृष्ट्या सुस्पष्ट आणि हिंसक प्रतिमा तयार करण्यासाठी वापरल्याबद्दलच्या व्यापक आक्रोशानंतर मोठ्या संख्येने वापरकर्त्यांसाठी शुक्रवारी त्याचे प्रतिमा निर्मिती कार्य बंद करत आहे.

कस्तुरीला दंड, नियामक कारवाई आणि संभाव्य अहवालाची धमकी देखील देण्यात आली आहे यूके मध्ये X वर बंदी.

महिलांचे कपडे काढण्यासाठी आणि त्यांना लैंगिक स्थितीत ठेवण्यासाठी त्यांच्या प्रतिमा हाताळण्यासाठी देखील हे साधन वापरले गेले आहे. पैसे देणाऱ्या सदस्यांशिवाय असे करण्याचे कार्य बंद करण्यात आले आहे.

ऑस्ट्रेलियन पंतप्रधान अँथनी अल्बानीज यांनी देखील शोषणात्मक लैंगिक सामग्री सक्षम करण्यासाठी ग्रोक चॅटबॉटवर कृत्रिम बुद्धिमत्तेच्या वापराबद्दल चिंता व्यक्त केली आहे.

पंतप्रधान शनिवारी सोशल मीडिया प्लॅटफॉर्मवर टीका करण्यासाठी ब्रिटीश समकक्ष केयर स्टाररसह आंतरराष्ट्रीय नेत्यांच्या वाढत्या यादीत सामील झाले.

“जनरेटिव्ह एआयचा वापर लोकांचे शोषण किंवा त्यांच्या संमतीशिवाय लैंगिक बनवणे घृणास्पद आहे,” त्याने कॅनबेरा येथे पत्रकारांना सांगितले.

“हे साधन वापरले गेले जेणेकरून लोक Grok द्वारे प्रतिमा निर्मिती कार्य वापरत होते हे मला वाटते, पूर्णपणे घृणास्पद आहे.

“हे, पुन्हा एकदा, सोशल मीडिया सामाजिक जबाबदारी दर्शवत नाही आणि ऑस्ट्रेलियन आणि खरंच, जागतिक नागरिक अधिक चांगल्यासाठी पात्र आहेत याचे उदाहरण आहे.”

ऑस्ट्रेलियाच्या eSafety Office द्वारे प्राप्त झालेल्या अहवालांची संख्या कमी असली तरी, लैंगिक किंवा शोषणात्मक प्रतिमा तयार करण्यासाठी Grok च्या वापराशी संबंधित अलीकडे वाढ झाली आहे.

वॉचडॉगने शुक्रवारी चेतावणी दिली की ते काढून टाकण्याच्या सूचनांसह त्यांचे अधिकार वापरतील जेथे अशी सामग्री ऑनलाइन सुरक्षा कायद्यामध्ये परिभाषित केलेल्या मर्यादा पूर्ण करते.

“X, Grok आणि इतर सेवांची विस्तृत श्रेणी देखील ऑस्ट्रेलियाच्या जागतिक-अग्रणीचा भाग म्हणून बाल लैंगिक शोषण सामग्री आणि इतर बेकायदेशीर सामग्री शोधण्यासाठी आणि काढून टाकण्यासाठी प्रणालीगत सुरक्षा दायित्वांच्या अधीन आहेत. उद्योग कोड आणि मानके,” असे म्हटले आहे.

रॉयटर्स आणि AAP सह