ऑस्ट्रेलियाने एआय-व्युत्पन्न बाल शोषणासाठी वापरल्या जाणाऱ्या ‘न्युडिफाय’ साइट्सवर प्रतिबंध केला | सोशल मीडिया बातम्या
गैरवापर प्रतिमा तयार करण्यासाठी वापरल्या जाणाऱ्या तीन वेबसाइटना ऑस्ट्रेलियन लोकांकडून मासिक 100,000 भेटी मिळाल्या होत्या, असे वॉचडॉग म्हणतात.
27 नोव्हेंबर 2025 रोजी प्रकाशित
ऑस्ट्रेलियातील इंटरनेट वापरकर्त्यांना बाल लैंगिक शोषण सामग्री तयार करण्यासाठी कृत्रिम बुद्धिमत्तेचा वापर करणाऱ्या अनेक वेबसाइटवर प्रवेश करण्यापासून अवरोधित करण्यात आले आहे, असे देशाच्या इंटरनेट नियामकाने जाहीर केले आहे.
अधिकृत चेतावणीनंतर तीन “नग्नीकरण” साइट्स ऑस्ट्रेलियातून माघार घेतल्या, असे ईसेफ्टी आयुक्त ज्युली इनमन ग्रँट यांनी गुरुवारी सांगितले.
शिफारस केलेल्या कथा
4 वस्तूंची यादीयादीचा शेवट
ग्रँटच्या कार्यालयाने सांगितले की साइट्सना ऑस्ट्रेलियन्सकडून महिन्याला अंदाजे 100,000 भेटी मिळत होत्या आणि ऑस्ट्रेलियन शालेय विद्यार्थ्यांचा समावेश असलेल्या AI-व्युत्पन्न बाल लैंगिक शोषण प्रतिमांच्या उच्च-प्रोफाइल प्रकरणांमध्ये वैशिष्ट्यीकृत होते.
ग्रांट म्हणाले की अशा “न्युडिफाई” सेवा, ज्या वापरकर्त्यांना AI वापरून खऱ्या लोकांच्या प्रतिमा नग्न दिसण्याची परवानगी देतात, त्यांचा ऑस्ट्रेलियन शाळांमध्ये “विनाशकारी” परिणाम झाला आहे.
“आम्ही सप्टेंबरमध्ये अंमलबजावणीची कारवाई केली कारण हा प्रदाता त्याच्या सेवांचा वापर बाल लैंगिक शोषण सामग्री तयार करण्यासाठी होण्यापासून प्रतिबंधित करण्यात अयशस्वी ठरला आणि अगदी ‘कोणत्याही मुलीचे कपडे उतरवणे’ आणि ‘स्कूलगर्ल’ प्रतिमा निर्मितीसाठी पर्याय आणि ‘सेक्स मोड’ सारख्या वैशिष्ट्यांसह विपणन वैशिष्ट्ये देखील होती,” ग्रँड यांनी एका निवेदनात म्हटले आहे.
ग्रँटच्या कार्यालयाने सप्टेंबरमध्ये साइट्समागील युनायटेड किंगडम-आधारित कंपनीला औपचारिक चेतावणी जारी केल्यानंतर, प्रतिमा-आधारित दुरुपयोग रोखण्यासाठी सुरक्षेचा परिचय न दिल्यास 49.5 दशलक्ष ऑस्ट्रेलियन डॉलर्स ($32.2m) पर्यंत नागरी दंडाची धमकी दिल्यानंतर हा विकास झाला.
ग्रँट म्हणाले की, एआय मॉडेल्ससाठी होस्टिंग प्लॅटफॉर्म हगिंग फेसने ऑस्ट्रेलियन कायद्याचे पालन करण्यासाठी स्वतंत्रपणे पावले उचलली आहेत, ज्यात खातेधारकांना त्यांच्या प्लॅटफॉर्मचा गैरवापर होण्याचे धोके कमी करण्यासाठी पावले उचलण्याची आवश्यकता आहे यासाठी त्याच्या सेवा अटींमध्ये बदल करणे समाविष्ट आहे.
मुलांची ऑनलाइन हानी रोखण्यासाठी, 16 वर्षाखालील सोशल मीडियावर बंदी घालण्यासाठी आणि पाठलाग करण्यासाठी आणि डीपफेक प्रतिमा तयार करण्यासाठी वापरल्या जाणाऱ्या ॲप्सवर कारवाई करण्यासाठी ऑस्ट्रेलिया जागतिक प्रयत्नांमध्ये आघाडीवर आहे.
माऊसच्या क्लिकवर फोटो-वास्तववादी सामग्री तयार करण्यास सक्षम असलेल्या प्लॅटफॉर्मच्या जलद प्रसारादरम्यान गैर-सहमतीने लैंगिकदृष्ट्या सुस्पष्ट प्रतिमा तयार करण्यासाठी AI चा वापर वाढत्या चिंतेचा विषय बनला आहे.
यूएस-आधारित वकिल समूह थॉर्नने गेल्या वर्षी केलेल्या सर्वेक्षणात, 13-20 वयोगटातील 10 टक्के प्रतिसादकर्त्यांनी अशा एखाद्या व्यक्तीला ओळखत असल्याचे सांगितले ज्याने त्यांच्याकडून तयार केलेल्या डीपफेक नग्न प्रतिमा आहेत, तर 6 टक्के लोकांनी सांगितले की ते अशा गैरवर्तनाचे थेट बळी आहेत.
Source link
