युनिसेफने बाल लैंगिक अत्याचाराचे चित्रण करणाऱ्या एआय सामग्रीचे गुन्हेगारीकरण करण्याचे आवाहन केले आहे

0

जॅस्पर वॉर्ड द्वारे फेब्रुवारी 4 (रॉयटर्स) – युनायटेड नेशन्स बाल एजन्सी UNICEF ने बुधवारी देशांना AI-व्युत्पन्न बाल लैंगिक शोषण सामग्रीच्या निर्मितीला गुन्हेगार ठरवण्याचे आवाहन केले आहे, असे म्हटले आहे की कृत्रिम बुद्धिमत्तेच्या प्रतिमांच्या संख्येत वाढ झाल्याच्या अहवालामुळे ते चिंताग्रस्त झाले आहेत. एजन्सीने विकासकांना AI मॉडेल्सचा गैरवापर टाळण्यासाठी सुरक्षा-बाय-डिझाइन पद्धती आणि रेलिंग लागू करण्याचे आवाहन केले. डिजीटल कंपन्यांनी डिटेक्शन टेक्नॉलॉजीमध्ये गुंतवणुकीसह कंटेंट मॉडरेशन बळकट करून या प्रतिमांचे संचलन रोखले पाहिजे असे त्यात म्हटले आहे. “डीपफेक दुरुपयोगामुळे होणारी हानी वास्तविक आणि तातडीची आहे. मुले कायद्याची पकड येण्याची वाट पाहू शकत नाहीत,” युनिसेफने एका निवेदनात म्हटले आहे. डीपफेक हे AI-व्युत्पन्न केलेल्या प्रतिमा, व्हिडिओ आणि ऑडिओ आहेत जे खऱ्या लोकांची तोतयागिरी करतात. युनिसेफने लहान मुलांचे “न्युडिफिकेशन” काय म्हटले आहे याबद्दल चिंता व्यक्त केली, बनावट नग्न किंवा लैंगिक प्रतिमा तयार करण्यासाठी फोटोंमध्ये कपडे काढण्यासाठी किंवा बदलण्यासाठी AI चा वापर केला. युनिसेफच्या म्हणण्यानुसार, गेल्या वर्षभरात 11 देशांमधील किमान 1.2 दशलक्ष मुलांनी त्यांच्या प्रतिमा लैंगिकदृष्ट्या स्पष्ट डीपफेकमध्ये फेरफार केल्याचा खुलासा केला आहे. ब्रिटनने शनिवारी सांगितले की बाल लैंगिक शोषणाच्या प्रतिमा तयार करण्यासाठी AI साधनांचा वापर करणे बेकायदेशीर बनवण्याची योजना आहे आणि असे करणारा तो पहिला देश बनला आहे. अलिकडच्या वर्षांत बाल शोषण सामग्री तयार करण्यासाठी AI चा वापर करण्याबद्दल चिंता वाढली आहे, विशेषत: चॅटबॉट्स जसे की xAI’s Grok – एलोन मस्क यांच्या मालकीचे – जे महिला आणि अल्पवयीन मुलांची लैंगिक प्रतिमा तयार करण्यासाठी छाननीखाली आले आहेत. रॉयटर्सच्या तपासणीत असे आढळून आले की चॅटबॉटने या प्रतिमा तयार करणे सुरू ठेवले तरीही वापरकर्त्यांनी स्पष्टपणे चेतावणी दिली की विषयांची संमती नाही. xAI ने 14 जानेवारी रोजी सांगितले की त्यांनी Grok AI वापरकर्त्यांसाठी प्रतिमा संपादन प्रतिबंधित केले आहे आणि वापरकर्त्यांना त्यांच्या स्थानाच्या आधारावर, “जेथे बेकायदेशीर आहे अशा अधिकारक्षेत्रात” कपडे उघडण्यासाठी लोकांच्या प्रतिमा निर्माण करण्यापासून अवरोधित केले आहे. त्यात देशांची ओळख पटलेली नाही. याआधी ग्रोकच्या प्रतिमा निर्मिती आणि संपादन वैशिष्ट्यांचा वापर केवळ देय सदस्यांपुरताच मर्यादित होता. (वॉशिंग्टनमधील जास्पर वार्डद्वारे अहवाल; मिशेल निकोल्स आणि रॉड निकेल यांचे संपादन)

(लेख सिंडिकेटेड फीडद्वारे प्रकाशित केला गेला आहे. शीर्षक वगळता, मजकूर शब्दशः प्रकाशित केला गेला आहे. उत्तरदायित्व मूळ प्रकाशकावर आहे.)