टेक कंपन्यांना इंटिमेट इमेज गैरवापरावर यूकेच्या कठोर नियमांचा सामना करावा लागतो | AI (कृत्रिम बुद्धिमत्ता)

सोशल मीडिया, मेसेजिंग प्लॅटफॉर्म आणि ऑनलाइन मंच जे अंतरंग प्रतिमा दुरुपयोग प्रकाशित करतात – बहुतेकदा महिला आणि मुलींचा अपमान करण्याच्या उद्देशाने – ते पसरणे थांबवण्यासाठी नवीन मार्गदर्शक तत्त्वांचे पालन करण्याच्या सूचना दिल्या जात आहेत.

ऑफकॉमने सांगितले की ते सेवा प्रदात्यांना अंतरंग प्रतिमेचा गैरवापर शोधण्यासाठी आणि ते रद्द करण्यास भाग पाडण्यासाठी त्याचे नियम बदलतील – ज्याला कधीकधी “रिव्हेंज पॉर्न” म्हटले जाते – आणि AI-व्युत्पन्न डीपफेक्सवर कारवाई केली जाईल. जानेवारीमध्ये डीपफेकची लाट आली जेव्हा एलोन मस्कच्या ग्रोक एआयचा वापर बिकिनीमध्ये महिलांचे लैंगिक व्हिडिओ तयार करण्यासाठी मोठ्या प्रमाणावर केला गेला.

महिला आणि मुलींनी बर्याच काळापासून तक्रार केली आहे की सार्वजनिक साइटवरून काढून टाकल्याशिवाय त्यांच्या संमतीशिवाय त्रासदायक प्रतिमा आणि व्हिडिओ सामायिक करण्यात अडचणी येतात.

ऑफकॉमने चेतावणी दिली की अशा प्रतिमांचा प्रसार वाढत आहे, जनरेटिव्ह एआयने केवळ गोष्टी अधिकच खराब केल्याचा इशारा दिल्याने मार्गदर्शक तत्त्वे आली आहेत आणि “इंटिमेट इमेज गैरवापराचा ऑनलाइन प्रसार कमी करण्याची तातडीची गरज आहे” असे म्हटले आहे.

नवीन संहिता नियामकांविरुद्ध महिला आणि मुलींवरील हिंसाचार समाप्ती या मोहिमेद्वारे कायदेशीर आव्हानाला अनुसरून आहे, ज्यांचे वकील तक्रार केली ऑफकॉम “या साइट्सचा सामना करण्यात अयशस्वी ठरत आहे आणि महिला आणि मुलींचे संरक्षण करण्याच्या त्याच्या कर्तव्यात अपयशी ठरत आहे”.

नग्नता किंवा लैंगिक कृत्य, एखाद्या व्यक्तीचे गुप्तांग, नितंब किंवा स्तन फक्त अंतर्वस्त्रांनी झाकलेले किंवा शौचालयात जाणारी व्यक्ती अशा अंतरंग प्रतिमांचे वर्गीकरण केले जाते.

फेब्रुवारीमध्ये, केयर स्टारर म्हणाले की डीपफेक न्यूड्स आणि “रिव्हेंज पॉर्न” 48 तासांच्या आत इंटरनेटवरून काढून टाकणे आवश्यक आहे अन्यथा तंत्रज्ञान कंपन्यांना यूकेमध्ये अवरोधित केले जाण्याचा धोका आहे, कॉलिंग ही एक “राष्ट्रीय आणीबाणी” आहे ज्याचा सरकारने सामना केला पाहिजे.

ऑफकॉम आता साइट्सना “हॅश-मॅचिंग” तंत्रज्ञानाचा वापर करण्यास उद्युक्त करत आहे, जे संमतीशिवाय सामायिक केलेल्या अंतरंग प्रतिमांचे उल्लंघन शोधते आणि स्वयंचलितपणे त्यांचे पुढे प्रसारित करणे थांबवते.

तंत्रज्ञान सचिव, लिझ केंडल यांनी सोमवारी जिव्हाळ्याच्या प्रतिमेच्या गैरवर्तनाला बळी पडलेल्यांसाठी “कधीही न संपणारे दुःस्वप्न” म्हटले त्यापासून बचाव करणे हे मार्गदर्शक तत्त्वांचे उद्दिष्ट आहे.

प्रचारकांसाठी एक विशिष्ट चिंतेचा विषय म्हणजे विशिष्ट ऑनलाइन मंच जेथे लोक संमतीशिवाय घेतलेल्या अंतरंग प्रतिमांचा व्यापार करतात. हे मंच महिलांना स्थानानुसार गटबद्ध करतात, उदाहरणार्थ गाव किंवा विद्यापीठाचे निवासस्थान, गंभीर सुरक्षा धोके निर्माण करतात.

संसदीय प्रक्रियेच्या अधीन राहून ही संहिता शरद ऋतूमध्ये लागू होण्याची अपेक्षा आहे.

ऑफकॉमच्या या निर्णयाचे प्रचारकांनी स्वागत केले आहे, परंतु ते म्हणाले की नियामकाने आणखी पुढे जावे आणि अशा हानिकारक सामग्रीचे पोस्टिंग अवरोधित करण्यासाठी तंत्रज्ञानाचा वापर करणे अनिवार्य केले पाहिजे.

केंडल म्हणाले: “बेकायदेशीर प्रतिमा ओळखून आणि त्यांना आणखी हानी पोहोचवण्याआधी त्यांना अवरोधित करून, प्रतिमेचा दुरुपयोग कायमस्वरूपी थांबविण्यासाठी विद्यमान तंत्रज्ञानाचा वापर करणे आवश्यक आहे. यापुढे कोणतीही सबब नाही.”