तज्ज्ञांनी चेतावणी दिली आहे की, गुन्हेगार बाल लैंगिक अत्याचाराची प्रतिमा तयार करण्यासाठी शाळेच्या वेबसाइटवरील फोटो वापरत आहेत

ब्लॅकमेलर शालेय वेबसाइट्सवर विद्यार्थ्यांच्या चेहऱ्याची छायाचित्रे वापरून लैंगिक शोषणाच्या प्रतिमा तयार करत आहेत, असा इशारा तज्ज्ञांनी दिला आहे.

यूकेचे राष्ट्रीय गुन्हा एजन्सी (NCA) आणि बाल सुरक्षा तज्ञांनी इशारा दिला आहे की गुन्हेगार वापरत आहेत AI लहान मुलांचे फोटो प्रकाशित न करण्यासाठी मोठ्या रकमेची मागणी करण्यापूर्वी त्यांची फेरफार करणे.

ते शैक्षणिक संस्थांना त्यांच्या वेबसाइट्स आणि सोशल मीडिया खात्यांवरील मुलांच्या ओळखण्यायोग्य प्रतिमा काढून टाकण्याचे आवाहन करत आहेत.

इंटरनेट वॉच फाउंडेशन (IWF) ने सांगितले की, गुन्हेगारांनी विद्यार्थ्यांच्या चित्रांचे बाल लैंगिक शोषणाच्या प्रतिमेत रूपांतर केल्यानंतर यूकेच्या एका माध्यमिक शाळेला ब्लॅकमेल करण्याचा प्रयत्न करण्यात आला आहे.

ब्लॅकमेलर्सने छेडछाड केलेली छायाचित्रे शाळेत पाठवली आणि पैसे न दिल्यास ते प्रकाशित करण्याची धमकी दिली.

आयडब्ल्यूएफने म्हटले आहे की ब्लॅकमेलच्या प्रयत्नात वापरल्या गेलेल्या 150 प्रतिमा यूके कायद्यानुसार बाल लैंगिक अत्याचार सामग्री (CSAM) म्हणून वर्गीकृत केल्या जाऊ शकतात.

गेल्या वर्षी घडलेली ही घटना, यूकेमधील शाळेची वेबसाइट किंवा सोशल मीडिया अकाउंटचे फोटो विकृत करून ब्लॅकमेल करण्याचा एकमेव प्रयत्न नाही, असे वॉचडॉगने म्हटले आहे.

यात सहभागी असलेल्या शाळेचे किंवा प्रतिमांचे वितरण रोखण्यात मदत करण्यासाठी संपर्क केलेल्या पोलिस दलाचे नाव दिलेले नाही.

फाइल इमेज: यूकेच्या नॅशनल क्राइम एजन्सी (NCA) आणि बाल सुरक्षा तज्ञांनी चेतावणी दिली आहे की गुन्हेगार मुलांचे फोटो हाताळण्यासाठी AI चा वापर करत आहेत आणि नंतर ते प्रकाशित न करण्यासाठी मोठ्या रकमेची मागणी करतात.

महिला आणि मुलींवरील संरक्षण आणि हिंसाचार मंत्री जेस फिलिप्स म्हणाले की, ही परिस्थिती ‘खूप चिंताजनक उदयोन्मुख धोका’ आहे.

‘आम्ही आवश्यक असल्यास पुढे जाण्यास अजिबात संकोच करणार नाही आणि आमचे कायदे ताज्या धमक्यांसह अद्ययावत राहतील याची खात्री करू,’ तिने सांगितले द गार्डियन.

ऑनलाइन हानीचा सामना करण्यासाठी यूके सल्लागार संस्था, अर्ली वॉर्निंग वर्किंग ग्रुप (EWWG), ने विद्यार्थ्यांना ब्लॅकमेलर्सपासून वाचवण्याबाबत शाळांना मार्गदर्शन जारी केले आहे.

शाळांनी विद्यार्थ्याला समोरासमोर दाखवणाऱ्या आणि विद्यार्थ्यांची नावे किंवा चेहरे प्रकाशित करण्याविरुद्ध चेतावणी देणारी प्रतिमा काढून टाकण्याची शिफारस केली आहे.

EWWG ने शाळांनी केलेल्या कृतींची चेकलिस्ट तयार केली.

यामध्ये नियमितपणे प्रतिमा संमती करारांवर पुन्हा स्वाक्षरी करणे आणि वेबसाइट्स, सोशल मीडिया खाती आणि प्रचारात्मक सामग्रीवरील मुलांच्या प्रतिमांचे नियमित ऑडिट करणे समाविष्ट आहे.

घटना घडल्यास, गट – ज्यामध्ये NSPCC धर्मादाय संस्था, IWF, वेल्श सरकार, एज्युकेशन स्कॉटलंड, सेफगार्डिंग बोर्ड फॉर नॉर्दर्न आयर्लंड आणि NCA यांचा समावेश आहे – म्हणाले की शाळांनी ताबडतोब पोलिसांशी संपर्क साधावा, मूळ प्रतिमा काढून टाकल्या पाहिजेत आणि कोणतीही गुन्हेगारी प्रतिमा ठेवावी.

कॉन्फेडरेशन ऑफ स्कूल ट्रस्टच्या मुख्य कार्यकारी लिओरा क्रुडास म्हणाल्या: ‘शिक्षक या नात्याने आम्हांला सहजगत्या मुलांचे यश साजरे करायचे आहे आणि त्यात आमच्या शाळांमध्ये सुरू असलेल्या सर्व चांगल्या गोष्टींचे फोटो आणि व्हिडिओ शेअर करणे समाविष्ट आहे – हे अत्यंत निराशाजनक आहे की असे करताना आम्हाला गैरवर्तन करणाऱ्यांकडून आणि स्कॅमरच्या धमक्यांचा सामना करावा लागतो.

ब्लॅकमेलिंगचा हा प्रकार सेक्सटोर्शन म्हणून ओळखला जातो – एक गुन्हा जो AI साधनांच्या वाढत्या वापरामुळे अधिक सामान्य झाला आहे.

लैंगिक शोषणामध्ये एखाद्या लहान मुलाची किंवा प्रौढ व्यक्तीची स्वतःच्या अंतरंग प्रतिमा पाठवण्यामध्ये फेरफार करणे आणि नंतर ते त्यांना आवडत असलेल्या लोकांना पाठवण्याची किंवा पीडितेने पैसे न पाठवल्यास त्यांना ऑनलाइन सोडण्याची धमकी देणे समाविष्ट आहे.

एआयच्या वाढत्या धोक्याविरोधात काही शाळांनी आधीच कारवाई केली आहे.

गेल्या वर्षी, Loughborough Schools Foundation, ते प्रतिनिधित्व करत असलेल्या तीन खाजगी शाळांच्या वेबसाइटवरून विद्यार्थ्यांच्या ओळखण्यायोग्य प्रतिमा काढून टाकल्या.