एआय-व्युत्पन्न बाल लैंगिक अत्याचार व्हिडिओ ऑनलाइन वाढत आहेत, वॉचडॉग म्हणतो इंटरनेट

कृत्रिम बुद्धिमत्तेद्वारे व्युत्पन्न केलेल्या बाल लैंगिक अत्याचाराच्या ऑनलाइन व्हिडिओंची संख्या वाढत गेली आहे कारण पेडोफिल्सने पुढे ढकलले आहे तंत्रज्ञानातील विकास?

द इंटरनेट वॉच फाउंडेशनने म्हटले आहे की, गैरवर्तनाच्या एआय व्हिडिओंनी “वास्तविक प्रतिमा” पासून जवळपास ओळखण्यायोग्य नसल्याचा “उंबरठा ओलांडला” आणि यावर्षी ऑनलाइन प्रचलित वाढ झाली आहे.

२०२25 च्या पहिल्या सहा महिन्यांत, यूके-आधारित इंटरनेट सेफ्टी वॉचडॉगने गेल्या वर्षी याच कालावधीत दोनच्या तुलनेत बाल लैंगिक अत्याचार सामग्री (सीएसएएम) सह 1,286 एआय-निर्मित व्हिडिओंची पडताळणी केली.

आयडब्ल्यूएफने म्हटले आहे की केवळ 1,000 पेक्षा जास्त व्हिडिओ श्रेणीतील अ गैरवर्तन, अत्यंत गंभीर प्रकारच्या सामग्रीचे वर्गीकरण.

एआय मधील कोट्यवधी डॉलर्सची गुंतवणूक वाढत असल्याचे संघटनेने सांगितले मोठ्या प्रमाणात उपलब्ध व्हिडिओ-पिढीतील मॉडेल ते पेडोफिल्सद्वारे हाताळले जात होते.

“हा एक अतिशय स्पर्धात्मक उद्योग आहे. त्यात बरेच पैसे आहेत, म्हणून दुर्दैवाने गुन्हेगारांसाठी बरीच निवड आहे,” असे एका आयडब्ल्यूएफ विश्लेषकांनी सांगितले.

2025 च्या पहिल्या सहा महिन्यांत एआय-मेड बाल लैंगिक अत्याचार असलेल्या यूआरएलमध्ये 400% वाढीचा एक भाग म्हणून व्हिडिओ आढळले. आयडब्ल्यूएफला मागील वर्षी 42 च्या तुलनेत 210 अशा यूआरएलचे अहवाल प्राप्त झाले, प्रत्येक वेबपृष्ठासह व्हिडिओ सामग्रीच्या वाढीसह शेकडो प्रतिमा आहेत.

आयडब्ल्यूएफने एका डार्क वेब फोरमवर एक पोस्ट पाहिली जिथे पेडोफाइलने एआयमधील सुधारणांच्या गतीचा उल्लेख केला, असे सांगून त्यांनी फक्त “काहीतरी नवीन आणि चांगले येण्यासाठी” एआय साधन कसे प्रभुत्व मिळवले.

आयडब्ल्यूएफ विश्लेषकांनी सांगितले की, प्रतिमा मुक्तपणे उपलब्ध बेसिक एआय मॉडेल घेऊन आणि सीएसएएम सह “फाईन-ट्यूनिंग” करून वास्तववादी व्हिडिओ तयार करण्यासाठी तयार केलेल्या प्रतिमा तयार केल्या गेल्या आहेत. काही प्रकरणांमध्ये ही मॉडेल्स मूठभर सीएसएएम व्हिडिओंसह बारीक केली गेली होती, असे आयडब्ल्यूएफने सांगितले.

यावर्षी पाहिलेले सर्वात वास्तववादी एआय गैरवर्तन व्हिडिओ वास्तविक जीवनातील पीडितांवर आधारित होते, असे वॉचडॉगने सांगितले.

आयडब्ल्यूएफचे अंतरिम मुख्य कार्यकारी डेरेक रे-हिल म्हणाले की, एआय मॉडेल्सच्या क्षमतेत वाढ, त्यांची विस्तृत उपलब्धता आणि गुन्हेगारी हेतूंसाठी त्यांना अनुकूल करण्याची क्षमता एआय-निर्मित सीएसएएम ऑनलाइन स्फोट होऊ शकते.

ते म्हणाले, “एआय-व्युत्पन्न सीएसएएमचा अविश्वसनीय जोखीम आहे ज्यामुळे संपूर्ण स्फोट होतो ज्यामुळे स्पष्ट वेबवर परिणाम होतो.

एआय-व्युत्पन्न प्रतिमांमध्ये लैंगिक अत्याचाराच्या विद्यमान पीडितांचा वापर म्हणजे पेडोफिल्स नवीन बळींवर अवलंबून न राहता सीएसएएमचे प्रमाण लक्षणीय वाढवत आहेत, असेही ते म्हणाले.

यूके सरकार एआय-व्युत्पन्न सीएसएएमवर क्रॅक करीत आहे ते बेकायदेशीर बनविणे गैरवर्तन सामग्री तयार करण्यासाठी डिझाइन केलेले एआय साधने ताब्यात घेणे, तयार करणे किंवा वितरित करणे. नवीन कायद्याचा भंग केल्याचे आढळून आले की पाच वर्षांपर्यंत तुरूंगवासाची शिक्षा होईल.

एकतर अपमानास्पद प्रतिमा बनवण्यासाठी किंवा मुलांचा गैरवापर करण्यात मदत करण्यासाठी एआय साधने कशी वापरायची हे संभाव्य गुन्हेगारांना शिकवणारे मॅन्युअलचा ताबा मंत्री देखील बंदी घालत आहेत. गुन्हेगारांना तीन वर्षांपर्यंत तुरुंगवासाची शिक्षा होऊ शकते.

फेब्रुवारीमधील बदलांची घोषणा करताना गृहसचिव, यवेटे कूपर म्हणाले की, “आम्ही बाल लैंगिक अत्याचार ऑनलाइन तसेच ऑफलाइनवर हाताळणे आवश्यक आहे”.

एआय-व्युत्पन्न सीएसएएमच्या संरक्षणाखाली बेकायदेशीर आहे मुले कायदा 1978, जो मुलाचे “अश्लील छायाचित्र किंवा छद्म छायाचित्र” घेण्याचे, वितरण आणि ताब्यात घेण्याचे गुन्हेगारी करते.