नवीन यूके सुरक्षा कायदे असूनही सोशल मीडिया अद्याप किशोरांना आत्महत्या-संबंधित सामग्रीवर जोर देत आहे इंटरनेट सुरक्षा

मुलांचे संरक्षण करण्याच्या उद्देशाने नवीन ऑनलाइन सुरक्षा कायदे असूनही सोशल मीडिया प्लॅटफॉर्म किशोरवयीन मुलांसाठी नैराश्य, आत्महत्या आणि स्वत: ची हानीकारक सामग्री दबाव आणत आहेत.

मॉली रोज फाउंडेशनने 15 वर्षांची मुलगी म्हणून डमी खाती उघडली आणि नंतर आत्महत्या, स्वत: ची हानी आणि औदासिन्य पोस्टमध्ये गुंतले. यामुळे अल्गोरिदमला “इन्स्टाग्राम रील्स आणि टिकटॉक फॉर यू पृष्ठावरील हानिकारक सामग्रीच्या त्सुनामी” या खात्यावर बॉम्बस्फोट करण्यास प्रवृत्त केले, चॅरिटीचे विश्लेषण आढळले.

इन्स्टाग्राम रील्स (%%%) आणि टिकटोक (%%%) वर पाहिलेले जवळजवळ सर्व शिफारसीय व्हिडिओ हानिकारक असल्याचे आढळले, तर टीक्टोकच्या अर्ध्याहून अधिक (%55%) हानिकारक पोस्ट्समध्ये आपल्या पृष्ठामध्ये आत्महत्या आणि स्वत: ची हानी करण्याच्या पद्धतींचा संदर्भ होता ज्यात काही संशोधकांनी यापूर्वी कधीही इंफॉन्टेड नसलेल्या आत्महत्येच्या पद्धतींचा संदर्भ दिला होता.

ही पोस्ट देखील प्रचंड प्रेक्षकांपर्यंत पोहोचली: टीक्टोकच्या आपल्या पृष्ठावरील 10 हानिकारक व्हिडिओंपैकी एकाने कमीतकमी 1 मीटर वेळा आवडले होते आणि इंस्टाग्रामवर पाच हानिकारक शिफारस केलेल्या व्हिडिओंमध्ये 250,000 पेक्षा जास्त वेळा आवडले होते.

चे मुख्य कार्यकारी अँडी बुरोज मॉली रोज फाउंडेशनने म्हटले आहे: “हानिकारक अल्गोरिदम किशोरवयीन मुलांवर हानिकारक सामग्रीच्या धक्कादायक पातळीवर बॉम्बस्फोट करत राहतात आणि तरुण लोकांसाठी सर्वात लोकप्रिय प्लॅटफॉर्मवर हे औद्योगिक स्तरावर घडू शकते.

“हे धक्कादायक आहे की दोन वर्षांत आम्ही हे संशोधन केल्यापासून हानीचे प्रमाण अद्याप योग्यरित्या केले गेले नाही आणि टिकटोकवर जोखीम सक्रियपणे खराब झाली आहे.

“अल्गोरिथमिक हानीचा सामना करण्यासाठी ओफकॉमने ठरविलेल्या उपाययोजना एक स्टिकिंग प्लास्टर आहेत आणि प्रतिबंधात्मक हानी पोहोचविण्यासाठी पुरेसे ठरणार नाहीत. प्लॅटफॉर्म खेळू किंवा दुर्लक्ष करू शकत नाहीत अशा अधिक मजबूत उपाययोजना करण्यासाठी सरकार आणि नियामक कार्य निर्णायकपणे निर्णायकपणे महत्त्वपूर्ण आहे.”

नोव्हेंबर २०२24 ते मार्च २०२25 दरम्यान प्लॅटफॉर्मवर सामग्रीचे विश्लेषण करणार्‍या संशोधकांना असे आढळले आहे की दोन्ही प्लॅटफॉर्मने किशोरांना त्यांच्याकडे शिफारस केलेल्या सामग्रीबद्दल नकारात्मक अभिप्राय देण्यास सक्षम केले असले तरी, ऑनलाईन सेफ्टी अ‍ॅक्ट अंतर्गत आवश्यकतेनुसार, या कार्यामुळे त्यांना त्याच सामग्रीवर सकारात्मक अभिप्राय देखील देण्यात आला आहे, परिणामी त्यांचे अधिक भाग असल्याचे दिसून आले.

फाउंडेशन चे अहवालब्राइट डेटाच्या भागीदारीत निर्मित, स्थापित केले की प्लॅटफॉर्मने हॅशटॅगचा वापर करून धोकादायक सामग्री शोधणे कठीण करण्यासाठी पावले उचलली होती, तर वैयक्तिकृत एआय शिफारसकर्ता सिस्टम हानिकारक सामग्री वाढविल्यानंतर एकदा हे पाहिले की ते जोडले गेले. अहवालात पुढे असेही नमूद केले आहे की प्लॅटफॉर्म हानीच्या अरुंद व्याख्येपेक्षा जास्त वापरतात.

हानिकारक ऑनलाइन सामग्रीच्या संपर्कात आणि परिणामी आत्महत्या आणि स्वत: ची हानीकारक जोखीम यांच्यातील संबंधांच्या वाढत्या पुराव्यांचा अभ्यास या संशोधनात करण्यात आला.

हे देखील आढळले आहे की सोशल मीडिया प्लॅटफॉर्म किशोरवयीन आणि यूके विद्यापीठांमध्ये लोकप्रिय फॅशन आणि फास्ट फूड ब्रँडसह काही हानिकारक पोस्टला लागून असलेल्या जाहिरातींमधून नफा कमावतात.

ऑफकॉमने ऑनलाईन सेफ्टी अ‍ॅक्टच्या मुलांच्या सुरक्षा कोडची अंमलबजावणी करण्यास सुरवात केली आहे, ज्याचा हेतू “विषारी अल्गोरिदम” या उद्देशाने आहे. मेटाकडून निधी मिळविणार्‍या मॉली रोज फाउंडेशनला चिंता आहे की नियामकाने हे दुरुस्त करण्यासाठी प्लॅटफॉर्मने फक्त, 000 80,000 खर्च करण्याची शिफारस केली आहे.

ऑफकॉमच्या प्रवक्त्याने सांगितले: “बदल घडत आहे. हे संशोधन सुरू झाल्यापासून, ऑनलाइन मुलांचे संरक्षण करण्यासाठी आमचे नवीन उपाययोजना लागू झाले आहेत. यामुळे मुलांसाठी अर्थपूर्ण फरक पडेल-आत्महत्या आणि स्वत: ची हानी सामग्रीसह सर्वात हानिकारक सामग्रीचा धोका टाळण्यास मदत करेल. आणि पहिल्यांदाच, टेक्स टॉक्सिक अल्गोरिदम टेम करण्यासाठी कायद्याने सेवांची आवश्यकता असेल.”

तंत्रज्ञान सचिव पीटर काइल म्हणाले की, ऑनलाइन सुरक्षा कायदा अंमलात आला असल्याने 45 साइट्सची चौकशी सुरू आहे. ते म्हणाले, “कंपन्या स्वत: ची हानीकारक सामग्रीपासून संरक्षण करण्यासाठी सक्रिय तंत्रज्ञानाचा वापर करतात आणि अल्गोरिदम सुरक्षित बनवण्यासाठी साइट्स पुढे जातात, असे प्रस्तावित करून विद्यमान उपाय कसे बळकट करावे यावरही ऑफकॉम विचार करीत आहे,” ते पुढे म्हणाले.

टिकटोकच्या प्रवक्त्याने सांगितले: “टिकटोकवरील किशोरवयीन खात्यांकडे 50+ वैशिष्ट्ये आणि सेटिंग्ज आहेत ज्यात त्यांना सुरक्षितपणे व्यक्त करण्यासाठी, शोधण्यात आणि शिकण्यासाठी मदत केली गेली आहे आणि पालक कौटुंबिक जोड्याद्वारे 20+ सामग्री आणि गोपनीयता सेटिंग्ज पुढे सानुकूलित करू शकतात. टीकेटोकने 99% पेक्षा जास्त उल्लंघनात्मक सामग्रीसह, शोध आमच्या व्यासपीठावरील लोकांचा वास्तविक अनुभव प्रतिबिंबित करीत नाही.

मेटाच्या प्रवक्त्याने सांगितले: “आम्ही या अहवालाचे प्रतिपादन आणि त्यामागील मर्यादित पद्धतींशी सहमत नाही.

“लाखो किशोरवयीन मुले आता इन्स्टाग्राम किशोरांच्या खात्यात आहेत, जी अंगभूत संरक्षणाची ऑफर देतात जी त्यांच्याशी कोणाशी संपर्क साधू शकतात, त्यांनी पाहिलेली सामग्री आणि त्यांनी इन्स्टाग्रामवर घालवलेली वेळ. आम्ही आत्महत्या आणि स्वत: ची इजा करण्यास प्रोत्साहित करणारी सामग्री काढून टाकण्यासाठी स्वयंचलित तंत्रज्ञानाचा वापर करत आहोत.