एआय चॅटबॉट्सच्या निर्मात्यांना जो धोका पत्करतो त्यांना मोठा दंड किंवा यूके बंदी | इंटरनेट सुरक्षा

एआय चॅटबॉट्सच्या निर्मात्यांना जो धोका पत्करतो त्यांना मोठ्या दंडाला सामोरे जावे लागेल किंवा कायद्यातील बदलांनुसार यूकेमध्ये त्यांच्या सेवा अवरोधित केल्या जातील. Keir Starmer सोमवारी.

एलोन मस्कच्या एक्स द्वारे उत्साही त्याच्या Grok AI टूलला UK मधील वास्तविक लोकांच्या लैंगिक प्रतिमा तयार करण्यापासून थांबवत आहे गेल्या महिन्यात सार्वजनिक आक्रोशानंतर, मंत्री “AI द्वारे तयार केलेल्या नीच बेकायदेशीर सामग्रीवर कारवाई” करण्याची योजना आखत आहेत.

अधिकाधिक मुले त्यांच्या गृहपाठापासून ते मानसिक आरोग्यासाठी मदत करण्यापर्यंत सर्व गोष्टींसाठी चॅटबॉट वापरत असताना, सरकारने सांगितले की ते “कायदेशीर पळवाट बंद करण्यासाठी जलद गतीने पुढे जाईल आणि सर्व AI चॅटबॉट प्रदात्यांना ऑनलाइन सुरक्षा कायद्यातील बेकायदेशीर सामग्री कर्तव्यांचे पालन करण्यास भाग पाडेल किंवा कायदा मोडल्याच्या परिणामांना सामोरे जावे लागेल”.

16 वर्षाखालील संभाव्य बंदीबाबत सार्वजनिक सल्लामसलत केल्यानंतर खासदारांनी सहमती दर्शवल्यास स्टारर मुलांद्वारे सोशल मीडियाच्या वापरावरील नवीन निर्बंधांना गती देण्याची योजना आखत आहे. याचा अर्थ असा आहे की मुलांच्या सोशल मीडियाच्या वापरामध्ये कोणतेही बदल, ज्यामध्ये इतर उपायांचा समावेश असू शकतो जसे की अनंत स्क्रोलिंग प्रतिबंधित करणे, या उन्हाळ्यात लवकरात लवकर होऊ शकते.

परंतु सल्लामसलत अद्याप सुरू झालेली नाही म्हणून कंझर्व्हेटिव्ह लोकांनी “अधिक धूर आणि आरसे” म्हणून त्वरीत काम करत असल्याचा सरकारचा दावा फेटाळून लावला.

“त्यांच्या तथाकथित तातडीची सल्लामसलत देखील अस्तित्वात नसताना ते ‘तत्काळ कारवाई’ करत असल्याचा दावा करणे विश्वासार्ह नाही,” लॉरा ट्रॉट म्हणाल्या, छाया शिक्षण सचिव. “लेबरने वारंवार सांगितले आहे की 16 वर्षांखालील मुलांना सोशल मीडियावर प्रवेश करण्यापासून प्रतिबंधित केले जावे की नाही याबद्दल त्यांचे मत नाही. ते पुरेसे नाही. मी स्पष्ट आहे की आपण 16 वर्षाखालील मुलांना या प्लॅटफॉर्मवर प्रवेश करणे थांबवले पाहिजे.”

ऑनलाइन नियामक ऑफकॉमने कबूल केल्यावर या हालचाली झाल्या आहेत की त्यांच्याकडे ग्रोकविरूद्ध कारवाई करण्याचे अधिकार नाहीत कारण इंटरनेटवर शोधल्याशिवाय चॅटबॉटद्वारे तयार केलेल्या प्रतिमा आणि व्हिडिओ सध्याच्या कायद्याच्या कक्षेत नाहीत, जोपर्यंत ते पोर्नोग्राफीचे प्रमाण नाही. ऑनलाइन सुरक्षा कायद्यांतर्गत एआय चॅटबॉट्स आणण्याचा बदल काही आठवड्यांत होऊ शकतो, जरी यातील त्रुटी दोन वर्षांहून अधिक काळापासून ज्ञात आहे.

“तंत्रज्ञान खरोखर वेगाने पुढे जात आहे, आणि कायदा कायम ठेवला पाहिजे,” स्टारमर म्हणाले. “आम्ही Grok वर केलेल्या कारवाईने स्पष्ट संदेश दिला की कोणत्याही प्लॅटफॉर्मला मोफत पास मिळत नाही. आज आम्ही लहान मुलांना धोका निर्माण करणाऱ्या त्रुटी बंद करत आहोत आणि पुढील कारवाईसाठी पाया घालत आहोत.”

ऑनलाइन सुरक्षा कायद्याचे उल्लंघन करणाऱ्या कंपन्यांना जागतिक महसूलाच्या 10% पर्यंत शिक्षेला सामोरे जावे लागू शकते आणि नियामक यूकेमधील त्यांचे कनेक्शन अवरोधित करण्यासाठी न्यायालयात अर्ज करू शकतात.

जर एआय चॅटबॉट्सचा वापर विशेषतः शोध इंजिन म्हणून, पोर्नोग्राफी तयार करण्यासाठी किंवा वापरकर्ता-ते-वापरकर्ता संदर्भांमध्ये ऑपरेट करण्यासाठी केला जात असेल, तर ते आधीपासूनच कायद्याद्वारे संरक्षित आहेत. परंतु ते सामग्री तयार करण्यासाठी वापरली जाऊ शकते जी लोकांना स्वत: ला इजा करण्यास किंवा स्वतःचा जीव घेण्यास प्रोत्साहित करते, किंवा बाल लैंगिक शोषण सामग्री तयार करण्यासाठी, मंजूरीचा सामना न करता. हीच पळवाटा सरकारला बंद करायची आहे.

NSPCC चे मुख्य कार्यकारी, ख्रिस शेरवुड म्हणाले की, तरुण लोक एआय चॅटबॉट्समुळे होणाऱ्या हानीच्या अहवालासाठी त्याच्या हेल्पलाइनशी संपर्क साधत आहेत आणि त्यांना सुरक्षितपणे डिझाइन करण्यासाठी तंत्रज्ञान कंपन्यांवर विश्वास नाही.

एका प्रकरणात, AI चॅटबॉटशी बोलणाऱ्या एका 14 वर्षीय मुलीला तिच्या खाण्याच्या सवयी आणि शरीरातील डिसमॉर्फियाबद्दल चुकीची माहिती देण्यात आली होती. इतरांमध्ये, त्यांनी “स्वतःला हानी पोहोचवणारे तरुण लोक त्यांना अधिक स्वत:ला हानी पोहोचवणारी सामग्री देऊनही” पाहिले आहेत.

“सोशल मीडियामुळे तरुणांसाठी खूप फायदे झाले आहेत, परंतु बरेच नुकसान झाले आहे,” शेरवुड म्हणाले. “आम्ही सावध न राहिल्यास स्टिरॉइड्सवर एआय असेच होणार आहे.”

OpenAI, ChatGPT च्या मागे $500bn सॅन फ्रान्सिस्को स्टार्टअप, UK च्या सर्वात लोकप्रिय चॅटबॉट्सपैकी एक, आणि xAI, जे Grok बनवते, टिप्पणीसाठी संपर्क साधण्यात आला.

कॅलिफोर्नियातील 16 वर्षीय ॲडम रेनने स्वत:चा जीव घेतल्यापासून, त्याच्या कुटुंबाचा आरोप आहे की, “ChatGPT कडून काही महिने प्रोत्साहन”, OpenAI ने पालक नियंत्रणे सुरू केली आहेत आणि संभाव्य हानिकारक सामग्रीचा प्रवेश प्रतिबंधित करण्यासाठी वय-अंदाज तंत्रज्ञान आणत आहे.

वापरकर्त्यांना मुलांच्या नग्न प्रतिमा पाठवणे आणि प्राप्त करणे अशक्य व्हावे यासाठी सोशल मीडिया प्लॅटफॉर्मवर सक्ती करण्याबाबतही सरकार सल्लामसलत करणार आहे – ही पद्धत आधीच बेकायदेशीर आहे.

टेक्नॉलॉजी सेक्रेटरी लिझ केंडल म्हणाले: “कुटुंबांना आवश्यक असलेली कृती करण्यासाठी आम्ही थांबणार नाही, म्हणून आम्ही एआय चॅटबॉट्सवरील नियम कडक करू आणि आम्ही पाया घालत आहोत जेणेकरुन आम्ही तरुण लोक आणि सोशल मीडियावरील सल्लामसलतीच्या परिणामांवर वेगाने कृती करू शकू.”

14 वर्षीय मॉली रसेलच्या वडिलांनी स्थापन केलेल्या मॉली रोझ फाउंडेशनने, ज्याने ऑनलाइन हानिकारक सामग्री पाहिल्यानंतर स्वत: ला मारले, त्यांनी या चरणांना “स्वागत कमी पेमेंट” म्हटले. परंतु त्यांनी पंतप्रधानांना नवीन ऑनलाइन सुरक्षा कायद्यासाठी वचनबद्ध होण्याचे आवाहन केले “जे नियमन मजबूत करते आणि स्पष्ट करते की उत्पादन सुरक्षितता आणि मुलांचे कल्याण हे यूकेमध्ये व्यवसाय करण्याची किंमत आहे”.