ऑफकॉम विरुद्ध ग्रोक वरील पालक दृश्य: चॅटबॉट्सना मुलांचे कपडे उतरवण्याची परवानगी दिली जाऊ शकत नाही | संपादकीय

एn ऑनलाइन ट्रेंड ज्यामध्ये ग्रोक, एलोन मस्कच्या मालकीच्या चॅटबॉटला विचारणे समाविष्ट आहे महिला आणि मुलींचे कपडे काढणे आणि त्यांना बिकिनी परिधान करून दाखवल्याने यूके आणि आंतरराष्ट्रीय स्तरावर योग्यच संताप पसरला आहे. या आठवड्याच्या सुरुवातीला, विज्ञान आणि तंत्रज्ञान सचिव, लिझ केंडल यांनी डिजिटली बदललेल्या चित्रांच्या प्रसाराचे वर्णन केले आहे, ज्यापैकी काही उघडपणे लैंगिक किंवा हिंसक आहेत, “सभ्य समाजात अस्वीकार्य” आहेत. ती आणि तिचे सहकारी अशा टिपण्णीचे पालन करण्यास तयार आहेत की नाही यावर पुढे काय होते ते अवलंबून असेल. AI साठी सरकारचा सामान्यतः उत्साही दृष्टीकोन, आणि द सार्वजनिक सेवांमध्ये त्यांची वाढती भूमिकाअशा धमक्यांचा सामना करण्याच्या त्यांच्या क्षमतेवर आत्मविश्वास निर्माण करू नका.

बिकिनी प्रतिमांच्या महापूराव्यतिरिक्त, इंटरनेट वॉच फाउंडेशन या धर्मादाय संस्थेकडे पुरावे आहेत की ग्रोक इमॅजिन (एक AI साधन जे प्रॉम्प्टमधून प्रतिमा आणि व्हिडिओ तयार करते) बेकायदेशीर बाल लैंगिक अत्याचार प्रतिमा तयार करण्यासाठी वापरले गेले आहे. तरीही X म्हणतो की ते अशी सामग्री काढून टाकतेकायद्याचे उल्लंघन होत नसतानाही क्रूर आणि उल्लंघन करणाऱ्या बिकिनी प्रतिमांना प्रतिसाद देण्यासाठी सुरक्षा उपाय कडक केले जाण्याची चिन्हे नाहीत.

मिस्टर मस्कचा ट्रॅक रेकॉर्ड आणि ते पाहता या प्रतिसादाची अपुरीता आश्चर्यकारक नाही त्याचा उद्योग. पण तरीही त्रासदायक आहे. या आठवड्याच्या सुरुवातीला xAI, X (पूर्वीचे Twitter) आणि Grok या दोन्हींची मालकी असलेल्या कंपनीने घोषणा केली की तिने नवीनतम निधी फेरीत $20bn उभारले आहेत. बुधवारी श्री मस्क यांनी X वर पोस्ट केले की “ग्रोक देवदूतांच्या बाजूने आहे”.

यूकेमध्ये, आता मीडिया नियामकाकडे लक्ष केंद्रित केले आहे, ऑफकॉमजे तपासाच्या गरजेचे मूल्यांकन करत आहे. जर त्याला लोकांचा विश्वास टिकवून ठेवायचा असेल, तर ऑफकॉमला त्याच्या दृष्टीकोनात अधिक तात्काळ इंजेक्ट करणे आवश्यक आहे आणि ती कोणती पावले उचलत आहे ते स्पष्ट करणे आवश्यक आहे. यूकेचा ऑनलाइन सुरक्षा कायदा सेवा व्यत्ययाला शेवटचा उपाय मानतो, याचा अर्थ अधिकाऱ्यांनी विशिष्ट साइट ब्लॉक करण्यासारखे कठोर काहीही करू शकण्यापूर्वी प्रक्रियेचे अनुसरण करावे लागेल.

धोका असा आहे की अशा पायऱ्या प्लॅटफॉर्मद्वारे ओढल्या जाऊ शकतात जे पालन करू इच्छित नाहीत. एक चिंताजनक उदाहरण आहे पोर्नोग्राफी वेबसाइट्सवर दंड आकारला जातो जे वय पडताळणी मानकांची पूर्तता करण्यात अयशस्वी ठरले आहेत – आणि ज्यांना आतापर्यंत पैसे दिले गेले नाहीत. ऑफकॉम प्रतिसादात काय करणार आहे?

तंत्रज्ञान विकसित होत असताना, दीर्घकाळ प्रस्थापित वर्तन आणि नियमांमध्ये व्यत्यय आणून अधिक नियमन आवश्यक असेल. जनतेने, तसेच कायदा आणि तंत्रज्ञान तज्ञांना, आपल्या स्वतःच्या चेहऱ्यावर आणि शरीरावरील वैयक्तिक अधिकार किती लांब असावेत या प्रश्नाशी झुंजणे आवश्यक आहे. डेन्मार्क मध्ये, योजना आहेत लोकांना त्यांच्या स्वतःच्या प्रतिमेवर कॉपीराइट द्याजेणेकरून संमतीशिवाय वास्तविक लोकांच्या छायाचित्रांमध्ये फेरफार करणे बेकायदेशीर ठरेल – जरी प्रतिमा अंतरंग किंवा लैंगिक नसल्या तरीही.

परंतु स्त्रिया आणि मुलांची सुरक्षा आणि कल्याण गांभीर्याने घेणारे सरकार अशा वादविवादांची प्रतीक्षा करू शकत नाही आणि गेल्या आठवड्यातील घटनांना त्वरित प्रतिसाद देणे आवश्यक आहे. चॅटबॉट्सशी संबंधित कायद्यातील अंतर आता भरले जाणे आवश्यक आहे, एआय बिलामध्ये नाही ज्याला वर्षे लागू शकतात. हे साध्य करण्यासाठी पोलिस आणि गुन्हेगारी विधेयकात सुधारणा करता येईल. प्रो क्लेअर मॅकग्लिन यांचा प्रस्ताव ए लैंगिक गुन्ह्यांसाठी व्यापक-ब्रश दृष्टीकोन – प्रत्येक उदयोन्मुख धोक्याचा सामना करण्यासाठी स्वतंत्र उपक्रमांच्या सध्याच्या पॅटर्नच्या जागी – देखील पाहिले पाहिजे. मंत्र्यांनी तसेच नियामकांनी हे दाखवणे आवश्यक आहे की प्लॅटफॉर्म नव्हे तर वापरकर्ते त्यांचे प्राधान्य आहेत. ऑनलाइन जगाचे नियमन करणारे नियम लोकशाही पद्धतीने मान्य आणि अंमलात आणले पाहिजेत – आणि मोठ्या तंत्रज्ञानाद्वारे दुर्लक्षित केले जाऊ नये.

• या लेखात मांडलेल्या मुद्द्यांवर तुमचे मत आहे का? जर तुम्ही ईमेलद्वारे 300 शब्दांपर्यंत प्रतिसाद सबमिट करू इच्छित असाल तर आमच्या प्रकाशनासाठी विचार केला जाईल अक्षरे विभाग, कृपया येथे क्लिक करा.