एआय-व्युत्पन्न केलेल्या व्हिडिओंमध्ये द्वेष, वंशविद्वेष ऑनलाइन पसरल्यामुळे चिंता वाढतात: ‘सुरक्षा नियम नाहीत’
प्रथम ते व्युत्पन्न केलेली एक विचित्र व्हिडिओ क्लिप असल्याचे दिसते कृत्रिम बुद्धिमत्ता लोकांना हसण्यासाठी.
त्यामध्ये, एक केसाळ बिगफूट एक काउबॉय टोपी परिधान केलेला आणि अमेरिकन ध्वजाने भरलेला एक बनियान पिकअप ट्रकच्या चाकाच्या मागे बसला आहे.
“आम्ही आज एलजीबीटी परेडवर जात आहोत,” असे अॅपेलिक प्राणी हसत हसत म्हणतो. “तुला हे आवडेल.”
नंतर बिगफूट किंचाळणा people ्या लोकांच्या गर्दीत चालत असताना गोष्टी हिंसक आणि त्रासदायक वळण घेतात, त्यातील काही इंद्रधनुष्य झेंडे आहेत.
अमेरिकनबीगफूट टिकटॉक पृष्ठावर जूनमध्ये पोस्ट केलेल्या क्लिपने, 000 360०,००० हून अधिक दृश्ये आणि शेकडो टिप्पण्या मिळविल्या आहेत, त्यातील बहुतेक व्हिडिओचे कौतुक करीत आहेत.
अलिकडच्या काही महिन्यांत अशाच एआय-व्युत्पन्न सामग्रीने सोशल मीडिया प्लॅटफॉर्मवर पूर आणला आहे, ज्यामुळे एलजीबीटीक्यू+, ज्यू, मुस्लिम आणि इतर अल्पसंख्याक गटांच्या सदस्यांविरूद्ध हिंसाचार आणि द्वेषाचा प्रसार झाला.
त्यापैकी बर्याच व्हिडिओंचे मूळ अस्पष्ट असले तरी, सोशल मीडियावर त्यांचा प्रसार तज्ञ आणि वकिलांमध्ये संतप्त आहे आणि असे म्हणतात की कॅनेडियन नियम द्वेषपूर्ण एआय-व्युत्पन्न सामग्रीची गती चालू ठेवू शकत नाहीत किंवा सार्वजनिक सुरक्षेसाठी उद्भवणार्या जोखमीकडे लक्ष देऊ शकत नाहीत.
एलजीबीटीक्यू+ अॅडव्होसी संस्था एगेल कॅनडा म्हणतात की सोशल मीडियावरील ट्रान्सफोबिक आणि होमोफोबिक चुकीच्या माहितीच्या सामग्रीच्या उदयामुळे समुदाय चिंता करीत आहे.
कार्यकारी संचालक हेलन केनेडी यांनी एका निवेदनात म्हटले आहे की, “या एआय साधनांना ट्रान्स आणि लिंग वैविध्यपूर्ण लोक आणि विद्यमान डिजिटल सुरक्षा कायदे या नवीन धमकीच्या प्रमाणात आणि वेग सोडविण्यात अपयशी ठरले आहेत,” असे कार्यकारी संचालक हेलन केनेडी यांनी एका निवेदनात म्हटले आहे.
वेगाने विकसित होत असलेल्या तंत्रज्ञानामुळे वाईट कलाकारांना चुकीची माहिती आणि द्वेष पसरविण्याचे एक शक्तिशाली साधन दिले गेले आहे, ट्रान्सजेंडर व्यक्तींना अप्रियपणे लक्ष्य केले गेले आहे, असे केनेडी म्हणाले.
“डीपफेक व्हिडिओपासून ते द्वेषाच्या अल्गोरिदम-चालित प्रवर्धनापर्यंत, हानी कृत्रिम नाहीत-ती वास्तविक आहेत.”
एलजीबीटीक्यू+ समुदाय हे एकमेव लक्ष्य नाही, असे कॅनेडियन अँटी-द्वेषपूर्ण नेटवर्कचे कार्यकारी संचालक इव्हान बालगॉर्ड यांनी सांगितले. ते म्हणाले, इस्लामोफोबिक, अँटिसेमेटिक आणि दक्षिण विरोधी आशियाई सामग्री देखील सोशल मीडियावर मोठ्या प्रमाणात फिरत आहे, असे ते म्हणाले.
“जेव्हा ते अशा गटांबद्दल हिंसाचाराचा बराच उत्सव असतो तेव्हा ते वातावरण तयार करतात तेव्हा त्या गटांबद्दल किंवा रस्त्यावर येणा those ्या त्या गटांबद्दल हिंसाचार होतो,” बालगॉर्डने एका फोन मुलाखतीत इशारा दिला.
कॅनडाचे डिजिटल सुरक्षा कायदे यापूर्वीच मागे पडले होते आणि एआय मधील प्रगतीमुळे गोष्टी आणखी गुंतागुंतीच्या बनल्या आहेत, असे ते म्हणाले.
ब्रेकिंग नॅशनल न्यूज मिळवा
कॅनडा आणि जगभरात परिणाम करणार्या बातम्यांसाठी, जेव्हा ते घडतात तेव्हा आपल्याला थेट वितरित केलेल्या बातम्यांचा इशारा तोडण्यासाठी साइन अप करा.
“सोशल मीडिया कंपन्यांचा विचार केला तर आमच्याकडे सुरक्षिततेचे कोणतेही नियम नाहीत, आमच्याकडे जे काही जबाबदार धरण्याचा कोणताही मार्ग नाही.”
हानिकारक ऑनलाइन सामग्रीवर लक्ष देण्याच्या आणि नियामक एआय फ्रेमवर्कची स्थापना करण्याच्या उद्देशाने जानेवारीत संसदेने प्रॉड्रोग्राइड केले तेव्हा मरण पावले, असे ऑन्टारियो टेक युनिव्हर्सिटीचे कायदेशीर अभ्यास प्राध्यापक अँड्रिया स्लेन यांनी सांगितले.
स्लेन म्हणाले की, सरकारने ऑनलाइन हानीच्या कायद्यांकडे आणखी एक नजर टाकण्याची गरज आहे आणि विधेयक “तातडीने” पुन्हा पुन्हा तयार करणे आवश्यक आहे.
ती म्हणाली, “मला वाटते की कॅनडा अशा परिस्थितीत आहे जिथे त्यांना खरोखरच हलविणे आवश्यक आहे,” ती म्हणाली.
न्यायमंत्री सीन फ्रेझर यांनी जूनमध्ये कॅनेडियन प्रेसला सांगितले की, फेडरल सरकार ऑनलाइन हानी कायद्याकडे “नवीन” नजर टाकेल परंतु पुन्हा लिहायचे की नाही हे पुन्हा ठरवायचे की नाही याचा निर्णय घेतला नाही. इतर गोष्टींबरोबरच, हानिकारक सामग्रीच्या प्रदर्शनास कमी करण्यासाठी सोशल मीडिया प्लॅटफॉर्मला जबाबदार धरण्याच्या या विधेयकाचे उद्दीष्ट आहे.
नव्याने क्रेटेड कृत्रिम बुद्धिमत्ता आणि डिजिटल इनोव्हेशन मंत्रालयाच्या प्रवक्त्याने सांगितले की सरकार एआय-व्युत्पन्न द्वेषपूर्ण सामग्रीचा मुद्दा गांभीर्याने घेत आहे, विशेषत: जेव्हा ते असुरक्षित अल्पसंख्याक गटांना लक्ष्य करते.
सोफिया ओस्लिस म्हणाले की विद्यमान कायदे “महत्त्वपूर्ण संरक्षण” देतात, परंतु कबूल केले की त्यांनी तयार केले गेले तेव्हा जनरेटिव्ह एआयच्या धमकीचे निराकरण करण्याचे त्यांचे लक्ष्य नाही.
“एआय साधने कशी वापरली जातात आणि त्याचा गैरवापर केला जात आहे हे समजून घेण्याची खरी गरज आहे – आणि आम्ही रेलिंगला कसे बळकट करू शकतो,” ती एका निवेदनात म्हणाली. “ते काम चालू आहे.”
या कामात विद्यमान फ्रेमवर्कचे पुनरावलोकन करणे, न्यायालयीन निर्णयांचे निरीक्षण करणे आणि कायदेशीर आणि तंत्रज्ञानाच्या दोन्ही तज्ञांचे बारकाईने ऐकणे समाविष्ट आहे, असे ओसलिस म्हणाले. पंतप्रधान मार्क कार्ने यांच्या सरकारने असहमत लैंगिक डीपफेक्सचे वितरण गुन्हेगारी गुन्हा दाखल करण्यासही वचन दिले आहे.
“या वेगवान-गतिमान जागेत, आम्हाला विश्वास आहे की खूप लवकर हालचाल करण्यापेक्षा आणि ते चुकीचे होण्यापेक्षा नियमन मिळवणे चांगले आहे,” ती म्हणाली की ओटावा युरोपियन युनियन आणि युनायटेड किंगडमकडून शिकण्याचा विचार करीत आहे.
स्लेन म्हणाले की, एआयचे नियमन आणि डिजिटल सुरक्षा सुनिश्चित करण्यात युरोपियन युनियन इतरांपेक्षा पुढे आहे, परंतु “अग्रभागी” असूनही, तेथे आणखी एक भावना आहे की आणखी काही करणे आवश्यक आहे.
तज्ञांचे म्हणणे आहे की सोशल मीडिया दिग्गजांद्वारे वितरित केलेल्या सामग्रीचे नियमन करणे विशेषतः अवघड आहे कारण त्या कंपन्या कॅनेडियन नाहीत.
आणखी एक गुंतागुंत करणारा घटक म्हणजे सीमेच्या दक्षिणेस सध्याचे राजकीय हवामान, जेथे अमेरिकन टेक कंपन्या कमी नियम आणि निर्बंध पाहत आहेत, ज्यामुळे ते “अधिक शक्तिशाली आणि कमी जबाबदार आहेत,” स्लेन म्हणाले.
जरी जनरेटिव्ह एआय काही वर्षांपासून जवळपास आहे, परंतु अलिकडच्या काही महिन्यांत एक “ब्रेकथ्रू” आहे, जे मुख्यतः विनामूल्य किंवा अगदी कमी किंमतीत उपलब्ध असलेल्या साधनांचा वापर करून चांगल्या प्रतीचे व्हिडिओ तयार करणे सुलभ करते, असे विश्वासार्ह कृत्रिम बुद्धिमत्तेचे कॅनडा रिसर्च चेअर पीटर लुईस यांनी सांगितले.
ते म्हणाले, “मला असे म्हणायचे आहे की हे जवळजवळ तांत्रिक ज्ञान आणि आत्ताच योग्य साधनांमध्ये प्रवेश असलेल्या जवळजवळ कोणालाही खरोखर प्रवेशयोग्य आहे.”
ओंटारियो टेक युनिव्हर्सिटीचे सहाय्यक प्राध्यापक असलेले लुईस म्हणाले की, चॅटजीपीटीसारख्या मोठ्या भाषेच्या मॉडेल्सने हानिकारक किंवा बेकायदेशीर सामग्री फिल्टर करण्याच्या प्रयत्नात सेफगार्ड्सची अंमलबजावणी केली आहे.
परंतु असे रेलिंग तयार करण्यासाठी व्हिडिओ स्पेसमध्ये अधिक करणे आवश्यक आहे, असे ते म्हणाले.
ते म्हणाले, “तुम्ही आणि मी व्हिडिओ पाहू आणि कदाचित घाबरून जाऊ शकलो,” ते पुढे म्हणाले, “एआय सिस्टममध्ये जे तयार केले आहे त्यावर प्रतिबिंबित करण्याची क्षमता आहे हे स्पष्ट नाही.”
लुईस म्हणाले की, तो कायदेशीर तज्ञ नसला तरी अमेरिकन बिगफूट व्हिडिओंमध्ये द्वेष आणि हिंसाचाराच्या ऑनलाइन गौरवाचा सामना करण्यासाठी विद्यमान कायद्यांचा उपयोग केला जाऊ शकतो असा त्यांचा विश्वास आहे.
परंतु त्यांनी जनरेटिव्ह एआयचा वेगवान विकास आणि नवीन साधनांची व्यापक उपलब्धता “नवीन तांत्रिक समाधानाची मागणी केली आहे” आणि समस्या सोडविण्यासाठी सरकार, ग्राहक, वकिल, सामाजिक प्लॅटफॉर्म आणि एआय अॅप विकसक यांच्यात सहकार्य जोडले.
ते म्हणाले, “जर या गोष्टी अपलोड केल्या जात असतील तर… आम्हाला या गोष्टी शक्य तितक्या लवकर इंटरनेटवरून काढण्यात सक्षम होण्यासाठी खरोखरच मजबूत प्रतिसाद देणारी यंत्रणा आवश्यक आहे.”
लुईस म्हणाले की अशा व्हिडिओ शोधण्यासाठी आणि ध्वजांकित करण्यासाठी एआय टूल्स वापरणे मदत करते, परंतु ते समस्येचे निराकरण करणार नाही.
“या एआय सिस्टम ज्या पद्धतीने कार्य करतात त्या स्वरूपामुळे ते संभाव्यतावादी आहेत, म्हणून ते सर्व काही पकडत नाहीत.”
