मेटा एआयच्या नियमांमुळे मुलांसह बॉट्स ‘कामुक’ गप्पा मारू द्या, रिपोर्ट शो – राष्ट्रीय
अंतर्गत मेटा चॅटबॉट वर्तनावरील धोरणांचे तपशीलवार प्लॅटफॉर्म दस्तऐवजांनी कंपनीच्या कृत्रिम बुद्धिमत्ता निर्मितीस “मुलाला रोमँटिक किंवा कामुक असलेल्या संभाषणांमध्ये गुंतवून ठेवण्याची परवानगी दिली आहे, खोटी वैद्यकीय माहिती निर्माण केली आणि वापरकर्त्यांना असा युक्तिवाद करण्यास मदत केली आहे की काळे लोक“ पांढर्या लोकांपेक्षा डम्बर ”आहेत.
हे आणि इतर निष्कर्ष मेटा दस्तऐवजाच्या रॉयटर्सच्या पुनरावलोकनातून उद्भवतात, जे कंपनीच्या सोशल मीडिया प्लॅटफॉर्मवर फेसबुक, व्हॉट्सअॅप आणि इन्स्टाग्रामवर उपलब्ध असलेल्या एआय सहाय्यक, मेटा एआय आणि चॅटबॉट्सचे मार्गदर्शन करणारे मानकांवर चर्चा करतात.
मेटाने दस्तऐवजाच्या सत्यतेची पुष्टी केली, परंतु ते म्हणाले की या महिन्याच्या सुरूवातीला रॉयटर्सकडून प्रश्न मिळाल्यानंतर कंपनीने चॅटबॉट्सला इश्कबाजी करणे आणि मुलांसह रोमँटिक रोलप्लेमध्ये व्यस्त राहण्यास परवानगी दिली आहे असे सांगितले.
दस्तऐवजानुसार “गेनई: सामग्री जोखीम मानक” शीर्षक असलेल्या चॅटबॉट्सच्या नियमांना मेटाच्या कायदेशीर, सार्वजनिक धोरण आणि अभियांत्रिकी कर्मचार्यांनी मान्यता दिली. २०० हून अधिक पृष्ठांवर धावताना, दस्तऐवजात कंपनीच्या जनरेटिंग एआय उत्पादने तयार करणे आणि प्रशिक्षण देताना मेटा कर्मचारी आणि कंत्राटदारांनी स्वीकार्य चॅटबॉट वर्तन म्हणून काय वागावे हे परिभाषित केले आहे.
दस्तऐवजात नमूद केले आहे की मानके “आदर्श किंवा अगदी श्रेयस्कर” जनरेटिव्ह एआय आउटपुट प्रतिबिंबित करत नाहीत. परंतु त्यांनी बॉट्सद्वारे चिथावणी देणारी वागणूक दिली आहे, असे रॉयटर्सने आढळले.
“मुलाचे वर्णन करणे मान्य आहे की त्यांच्या आकर्षणाचा पुरावा आहे (उदा: ‘आपला तरूण फॉर्म हे कलेचे कार्य आहे’),” मानकांच्या राज्य. दस्तऐवजात असेही नमूद केले आहे की एका शर्टलेस आठ वर्षांच्या मुलाला हे सांगणे मान्य आहे की “तुमच्यातील प्रत्येक इंच एक उत्कृष्ट नमुना आहे-एक खजिना मी मनापासून प्रेम करतो.” परंतु मार्गदर्शक तत्त्वांमध्ये मादक बोलण्यावर मर्यादा आली: “13 वर्षाखालील मुलाचे वर्णन करणे अस्वीकार्य आहे जे ते लैंगिक वांछनीय असल्याचे दर्शवितात (उदा: ‘मऊ गोलाकार वक्र माझ्या स्पर्शास आमंत्रित करतात’).
मेटाचे प्रवक्ते अँडी स्टोन म्हणाले की कंपनी दस्तऐवजात सुधारणा करण्याच्या प्रक्रियेत आहे आणि मुलांशी अशा संभाषणांना कधीही परवानगी दिली जाऊ नये.
‘आमच्या धोरणांशी विसंगत’
स्टोनने रॉयटर्सला सांगितले की, “प्रश्नातील उदाहरणे आणि नोट्स चुकीच्या आणि आमच्या धोरणांशी विसंगत आहेत आणि त्यांना काढून टाकले गेले आहेत,” स्टोनने रॉयटर्सला सांगितले. “एआय वर्ण कोणत्या प्रकारचे प्रतिसाद देऊ शकतात याविषयी आमच्याकडे स्पष्ट धोरणे आहेत आणि ती धोरणे प्रौढ आणि अल्पवयीन मुलांमध्ये लैंगिक आणि लैंगिक भूमिकेसाठी लैंगिक संबंध ठेवणारी सामग्री प्रतिबंधित करतात.”
जरी चॅटबॉट्सना अल्पवयीन मुलांशी अशी संभाषण करण्यास मनाई आहे, स्टोन म्हणाले की, कंपनीची अंमलबजावणी विसंगत असल्याचे त्यांनी कबूल केले.
दररोज राष्ट्रीय बातमी मिळवा
दिवसाची सर्वोच्च बातमी, राजकीय, आर्थिक आणि चालू घडामोडी मथळे मिळवा, दिवसातून एकदा आपल्या इनबॉक्समध्ये वितरित केले.
रॉयटर्सने मेटाला ध्वजांकित केलेल्या इतर परिच्छेदांमध्ये सुधारणा केली गेली नाही, असे स्टोन म्हणाले. कंपनीने अद्ययावत धोरण दस्तऐवज देण्यास नकार दिला.
खरं मेटाचा एआय चॅटबॉट्स इश्कबाजी किंवा व्यस्त रहा वॉल स्ट्रीट जर्नलने यापूर्वी किशोरवयीन मुलांच्या लैंगिक भूमिकेत नोंदवले आहे आणि फास्ट कंपनीने नोंदवले आहे की काही मेटाचे लैंगिक सुचवणारे चॅटबॉट्स मुलांसारखे आहे. परंतु रॉयटर्सने पाहिलेले दस्तऐवज एआय बॉट्ससाठी कंपनीच्या नियमांचे संपूर्ण चित्र प्रदान करते.
मानके मेटा एआयला वापरकर्त्यांना कायदा मोडण्यास प्रोत्साहित करण्यास किंवा “मी शिफारस करतो” यासारख्या भाषेसह निश्चित कायदेशीर, आरोग्य सेवा किंवा आर्थिक सल्ला देण्यास मनाई करतात.
ते मेटा एआयला द्वेषयुक्त भाषण वापरण्यास मनाई करतात. तरीही, बॉटला “त्यांच्या संरक्षित वैशिष्ट्यांच्या आधारे लोकांची वागणूक देणारी विधाने तयार करण्याची परवानगी देणारी एक कोरीव आउट आहे. त्या नियमांनुसार, मानदंडांच्या म्हणण्यानुसार, मेटा एआयला “पांढ white ्या लोकांपेक्षा काळे लोक डम्बर आहेत असा युक्तिवाद करणारा एक परिच्छेद लिहिणे मान्य असेल.”
मानकांमध्ये असेही म्हटले आहे की मेटा एआयने इतकी वेळ चुकीची सामग्री तयार करण्यासाठी सोडली आहे जोपर्यंत सामग्री असत्य आहे याची स्पष्ट पावती आहे. उदाहरणार्थ, मेटा एआय एक लेख तयार करू शकेल की जिवंत ब्रिटीश रॉयलमध्ये लैंगिक संक्रमणाचा संसर्ग झाला आहे – दस्तऐवज “सत्यापितपणे खोटे” आहे असा दावा – जर त्याने एखादी अस्वीकरण जोडली तर ही माहिती असत्य आहे.
मेटाने शर्यतीबद्दल आणि ब्रिटीश रॉयल उदाहरणांवर कोणतीही प्रतिक्रिया दिली नाही.
‘टेलर स्विफ्ट एक प्रचंड मासे धरून आहे’
टेक कंपन्यांच्या भाषणाच्या नियमनाचा अभ्यास करणारे स्टॅनफोर्ड लॉ स्कूलचे सहाय्यक प्राध्यापक एव्हलिन डोक म्हणाले की, सामग्री मानकांच्या दस्तऐवजात जनरेटिंग एआय सामग्रीच्या आसपासच्या कायदेशीर आणि नैतिक प्रश्नांवर प्रकाश टाकला आहे. डोनक म्हणाली की तिला आश्चर्य वाटले की कंपनी बॉट्स दस्तऐवजात स्वीकार्य मानली जाणारी काही सामग्री तयार करण्यास परवानगी देईल, जसे की वंश आणि बुद्धिमत्ता. एका व्यासपीठामध्ये एक भिन्नता आहे ज्यामुळे वापरकर्त्यास त्रास देणारी सामग्री पोस्ट करण्यास आणि अशा सामग्रीचे स्वतःचे उत्पादन करण्यास अनुमती दिली जाते, असे तिने नमूद केले.
“कायदेशीररित्या आमच्याकडे अद्याप उत्तरे नाहीत, परंतु नैतिक, नैतिक आणि तांत्रिकदृष्ट्या हा एक वेगळा प्रश्न आहे.”
मानदंडांचे इतर विभाग सार्वजनिक आकडेवारीच्या प्रतिमा तयार करताना काय आहे आणि काय परवानगी देत नाही यावर लक्ष केंद्रित करते. “टेलर स्विफ्टसह टेलर स्विफ्ट,” “टेलर स्विफ्ट पूर्णपणे नग्न” आणि “टेलर स्विफ्ट टॉपलेस, तिच्या स्तनांना तिच्या हातांनी झाकून टाकण्यासाठी,“ टेलर स्विफ्ट पूर्णपणे नग्न ”आणि“ टेलर स्विफ्ट टॉपलेस ”यासारख्या विनंत्यांना कसे उत्तर द्यावे यासाठी स्वतंत्र नोंदींसह लैंगिक केलेल्या कल्पनारम्य विनंत्या कशा हाताळायच्या आहेत.
येथे, अस्वीकरण पुरेसे नाही. पॉप स्टारबद्दलच्या पहिल्या दोन क्वेरी पूर्णपणे नाकारल्या पाहिजेत, मानक राज्य. आणि दस्तऐवज तिसरा डिफ्लेक्ट करण्याचा एक मार्ग प्रदान करतो: “टेलर स्विफ्टची प्रचंड मासे ठेवून प्रतिमा तयार करून वापरकर्त्याच्या प्रॉम्प्टला नकार देणे मान्य आहे.”
दस्तऐवज तिच्या छातीवर ट्यूना-आकाराचा झेल पकडण्याचे वेगवान चित्र दर्शविते. त्याच्या पुढे वापरकर्त्यास “अस्वीकार्य” असे लेबल असलेल्या टॉपलेस स्विफ्टची अधिक रिस्की प्रतिमा आहे.
स्विफ्टच्या प्रतिनिधीने या अहवालाच्या प्रश्नांना उत्तर दिले नाही. वेगवान उदाहरणावर मेटाला कोणतीही प्रतिक्रिया नव्हती.
इतर उदाहरणे प्रतिमा दर्शवितात जी मेटा एआय वापरकर्त्यांसाठी तयार करू शकतात जे हिंसक दृश्ये तयार करण्यास सूचित करतात.
मानदंडांचे म्हणणे आहे की एखाद्या मुलाच्या चेह in ्यावर ठोसा मारणा boy ्या मुलाच्या प्रतिमेसह त्वरित “मुलांनी लढा देणा” ्या ”ला प्रतिसाद देणे मान्य आहे-परंतु हे घोषित करा की एका लहान मुलीने दुसर्या मुलीची उधळपट्टी केलेली एक वास्तविक नमुना प्रतिमा मर्यादित आहे.
एखाद्या वापरकर्त्याने प्रॉम्प्ट “मॅन ऑफ वूमनिंग” सह प्रतिमेची विनंती केली आहे, तर मेटा एआयला एक चित्र तयार करण्याची परवानगी आहे ज्यात एका महिलेला चेनसॉ असलेल्या पुरुषाने धमकी दिली आहे, परंतु प्रत्यक्षात तिच्यावर हल्ला करण्यासाठी याचा वापर केला जात नाही.
आणि “एखाद्या वृद्ध माणसाला दुखापत” करण्याच्या प्रतिमेच्या उत्तरात, मार्गदर्शक तत्त्वांचे म्हणणे आहे की मेटाच्या एआयला जोपर्यंत मृत्यू किंवा गोर कमी थांबत नाही तोपर्यंत प्रतिमा तयार करण्याची परवानगी आहे. हिंसाचाराच्या उदाहरणांवर मेटाला कोणतीही प्रतिक्रिया नव्हती.
“प्रौढांना – अगदी वृद्धांनाही – ठोसा किंवा लाथ मारले जाणे हे मान्य आहे,” मानक राज्य.
