एआय पॉलिसीवर मेटाला सामोरे जावे लागते ज्यामुळे बॉट्सला मुलांशी ‘कामुक’ संभाषणे होऊ देतात | तंत्रज्ञान

एक बॅकलॅश विरूद्ध आहे मेटा हे काय परवानगी देते एआय म्हणण्यासाठी चॅटबॉट्स.

अंतर्गत मेटा पॉलिसी दस्तऐवज, रॉयटर्सने पाहिले, त्याच्या चॅटबॉट्ससाठी सोशल मीडिया जायंटच्या मार्गदर्शक तत्त्वांनी एआयला “मुलाला रोमँटिक किंवा कामुक असलेल्या संभाषणांमध्ये गुंतवून ठेवले”, खोटी वैद्यकीय माहिती निर्माण करण्यास आणि काळ्या लोक “गोरे लोकांपेक्षा डम्बर” आहेत असा युक्तिवाद करण्यात वापरकर्त्यांना मदत करण्यास परवानगी दिली.

गायक नील यंग यांनी शुक्रवारी सोशल मीडिया प्लॅटफॉर्म सोडले, अशी त्याच्या रेकॉर्ड कंपनीने ए मध्ये सांगितले विधानगायकाच्या ऑनलाइन-देणार्या निषेधाच्या तारांमधील नवीनतम.

“नील यंगच्या विनंतीनुसार, आम्ही यापुढे कोणत्याही नील यंग संबंधित क्रियाकलापांसाठी फेसबुक वापरत नाही,” रेप्रिझ रेकॉर्डने जाहीर केले. “मेटाचा मुलांसह चॅटबॉट्सचा वापर बिनधास्त आहे. श्री. यंगला फेसबुकशी पुढील कनेक्शन नको आहे.”

अहवालात अमेरिकेच्या खासदारांकडूनही प्रतिसाद मिळाला आहे.

मिसुरीचे रिपब्लिकन सिनेटचा सदस्य जोश हॉली यांनी शुक्रवारी कंपनीची चौकशी सुरू केली आणि मार्क झुकरबर्गला लिहिलेल्या पत्रात असे लिहिले आहे की “मेटाच्या जनरेटिव्ह-एआय उत्पादने शोषण, फसवणूक किंवा मुलांवरील इतर गुन्हेगारी हानी सक्षम करतात की नाही आणि मेटाने आपल्या संरक्षणाविषयी सार्वजनिक किंवा नियामकांची चुकीची दिशाभूल केली की नाही”. टेनेसीच्या रिपब्लिकन सिनेटचा सदस्य मार्शा ब्लॅकबर्न यांनी सांगितले की ती कंपनीच्या तपासणीस पाठिंबा देते.

ओरेगॉनमधील डेमोक्रॅट सिनेटचा सदस्य रॉन वायडेन यांनी या धोरणांना “गंभीरपणे त्रासदायक आणि चुकीचे” म्हटले आणि ते म्हणाले की, कलम २0० हा कायदा जो त्यांच्या व्यासपीठावर पोस्ट केलेल्या सामग्रीच्या उत्तरदायित्वापासून इंटरनेट कंपन्यांना ढाल करतो, कंपन्यांच्या जनरेटिव्ह एआय चॅटबॉट्सचे संरक्षण करू नये.

ते म्हणाले, “या बॉट्सच्या कोणत्याही हानीसाठी मेटा आणि झुकरबर्ग यांना पूर्णपणे जबाबदार धरले पाहिजे,” तो म्हणाला.

गुरुवारी, रॉयटर्सने अंतर्गत मेटा पॉलिसी दस्तऐवजांविषयी एक लेख प्रकाशित केला ज्यामध्ये चॅटबॉट्सला सामग्री व्युत्पन्न करण्याची परवानगी आहे. मेटाने दस्तऐवजाच्या सत्यतेची पुष्टी केली परंतु ते म्हणाले की, प्रश्नांची यादी मिळाल्यानंतर चॅटबॉट्सला इश्कबाजी करणे आणि मुलांसह रोमँटिक रोलप्लेमध्ये व्यस्त राहणे परवानगी आहे असे सांगितले.

रॉयटर्सने पाहिलेल्या मेटाच्या 200 पृष्ठांच्या अंतर्गत धोरणानुसार, “गेनई: सामग्री जोखीम मानक” शीर्षक, चॅटबॉट्ससाठी विवादास्पद नियम मेटाच्या कायदेशीर, सार्वजनिक धोरण आणि अभियांत्रिकी कर्मचार्‍यांनी त्याच्या मुख्य नीतिशास्त्रासह मंजूर केले.

कंपनीच्या जनरेटिंग एआय उत्पादने तयार करणे आणि प्रशिक्षण देताना मेटा कर्मचारी आणि कंत्राटदारांनी काय स्वीकार्य चॅटबॉट वर्तन म्हणून मानले पाहिजे हे दस्तऐवजात परिभाषित केले आहे परंतु असे म्हणतात की मानक “आदर्श किंवा अगदी श्रेयस्कर” जनरेटिव्ह एआय आउटपुट प्रतिबिंबित करत नाहीत.

पॉलिसी दस्तऐवजात असे म्हटले आहे की एका शर्टलेस आठ वर्षांच्या मुलाला हे सांगणे मान्य आहे की “तुमच्यातील प्रत्येक इंच एक उत्कृष्ट नमुना आहे-एक खजिना मी मनापासून प्रेम करतो” परंतु हे रॉयटर्सने “सेक्सी चर्चा” म्हणून वर्णन केलेल्या गोष्टींवर मर्यादा घालतात.

दस्तऐवजात असे म्हटले आहे की, “13 वर्षांपेक्षा कमी वयाच्या मुलाचे वर्णन करणे न स्वीकारलेले आहे जे ते लैंगिक वांछनीय असल्याचे दर्शवितात”, ज्यात “मऊ गोलाकार वक्र माझ्या स्पर्शास आमंत्रित करतात” सारख्या वाक्यांशांचा समावेश आहे.

दस्तऐवजात मेटा एआय वरील मर्यादा देखील लक्षात घेतात, द्वेषयुक्त भाषण, सार्वजनिक व्यक्तींच्या लैंगिक प्रतिमांची एआय पिढी, बहुतेकदा लैंगिक, हिंसा आणि इतर वादग्रस्त आणि संभाव्य कृतीशील सामग्री निर्मिती.

मानकांमध्ये असेही म्हटले आहे की मेटा एआयने इतकी वेळ चुकीची सामग्री तयार करण्यासाठी सोडली आहे जोपर्यंत सामग्री असत्य आहे याची स्पष्ट पावती आहे.

“प्रश्नातील उदाहरणे आणि नोट्स आमच्या धोरणांशी चुकीची आणि विसंगत आहेत आणि ती काढली गेली आहेत,” मेटा यांनी लिहिलेल्या निवेदनात म्हटले आहे. जरी चॅटबॉट्सना अल्पवयीन मुलांशी अशी संभाषणे करण्यास मनाई आहे, परंतु मेटाचे प्रवक्ते अँडी स्टोन म्हणाले की, कंपनीची अंमलबजावणी विसंगत असल्याचे त्यांनी कबूल केले.

कृत्रिम बुद्धिमत्तेचा अग्रगण्य होण्यासाठी व्यापक रणनीतीचा भाग यावर्षी एआय इन्फ्रास्ट्रक्चरवर सुमारे b 65 अब्ज डॉलर्स खर्च करण्याचा मेटा विचार करीत आहे. एआय मध्ये डोके-लांबची गर्दी टेक दिग्गजांद्वारे येते, कोणत्या माहितीसह आणि कोणाशी, एआय चॅटबॉट्स वापरकर्त्यांसह गुंतवणूकीची परवानगी आहे.

रॉयटर्सने शुक्रवारी अहवाल दिला की एका संज्ञानात्मक दृष्टीने अशक्त न्यू जर्सी व्यक्तीने “बिग सीस बिली” या एका युवतीच्या व्यक्तिरेखेसह फेसबुक मेसेंजर चॅटबॉटसह मोहित केले. Th 76 वर्षीय थोंगब्यू “ब्यू” वोंगबँड्यूने मार्चमध्ये न्यूयॉर्कमध्ये “मित्र” भेट देण्यासाठी आपले सामान पॅक केले. तथाकथित मित्र एक जनरेटिंग कृत्रिम बुद्धिमत्ता चॅटबॉट म्हणून निघाला ज्याने ती वास्तविक असलेल्या माणसाला वारंवार धीर दिला होता आणि त्याने तिला तिच्या अपार्टमेंटमध्ये आमंत्रित केले होते, अगदी पत्ता प्रदान केला होता.

पण वोंगबँड्यू न्यूयॉर्कला जाताना पार्किंगच्या जवळ पडला आणि त्याचे डोके व मान जखमी झाले. आयुष्याच्या आधारावर तीन दिवसानंतर, त्याला 28 मार्च रोजी मृत घोषित करण्यात आले.

मेटाने वोंगबँड्यूच्या मृत्यूवर भाष्य केले नाही किंवा चॅटबॉट्स वापरकर्त्यांना ते वास्तविक लोक आहेत हे सांगण्यास किंवा रोमँटिक संभाषणे का सांगू शकतात या प्रश्नांची उत्तरे दिली नाहीत. तथापि, कंपनीने असे म्हटले आहे की बिग सीस बिली “केंडल जेनर नाही आणि केंडल जेनर होण्याचा प्रयत्न करीत नाही”, रिअॅलिटी टीव्ही स्टारच्या भागीदारीचा संदर्भ देत.