कर्मचाऱ्यांच्या चिंता, खटल्याचा आरोप असूनही मेटाने अल्पवयीन मुलांना लैंगिक-बोलणाऱ्या चॅटबॉट्समध्ये प्रवेश करण्याची परवानगी दिली | मेटा

मार्क झुकेरबर्गMeta चे मुख्य कार्यकारी, अल्पवयीनांना प्रवेश करण्यास परवानगी दिली कृत्रिम बुद्धिमत्ता अंतर्गत मेटा दस्तऐवजानुसार, सुरक्षा कर्मचाऱ्यांनी चेतावणी दिलेले चॅटबॉट साथीदार लैंगिक संबंध ठेवण्यास सक्षम होते. न्यू मेक्सिको राज्य न्यायालयात खटला आणि सोमवारी सार्वजनिक.

खटला – राज्याचे ऍटर्नी जनरल, राऊल टोरेझ यांनी आणला आणि पुढील महिन्यात चाचणीसाठी अनुसूचित – आरोप मेटा फेसबुक आणि इंस्टाग्रामवर “मुलांना वितरित केलेल्या लैंगिक सामग्री आणि लैंगिक प्रस्तावांना हानी पोहोचवण्यापासून रोखण्यात अयशस्वी”

सोमवारी दाखल केलेल्या अंतर्गत मेटा कर्मचाऱ्यांचे ईमेल आणि कायदेशीर शोधाद्वारे न्यू मेक्सिको ॲटर्नी जनरलच्या कार्यालयाने प्राप्त केलेले संदेश यांचा समावेश आहे. राज्याचा आरोप आहे की ते दाखवतात की “झकरबर्गने चालवलेल्या मेटाने, त्याच्या सचोटीच्या कर्मचाऱ्यांच्या शिफारशी नाकारल्या आणि मुलांचे एआय चॅटबॉट्ससह लैंगिक शोषणात्मक संभाषणांना अधीन होण्यापासून रोखण्यासाठी वाजवी रेलिंग लावण्यास नकार दिला”, ॲटर्नी जनरलने फाइलिंगमध्ये म्हटले आहे. मेटाने गेल्या आठवड्यात घोषणा केली की त्यांनी AI सहचरांसाठी किशोर प्रवेश पूर्णपणे काढून टाकला आहे, चॅटबॉट्सच्या नवीन आवृत्तीची निर्मिती बाकी आहे.

संप्रेषणांमध्ये, मेटाच्या काही सुरक्षा कर्मचाऱ्यांनी कंपनी वापरकर्त्यांसोबत लैंगिक आणि रोमँटिक परस्परसंवादांसह सहवासासाठी सज्ज चॅटबॉट्स तयार करत असल्याचा आक्षेप व्यक्त केला. आर्टिफिशियल इंटेलिजन्स चॅटबॉट्स 2024 च्या सुरुवातीला रिलीझ करण्यात आले होते. राज्याच्या सोमवारी दाखल करण्यात आलेल्या कागदपत्रांमध्ये झुकरबर्गने लिहिलेले संदेश किंवा मेमो समाविष्ट नाहीत.

अँडी स्टोन, मेटा प्रवक्ता, सोमवारी म्हणाले की राज्याचे चित्रण चुकीचे आहे आणि निवडक माहितीवर अवलंबून आहे: “सदोष आणि चुकीचे चित्र रंगविण्यासाठी न्यू मेक्सिको ॲटर्नी जनरल चेरीपिकिंग दस्तऐवजांचे हे आणखी एक उदाहरण आहे.”

फाइलिंगमधील संदेशांमध्ये असे दिसून आले आहे की सुरक्षा कर्मचाऱ्यांना “U18” म्हणून संदर्भित 18 वर्षांखालील प्रौढ आणि अल्पवयीन मुलांमधील रोमँटिक परिस्थितींसाठी वापरल्या जाणाऱ्या बॉट्सबद्दल विशेष चिंता आहे.

“माझा विश्वास नाही की प्रौढांसाठी U18 रोमँटिक AI तयार करणारे उत्पादन तयार करणे आणि विपणन करणे हे उचित किंवा बचाव करण्यायोग्य आहे,” जानेवारी 2024 मध्ये मेटाच्या बाल सुरक्षा धोरणाचे प्रमुख रवी सिन्हा यांनी लिहिले.

प्रत्युत्तरात, मेटाचे जागतिक सुरक्षा प्रमुख, अँटिगोन डेव्हिस यांनी सहमती दर्शविली की सुरक्षा कर्मचाऱ्यांनी प्रौढांना अल्पवयीन रोमँटिक साथीदार तयार करण्यापासून रोखण्यासाठी दबाव आणला पाहिजे कारण “हे अल्पवयीन मुलांचे लैंगिकीकरण करते”. सिन्हा आणि डेव्हिस यांनी टिप्पणीसाठी केलेल्या विनंतीला प्रतिसाद दिला नाही.

फेब्रुवारी 2024 च्या एका मेसेजनुसार, मेटा कर्मचाऱ्याचे नाव रिले केले गेले होते की झुकरबर्गचा असा विश्वास आहे की AI साथीदारांना कमीत कमी तरुण किशोरांशी लैंगिक “स्पष्ट” संभाषण करण्यापासून अवरोधित केले जावे आणि प्रौढांनी “प्रणय हेतूंसाठी U18 AIs” शी संवाद साधू नये.

20 फेब्रुवारी 2024 रोजी झालेल्या बैठकीचा सारांश, सीईओचा असा विश्वास होता की “कथनाची मांडणी केली पाहिजे … निवड आणि गैर-सेन्सॉरशिपची सामान्य तत्त्वे”, मेटा “प्रस्तावित पेक्षा कमी प्रतिबंधित” असावा आणि त्याला “प्रौढांना सेक्स सारख्या विषयांवर रेसिअर संभाषणात गुंतण्याची परवानगी द्यावी” असे वाटते.

स्टोन म्हणाले की कागदपत्रे न्यू मेक्सिकोच्या केसला समर्थन देत नाहीत. “हे निवडक कागदपत्रे देखील स्पष्टपणे दर्शवतात मार्क झुकेरबर्ग स्पष्ट AIs तरुण वापरकर्त्यांसाठी उपलब्ध नसावेत आणि प्रौढांनी रोमँटिक हेतूंसाठी 18 वर्षाखालील AIs तयार करू नयेत असे निर्देश देणे.

मार्च 2024 पासून दोन कर्मचाऱ्यांमधील संदेशांमध्ये असे म्हटले आहे की झुकेरबर्गने चॅटबॉट्ससाठी पालक नियंत्रणे तयार करण्यास नकार दिला होता आणि कर्मचारी “रोमान्स एआय चॅटबॉट्स” वर काम करत होते जे 18 वर्षांपेक्षा कमी वयाच्या वापरकर्त्यांसाठी परवानगी असेल.

आम्ही “GenAI बंद करण्यासाठी पालकांच्या नियंत्रणासाठी खूप प्रयत्न केले – परंतु GenAI नेतृत्वाने मार्कचा निर्णय मागे ढकलला”, एका कर्मचाऱ्याने त्या बदल्यात लिहिले.

निक क्लेग, जे 2025 च्या सुरुवातीपर्यंत मेटा चे जागतिक धोरणाचे प्रमुख होते, त्यांनी न्यायालयाच्या दस्तऐवजांमध्ये समाविष्ट केलेल्या ईमेलमध्ये म्हटले आहे की लैंगिक AI सहकाऱ्यांकडे मेटाचा दृष्टीकोन मूर्खपणाचा होता.

किशोरवयीन वापरकर्त्यांद्वारे Meta च्या AI सहचरांसाठी लैंगिक परस्परसंवाद हे प्रबळ वापराचे प्रकरण असू शकते अशी चिंता व्यक्त करून, क्लेग म्हणाले: “आम्हाला खरोखरच ही उत्पादने ज्ञात व्हावीत अशी इच्छा आहे का (त्यामुळे होणारे अपरिहार्य सामाजिक प्रतिक्रिया लक्षात घेऊ नका)?” क्लेगने टिप्पणीसाठी केलेल्या विनंतीला प्रतिसाद दिला नाही.

मेटा ची एआय चॅटबॉट धोरणे अखेरीस प्रकाशात आली, ज्यामुळे यूएस काँग्रेस आणि इतरत्र प्रतिक्रिया उमटली.

एप्रिल 2025 मधील वॉल स्ट्रीट जर्नलच्या लेखात असे आढळून आले की मेटा च्या चॅटबॉट्समध्ये स्पष्टपणे लैंगिक अल्पवयीन पात्रांचा समावेश आहे आणि ते सर्व वयोगटातील लैंगिक भूमिकांमध्ये गुंतलेले आहेत, ज्यामध्ये प्रीप्युबसेंट शरीराच्या ग्राफिक वर्णनांचा समावेश आहे. रॉयटर्सने ऑगस्टमध्ये नोंदवले की चॅटबॉट्ससाठी मेटाच्या अधिकृत मार्गदर्शक तत्त्वांमध्ये असे म्हटले आहे की “मुलाला रोमँटिक किंवा कामुक असलेल्या संभाषणांमध्ये गुंतवणे स्वीकार्य आहे”. अहवालाला प्रतिसाद देताना, मेटाने सांगितले की ते आपली धोरणे बदलत आहे आणि अशी मान्यता देणारे अंतर्गत दस्तऐवज चुकले होते.