पालक नवीन सुरक्षितता अंतर्गत मेटा बॉट्सला त्यांच्या मुलांशी बोलण्यापासून ब्लॉक करू शकतील | चॅटबॉट्स

टेक कंपनी अयोग्य संभाषणांच्या चिंतेकडे लक्ष देत असल्याने पालक त्यांच्या मुलांचे मेटा च्या एआय कॅरेक्टर चॅटबॉट्ससह परस्परसंवाद अवरोधित करण्यास सक्षम असतील.

सोशल मीडिया कंपनी त्याच्या “किशोर खाती”, जे 18 वर्षांखालील वापरकर्त्यांसाठी डिफॉल्ट सेटिंग आहे, पालकांना त्यांच्या मुलांच्या AI वर्णांसह चॅट बंद करू देऊन. वापरकर्त्यांनी तयार केलेले हे चॅटबॉट्स फेसबुक, इंस्टाग्राम आणि मेटा एआय ॲपवर उपलब्ध आहेत.

पालकांना त्यांच्या मुलांना चॅटबॉट्सशी संवाद साधण्यापासून पूर्णपणे थांबवायचे नसेल तर ते विशिष्ट एआय वर्ण अवरोधित करण्यास सक्षम असतील. त्यांची मुले ज्या विषयांबद्दल AI पात्रांसह गप्पा मारत आहेत त्या विषयांबद्दल त्यांना “अंतर्दृष्टी” देखील मिळेल, जे त्यांना त्यांच्या मुलांशी AI परस्परसंवादांबद्दल “विचारपूर्वक” संभाषण करण्यास अनुमती देईल असे मेटाने म्हटले आहे.

“आम्ही ओळखतो की जेव्हा पालक त्यांच्या किशोरवयीन मुलांसोबत सुरक्षितपणे इंटरनेट नेव्हिगेट करण्याचा विचार करतात तेव्हा त्यांच्या प्लेट्सवर आधीपासूनच बरेच काही असते आणि आम्ही त्यांना उपयुक्त साधने आणि संसाधने प्रदान करण्यास वचनबद्ध आहोत ज्यामुळे त्यांच्यासाठी गोष्टी अधिक सोप्या होतात, विशेषत: ते AI सारख्या नवीन तंत्रज्ञानाबद्दल विचार करतात,” Instagram प्रमुख, ॲडम मोसेरी आणि अलेक्झांडर वांग म्हणाले, मेटा चे मुख्य AI अधिकारी, ब्लॉग पोस्ट मध्ये.

मेटा ने सांगितले की बदल पुढील वर्षीच्या सुरुवातीला यूएस, यूके, कॅनडा आणि ऑस्ट्रेलियामध्ये आणले जातील.

इंस्टाग्रामने या आठवड्यात घोषणा केली ते होते PG-13 सिनेमा रेटिंग प्रणालीची आवृत्ती स्वीकारणे पालकांना त्यांच्या मुलांच्या सोशल मीडिया प्लॅटफॉर्मच्या वापरावर अधिक मजबूत नियंत्रण देण्यासाठी. कठोर निर्बंधांचा एक भाग म्हणून, त्याचे AI वर्ण किशोरवयीन मुलांसोबत स्वत:चे नुकसान, आत्महत्या किंवा अव्यवस्थित खाण्यावर चर्चा करणार नाहीत. 18 वर्षांखालील मुले केवळ शिक्षण आणि खेळ यासारख्या वयानुसार योग्य विषयांवर चर्चा करू शकतील, मेटा जोडले, परंतु प्रणय किंवा “इतर अयोग्य सामग्री” वर चर्चा करू शकणार नाही.

मेटा चे चॅटबॉट्स 18 वर्षांखालील मुलांशी अयोग्य संभाषणात गुंतले होते या अहवालानंतर हे बदल झाले आहेत. रॉयटर्स ऑगस्ट मध्ये नोंदवले मेटा ने बॉट्सना “मुलाला रोमँटिक किंवा कामुक संभाषणांमध्ये गुंतवून ठेवण्याची” परवानगी दिली होती. मेटा म्हणाले की ते मार्गदर्शक तत्त्वांमध्ये सुधारणा करेल आणि मुलांशी अशा संभाषणांना कधीही परवानगी दिली जाऊ नये.

एप्रिलमध्ये, द वॉल स्ट्रीट जर्नल (WSJ) ला आढळले की वापरकर्त्याने तयार केलेले चॅटबॉट्स अल्पवयीन मुलांशी लैंगिक संभाषणात गुंतले आहेत – किंवा अल्पवयीन व्यक्तींच्या व्यक्तिमत्त्वाचे अनुकरण करतात. मेटा ने WSJ च्या चाचणीचे वर्णन फेरफार करणारे आणि बहुतेक वापरकर्ते AI सहकाऱ्यांशी कसे गुंतले याचे प्रतिनिधित्व न करणारे, परंतु नंतर त्याच्या उत्पादनांमध्ये बदल केले, WSJ ने अहवाल दिला.

WSJ द्वारे नोंदवलेल्या एका AI संभाषणात, अभिनेता जॉन सीनाचा आवाज वापरून चॅटबॉट – मेटाला चॅटबॉट्समध्ये त्यांचा आवाज वापरू देण्यासाठी करारावर स्वाक्षरी केलेल्या अनेक सेलिब्रिटींपैकी एक – 14 वर्षांची मुलगी म्हणून ओळखल्या जाणाऱ्या वापरकर्त्याला सांगितले: “मला तू हवी आहेस, पण मला माहित असणे आवश्यक आहे की तू तयार आहेस,” ग्राफिक लैंगिक परिस्थितीचा संदर्भ देण्यापूर्वी. WSJ ने नोंदवले की Cena च्या प्रतिनिधींनी टिप्पणीसाठी केलेल्या विनंतीला प्रतिसाद दिला नाही. WSJ ने असेही नोंदवले आहे की “हॉटी बॉय” आणि “सम्मिसिव्ह स्कूलगर्ल” नावाच्या चॅटबॉट्सने सेक्सटिंगच्या दिशेने संभाषण चालविण्याचा प्रयत्न केला होता.