टेडी बेअरने किंकबद्दल बोलल्यानंतर, एआय वॉचडॉग्स पालकांना स्मार्ट खेळण्यांबद्दल चेतावणी देत ​​आहेत | कृत्रिम बुद्धिमत्ता (AI)

जसजसा सुट्टीचा हंगाम दिसतोय ब्लॅक फ्रायडेलोकांच्या भेटवस्तू सूचीमधील एक श्रेणी चिंता वाढवत आहे: यासह उत्पादने कृत्रिम बुद्धिमत्ता.

या विकासामुळे स्मार्ट खेळण्यांमुळे मुलांना होणाऱ्या धोक्यांबद्दल नवीन चिंता निर्माण झाली आहे, कारण ग्राहक वकिल गट म्हणतात की एआय मुलांच्या सुरक्षिततेला आणि विकासाला हानी पोहोचवू शकते. या ट्रेंडने अशा उत्पादनांची चाचणी वाढवण्याची आणि सरकारी देखरेखीची मागणी केली आहे.

“या खेळण्यांचे मार्केटिंग कसे केले जाते आणि ते कसे कार्य करतात आणि ते लहान मुलांसाठी फायदेशीर आहेत हे दाखवणारे कोणतेही संशोधन नाही – आणि एआय खेळण्यांचे कोणतेही नियमन नाही – हे जर आपण पाहिले तर ते खरोखरच मोठा लाल झेंडा उंचावते,” यंग चिल्ड्रेन थ्राइव्ह ऑफलाइनच्या संचालक, रॅचेल फ्रांझ यांनी सांगितले. फेअरप्लेजे लहान मुलांना मोठ्या तंत्रज्ञानापासून वाचवण्यासाठी कार्य करते.

गेल्या आठवड्यात, जेव्हा एआय-सुसज्ज टेडी बेअर लैंगिकदृष्ट्या सुस्पष्ट विषयांवर चर्चा करू लागला तेव्हा त्या भीतींना क्रूर समर्थन देण्यात आले.

FoloToy’s Kumma हे उत्पादन OpenAI मॉडेलवर चालले आणि किंक बद्दलच्या प्रश्नांना उत्तरे दिली. पब्लिक इंटरेस्ट रिसर्च ग्रुप (पिर्ग) च्या अहवालानुसार, संबंध वाढवण्याचे मार्ग म्हणून बंधन आणि रोलप्ले सुचवले आहे, यामागील ग्राहक संरक्षण संस्था अभ्यास.

“सर्व प्रकारच्या लैंगिकदृष्ट्या संवेदनशील विषयांमध्ये जाण्यासाठी खूप कमी प्रयत्न करावे लागले आणि बहुधा पालकांना त्यांच्या मुलांनी उघड होऊ नये अशी खूप सामग्री आहे,” टेरेसा मरे, पिर्ग ग्राहक वॉचडॉग संचालक म्हणाले.

टेडी बेअर सारखी उत्पादने 2023 मध्ये $16.7bn मूल्याच्या जागतिक स्मार्ट-टॉय मार्केटचा भाग आहेत, त्यानुसार सहयोगी बाजार संशोधन.

चीनमध्ये हा उद्योग विशेषतः मोठा आहे, ज्यात 1,500 पेक्षा जास्त एआय खेळणी कंपन्या आहेत, ज्या परदेशात विस्तारासाठी काम करत आहेत, एमआयटी तंत्रज्ञान पुनरावलोकन अहवाल

शांघाय-आधारित स्टार्टअप फोलोटॉय व्यतिरिक्त, कॅलिफोर्निया-आधारित कंपनी, क्युरियो, OpenAI सोबत काम करते आणि चोंदलेले खेळणी, ग्रोकएलोन मस्कच्या चॅटबॉटप्रमाणे, संगीतकार ग्रिम्सने आवाज दिला. जूनमध्ये, बार्बी आणि हॉट व्हील्स सारख्या ब्रँडची मालकी असलेली मॅटेल, देखील जाहीर केले ओपनएआय सोबत भागीदारी “एआय-समर्थित उत्पादने आणि अनुभवांना समर्थन देण्यासाठी”

भितीदायक टेडी बेअरवर पिर्ग अहवालापूर्वी, पालक, तंत्रज्ञान संशोधक आणि कायदेकर्त्यांनी आधीच अल्पवयीनांच्या मानसिक आरोग्यावर बॉट्सच्या प्रभावाबद्दल चिंता व्यक्त केली होती. ऑक्टोबरमध्ये, चॅटबॉट कंपनी Character.AI ने घोषणा केली की ते 18 वर्षांखालील वापरकर्त्यांना प्रतिबंधित करेल एक खटला त्याच्या बॉटने किशोरचे नैराश्य वाढवले ​​आणि त्याला आत्महत्येस प्रवृत्त केले असा आरोप.

मरे म्हणाले की एआय खेळणी विशेषतः धोकादायक असू शकतात कारण पूर्वीच्या स्मार्ट खेळण्यांनी मुलांसाठी प्रोग्राम केलेले प्रतिसाद दिलेले असताना, एक बॉट “मुलाशी मुक्तपणे संभाषण करू शकतो आणि आम्हाला आढळल्याप्रमाणे कोणत्याही सीमा नाहीत”.

यामुळे केवळ लैंगिकरित्या सुस्पष्ट संभाषण होऊ शकत नाही, परंतु मुले एखाद्या व्यक्ती किंवा काल्पनिक मित्रापेक्षा बॉटशी संलग्न होऊ शकतात, ज्यामुळे त्यांच्या विकासास हानी पोहोचू शकते, ऑस्टिन येथील टेक्सास विद्यापीठातील चिल्ड्रन्स रिसर्च सेंटरच्या संचालक जॅकलिन वूली यांनी सांगितले.

उदाहरणार्थ, एखाद्या मित्राशी मतभेद असल्यास आणि ते कसे सोडवायचे हे शिकून मुलाला फायदा होऊ शकतो. असे बॉट्ससह होण्याची शक्यता कमी आहे, जे आहेत अनेकदा sycophanticवूली म्हणाले, ज्याने पिरग अभ्यासावर सल्लामसलत केली.

“मला अयोग्य बाँडिंगबद्दल काळजी वाटते,” वूली म्हणाला.

कंपन्या मुलांकडून डेटा गोळा करण्यासाठी एआय खेळण्यांचा वापर करतात आणि त्या माहितीचे ते काय करत आहेत याबद्दल पारदर्शक नाहीत, फेअरप्लेचे फ्रांझ म्हणाले. अशा डेटाभोवती सुरक्षिततेच्या कमतरतेमुळे ते संभाव्यतः वापरकर्त्यांना धोक्यात आणते, फ्रांझ म्हणाले. हॅकर्सकडे आहेत AI उत्पादनांवर नियंत्रण ठेवण्यास सक्षम आहे.

“खेळण्यांमधून निर्माण झालेल्या विश्वासामुळे, मी म्हणेन की मुले या खेळण्यांबद्दल त्यांचे गहन विचार सांगण्याची अधिक शक्यता असते,” फ्रांझ म्हणाले. “निरीक्षण अनावश्यक आणि अयोग्य आहे.”

अशा चिंता असूनही, पिर्ग एआय खेळण्यांवर बंदी घालण्याची मागणी करत नाही, ज्याचे शैक्षणिक मूल्य असू शकते, जसे की मुलांना दुसरी भाषा किंवा राज्यांची राजधानी शिकण्यास मदत करणे, मरे म्हणाले.

“काही प्रकारचे शैक्षणिक साधन असण्यात काहीच गैर नाही, पण तेच शैक्षणिक साधन तुम्हाला सांगत नाही की तो तुमचा चांगला मित्र आहे, की तुम्ही मला काहीही सांगू शकता,” मरे म्हणाला.

संस्था 13 वर्षाखालील मुलांसाठी या खेळण्यांचे अतिरिक्त नियमन करण्याची मागणी करत आहे परंतु विशिष्ट धोरण शिफारसी केल्या नाहीत, मरे म्हणाले.

उत्पादने मुलांसाठी सुरक्षित आहेत याची खात्री करण्यासाठी अधिक स्वतंत्र संशोधन करणे देखील आवश्यक आहे आणि ते पूर्ण होईपर्यंत त्यांना शेल्फ् ‘चे अव रुप खेचले जावे, फ्रांझ म्हणाले.

“आम्हाला AI खेळण्यांशी संवाद साधणाऱ्या मुलांच्या सामाजिक-भावनिक विकासासह” आणि संज्ञानात्मक विकासावर होणाऱ्या परिणामांवर अल्पकालीन आणि अनुदैर्ध्य स्वतंत्र संशोधनाची गरज आहे, फ्रांझ म्हणाले.

Pirg अहवालानंतर, OpenAI ने घोषणा केली की ते FoloToy निलंबित करत आहे. तेव्हा खेळणी कंपनीचे सी.ई.ओ सीएनएनला सांगितले की ते अस्वल बाजारातून बाहेर काढत होते आणि “अंतर्गत सुरक्षा ऑडिट करत होते”. या आठवड्याच्या सुरुवातीला, त्याने उत्पादन पुन्हा सादर केले, सोशल मीडियावर पोस्ट करत आहे शुक्रवारी सकाळी “एक खोल, कंपनी-व्यापी अंतर्गत सुरक्षा ऑडिट सुरू केले आहे; आमचे सामग्री-संयम आणि बाल-सुरक्षा सुरक्षा बळकट आणि अपग्रेड केले आहे; आणि आमच्या क्लाउड-आधारित सिस्टमद्वारे वर्धित सुरक्षा नियम आणि संरक्षणे तैनात केली आहेत”.

“एआय खेळण्यांच्या सुरक्षेवर जागतिक लक्ष वाढत असताना, आमचा विश्वास आहे की पारदर्शकता, जबाबदारी आणि सतत सुधारणा आवश्यक आहेत,” असे त्यात म्हटले आहे. “FoloToy जगभरातील मुलांसाठी आणि कुटुंबांसाठी सुरक्षित, वयोमानानुसार AI सहचर तयार करण्यासाठी दृढपणे वचनबद्ध आहे.”

तथापि, अस्वलाला पुन्हा सोडण्यापूर्वी स्वतंत्र तज्ञांशी सल्लामसलत केली होती का, याची पुष्टी विधानात केली नाही, कारण त्यांनी दावा केला आहे रजिस्टर उत्पादन खेचल्यानंतर ते करेल.

आरजे क्रॉस, पिर्गच्या ग्राहक गोपनीयता कार्यक्रमाचे संचालक, म्हणाले की फोलोटॉयचे टर्नअराउंड “सर्वसमावेशक सुरक्षा ऑडिटसाठी थोडेसे जलद वाटते, परंतु सर्वात महत्त्वाचे म्हणजे तात्काळ समस्यांचे निराकरण झाले तर” त्यांनी कंपनीला बाहेरील तज्ञांना प्रवेश देण्याची विनंती केली आणि ते म्हणाले की पर्वा न करता, कोणतेही AI “मित्र” मुलांसाठी चांगले आहेत की नाही याबद्दल प्रश्न राहतात.

ते म्हणाले, “एआय सहचर खेळण्यामुळे मुलाच्या दीर्घकालीन सामाजिक विकासासाठी काय परिणाम होऊ शकतो हे आम्हाला माहीत नाही. “हा एक प्रश्न आहे ज्याचे उत्तर कॉर्पोरेट सुरक्षा ऑडिट सध्या देऊ शकत नाही.”

फोलोटॉयने टिप्पणीच्या विनंतीला त्वरित प्रतिसाद दिला नाही.

गुरुवारी फेअरप्लेसह 80 संस्थांनी जारी केले एक सल्लागार कुटुंबांना या सुट्टीच्या मोसमात AI खेळणी खरेदी न करण्याचे आवाहन.

“एआय खेळणी कुटुंबांना सुरक्षित आणि शिकण्यासाठी फायदेशीर म्हणून विकली जात आहेत, स्वतंत्र संशोधनाद्वारे त्यांच्या प्रभावाचे मूल्यांकन होण्यापूर्वी,” रिलीझमध्ये म्हटले आहे. “याउलट, ऑफलाइन टेडी बेअर आणि खेळणी मुलांच्या विकासासाठी AI खेळण्यांचा कोणताही धोका नसताना फायदेशीर ठरतात.”

क्युरियो, ग्रोक टॉयचे निर्माते, यांनी गार्डियनला ईमेलमध्ये सांगितले की पिर्ग अहवालाचे पुनरावलोकन केल्यानंतर, “आम्ही मुलांसाठी सुरक्षित आणि आनंददायक अनुभव सुनिश्चित करण्यासाठी सामग्री आणि परस्परसंवादांवर सतत देखरेख करत असताना कोणत्याही समस्यांचे निराकरण करण्यासाठी आमच्या कार्यसंघासह सक्रियपणे काम करत आहोत”.

मॅटेलने सांगितले की ओपनएआय ची पहिली उत्पादने “कुटुंब आणि वृद्ध ग्राहकांवर लक्ष केंद्रित करतील” आणि “ओपनएआय API चा वापर 13 वर्षांखालील वापरकर्त्यांसाठी हेतू नाही”.

“एआय पारंपारिक खेळाची जागा घेत नाही – पारंपारिक खेळाला पूरक आहे आणि आम्ही सुरक्षितता, गोपनीयता, सर्जनशीलता आणि जबाबदार नवकल्पना यावर भर देत आहोत,” असे कंपनीने म्हटले आहे.

फ्रांझने भूतकाळाचा संदर्भ दिला गोपनीयतेची चिंता मॅटेल सह स्मार्ट उत्पादने आणि म्हणाले: “हे चांगले आहे की मॅटेल दावा करत आहे की त्यांची AI उत्पादने लहान मुलांसाठी नाहीत, परंतु आपण खेळण्यांसोबत कोण खेळतो आणि कोणासाठी खेळणी विकली जातात हे पाहिले तर ती लहान मुले आहेत.”

फ्रांझ पुढे म्हणाले: “मॅटेल त्यांची OpenAI उत्पादने खरोखरच ब्रँड ओळखतील आणि त्यांच्याकडे आकर्षित होतील अशा मुलांनी वापरत नाहीत याची खात्री करण्यासाठी कोणती ठोस पावले उचलली जातील हे जाणून घेण्यात आम्हाला खूप रस आहे.”