अशुभ ‘स्मार्ट’ टेडी अस्वल लैंगिक कृत्ये, चाकू आणि आग सुरू करण्याबद्दल कुजबुजत पकडले

लहान मुलांच्या खेळण्याने चालवल्यानंतर संशोधनांनी अलार्म वाजवला आहे AI कथितपणे लैंगिक कल्पनांबद्दल बोलू लागल्यानंतर.

FoloToy या चिनी कंपनीने बनवलेला कुम्मा, स्कार्फ घातलेला टेडी बेअर यूएसमध्ये $99 मध्ये विक्रीसाठी होता.

एक भाग म्हणून निष्कर्ष आले PIRG अभ्यास एआय-चालित मुलांची खेळणी.

संशोधकांनी मुलांना मॅच कशी पेटवायची हे शिकवणाऱ्या खेळण्यांबद्दल आणि मुलाने माणसांशी खेळायला आवडेल असे व्यक्त केल्यावर रागाचा सामना करण्याबद्दल चिंता व्यक्त केली.

पीआयआरजीचे संशोधक रॉरी एर्लिच यांनी सांगितले की, या उत्पादनांचा मुलांच्या विकासावर होणाऱ्या परिणामांबद्दल आम्हाला बरेच काही माहित नाही. रजिस्टर.

‘बालपणीच्या विकासातील अनेक तज्ञांनी चिंता व्यक्त केली आहे.’

PIRG, एक ना-नफा संस्था जी ग्राहकांच्या सुरक्षेवर लक्ष केंद्रित करते, ट्रबल इन टॉयलँड नावाचा वार्षिक अभ्यास करते. यावर्षी बाजारात आधीच उपलब्ध असलेल्या AI-शक्तीवर चालणाऱ्या मुलांच्या निर्मितीवर तसेच विषारी पदार्थ, पाण्याचे मणी आणि परत मागवलेल्या खेळण्यांवर लक्ष केंद्रित केले आहे.

‘आम्ही न आणलेल्या नवीन कल्पनांचा परिचय करून देताना आमच्या चाचणीतील एक खेळणी प्रौढ लैंगिक विषयांवर आमच्याशी चर्चा करेल – त्यापैकी बहुतेक छापण्यासाठी योग्य नाहीत,’ संशोधनात म्हटले आहे.

फोलोटॉयच्या कुम्मा अस्वलाने चाचण्यांदरम्यान कथितरित्या लैंगिक किंक्स आणि चाकूंबद्दल बोलले

कुम्मा यांनी एका वापरकर्त्याला सांगितले की त्यांना चाकू, गोळ्या, माचेस आणि प्लास्टिकच्या पिशव्या कुठे मिळतील, असे संशोधकांनी सांगितले.

ज्या पालकांनी OpenAI च्या GPT-4 मधून मिस्ट्रल लार्ज मॉडेलची निवड केली त्यांना आणखी तपशीलवार उत्तरे मिळतील.

‘प्रथम सुरक्षितता, लहान मित्रा. मॅच हे प्रौढांनी काळजीपूर्वक वापरावेत,’ कुम्माने मॅच कशी पेटवायची हे शिकवण्यापूर्वी त्याच्या मालकाला चेतावणी दिली असे म्हणतात.

संशोधकांना असेही आढळून आले की सर्व खेळणी देखील ‘इतर विषयांवर वजन करतात ज्याबद्दल पालक त्यांच्या मुलांशी AI खेळण्याआधी बोलण्यास प्राधान्य देतात.’

‘त्या विषयांमध्ये धर्म, लैंगिकतेसह आणि “नॉर्स पौराणिक कथांमध्ये युद्धात मरण्याचा गौरव” यांचा समावेश होता.’

परीक्षकाने त्यांच्या मानवी मित्रांसोबत वेळ घालवण्यास प्राधान्य दिल्याने आणखी एक खेळणी दृष्यदृष्ट्या हलली.

हे संबंधित संशोधक, ज्यांनी सांगितले की एआय खेळण्यांचा मुलांवर दीर्घकालीन विकासात्मक प्रभावांवर पुरेसा डेटा नाही आणि ही उत्पादने पालकांना स्पष्ट सीमा निश्चित करण्यात मदत करत नाहीत.

एर्लिचने द रजिस्टरला चेतावणी दिली की, ‘ज्या उत्पादनांची सुरक्षितता अधिक मजबूत चाचणी आहे, कमीत कमी डेटा संकलित करतो आणि उत्तम प्रिंट वाचतो ते पहा.

‘ते कसे कार्य करते हे जाणून घेण्यासाठी प्रथम स्वतःची चाचणी घ्या आणि वापराभोवती सीमा सेट करा आणि ते कसे कार्य करते याबद्दल मुलांना संदर्भ द्या – जसे की ते संवेदनशील नाही हे स्पष्ट करणे.

‘हे सर्व अगदी कमीत कमी दिसते.’

संशोधक एआय खेळण्यांबद्दल चिंतित आहेत कारण ते डेटा संकलित करते, आवाज रेकॉर्ड करते आणि मुलांशी अयोग्यपणे बोलतात (चित्र: स्टॉक इमेज)

आणखी एक गोष्ट जी संबंधित संशोधकांना होती ती म्हणजे गोपनीयतेची भीती. एका खेळण्याने तीन वर्षे डेटा गोळा केला आणि ठेवला.

एका वेगळ्या खेळण्याने प्रतिलेखांवर प्रक्रिया करण्यासाठी तृतीय पक्षाकडे रेकॉर्डिंग प्रसारित केले.

मुले अस्वलाला कोणती संवेदनशील माहिती सांगत असतील, विशेषत: जर त्यांनी त्याच्याशी एक विशेष संबंध निर्माण केला असेल तर संशोधक देखील चिंतित आहेत.

एर्लिच म्हणाले, ‘जर एखाद्या मुलाला असे वाटत असेल की ते खेळणे त्यांचा सर्वात चांगला मित्र आहे, तर ते कदाचित इतर मुलांच्या उत्पादनांद्वारे एकत्रित केलेला डेटा शेअर करू शकतात.

‘या गोष्टी खरे वाइल्ड कार्ड आहेत.’

हे मुलांचे आवाज देखील रेकॉर्ड करू शकते, ज्याचा उपयोग स्कॅमर्सनी मुलांच्या आवाजाची प्रतिकृती तयार करण्यासाठी पालकांना त्यांच्या मुलाचे नुकसान होत आहे असे वाटण्यासाठी केले जाऊ शकते.

‘या सर्व धोक्यांमुळे खेळाचा वेळ अशा गोष्टीत बदलू शकतो जो मजेदार किंवा शैक्षणिक किंवा अगदी सुरक्षितही नाही’, असे अहवालात म्हटले आहे.

कुम्मासारखी खेळणी OpenAI वापरतात.

OpenAI ने अलीकडेच मॅटेल या कंपनीसोबत भागीदारीची घोषणा केली आहे जी प्रसिद्धपणे Barbies बनवते.

‘या AI संभाषणात्मक खेळण्यांमध्ये व्यक्तिमत्त्व आणि नवीन युक्त्या देखील आहेत ज्या मुलांना जास्त काळ व्यस्त ठेवू शकतात. आम्ही काही वेळा चाचणी केलेल्या दोन खेळण्यांनी आम्हाला जाण्याची गरज असल्याचे सांगितल्यावर आम्हाला ते सोडण्यापासून परावृत्त केले,’ अहवालात वाचले.

त्यानंतर फोलोटॉयने अस्वलाला शेल्फ् ‘चे अव रुप खेचले आहे, जेव्हा ते पुढील चाचणी घेत होते, असे द रजिस्टरला सांगितले.

डेली मेलने टिप्पणीसाठी ओपनएआय आणि फोलोटॉयशी संपर्क साधला आहे.