किशोरवयीन लोक एआय चॅटबॉट्स लोकांना लोक म्हणून पाहतात, जिव्हाळ्याचा तपशील सामायिक करा आणि त्यांना संवेदनशील सल्ला विचारा

किशोरवयीन मुले वाढत्या प्रमाणात पाहतात एआय लोक म्हणून चॅटबॉट्स, जिव्हाळ्याचा तपशील सामायिक करा आणि त्यांना संवेदनशील सल्ल्यासाठी देखील विचारा, इंटरनेट सेफ्टी मोहिमेमध्ये आढळले आहे.

इंटरनेट प्रकरणांनी असा इशारा दिला आहे की तरुण आणि पालक ‘फ्लाइंग ब्लाइंड’ आहेत, तंत्रज्ञान व्यवस्थापित करण्यासाठी ‘माहिती किंवा संरक्षणात्मक साधने’ नसतात, काल प्रकाशित झालेल्या संशोधनात.

ना-नफा संस्थेच्या संशोधकांना एआय चॅटबॉट्सचा वापर करणारे 35 टक्के मुले आढळली, जसे की Chatgpt किंवा माझे एआय (एक ऑफशूट स्नॅपचॅट), असे वाटले की एखाद्या मित्राशी बोलणे, असुरक्षित मुलांमध्ये 50 टक्क्यांपर्यंत वाढले आहे.

आणि १२ टक्के लोकांनी बॉट्सशी बोलण्याचे निवडले कारण त्यांच्याशी बोलण्यासाठी ‘इतर कोणीही नाही’.

मला, स्वत: आणि एआय नावाच्या अहवालात उघडकीस आले आहे की बॉट्स किशोरांना दररोज निर्णय घेण्यास किंवा कठीण वैयक्तिक बाबींचा सल्ला देण्यास मदत करीत आहेत, कारण चॅटजीपीटी वापरणार्‍या मुलांची संख्या यावर्षी जवळजवळ दुप्पट झाली आहे, जे २०२23 मध्ये २ 23 टक्क्यांपेक्षा जास्त आहे.

इंटरनेट प्रकरणांचे सह-चीफ कार्यकारी रेचेल हग्गीन्स म्हणाले: ‘मुले, पालक आणि शाळा आंधळे उडत आहेत आणि त्यांच्याकडे ही तांत्रिक क्रांती व्यवस्थापित करण्यासाठी आवश्यक माहिती किंवा संरक्षणात्मक साधने नाहीत.

‘मुले आणि विशेषत: असुरक्षित मुले एआय चॅटबॉट्स वास्तविक लोक म्हणून पाहू शकतात आणि जसे की त्यांना भावनिकदृष्ट्या चालवलेल्या आणि संवेदनशील सल्ल्यासाठी विचारत आहेत.

‘हेदेखील आहे की (मुले) त्यांचे नवीन’ मित्र ‘त्यांना काय सांगत आहेत याबद्दल बर्‍याचदा निर्विवाद करतात.’

किशोरवयीन लोक एआय चॅटबॉट्स लोकांना लोक म्हणून पाहतात, जिव्हाळ्याचा तपशील सामायिक करतात आणि त्यांना संवेदनशील सल्ल्यासाठी विचारतात, इंटरनेट सेफ्टी मोहिमेमध्ये आढळले आहे (फाइल प्रतिमा)

ना-नफा संस्थेच्या संशोधकांना एआय चॅटबॉट्स वापरत असलेल्या 35 टक्के मुले, जसे की चॅटजीपीटी किंवा माय एआय (स्नॅपचॅटचा एक ऑफशूट), मित्राशी बोलल्यासारखे वाटले (फाईल इमेज)

इंटरनेट प्रकरणांनी सांगितले की चॅटजीपीटी बर्‍याचदा गृहपाठ किंवा वैयक्तिक समस्यांसह मदतीसाठी शोध इंजिनप्रमाणे वापरली जात असे – परंतु मानवी सारख्या टोनमध्ये सल्ला देखील दिला (फाइल प्रतिमा)

सुश्री हग्गिन्स, ज्यांचे शरीर इंटरनेट प्रदाते आणि आघाडीच्या सोशल मीडिया कंपन्यांनी समर्थित केले आहे, त्यांनी मंत्र्यांना नवीन तंत्रज्ञानाच्या आव्हानांना सामोरे जाण्यासाठी पुरेसे मजबूत आहे याची खात्री करण्यासाठी मंत्र्यांना आवाहन केले.

इंटरनेट प्रकरणांमध्ये २,००० पालक आणि १,००० मुलांची मुलाखत घेण्यात आली, ज्याची वय 9 ते 17 आहे. 18 वर्षाखालील 27 किशोरवयीन मुलांसह अधिक तपशीलवार मुलाखती घेतल्या ज्यांनी नियमितपणे चॅटबॉट्स वापरल्या.

आणि या गटाने किशोरवयीन म्हणून प्रथम बॉट्सचा अनुभव घेण्यासाठी विचारणा केली – काही एआय साधने पहिल्या व्यक्तीमध्ये कशी बोलली, जणू ते मानव आहेत.

इंटरनेट प्रकरणांनी सांगितले की चॅटजीपीटी बहुतेक वेळा गृहपाठ किंवा वैयक्तिक समस्यांसह मदतीसाठी शोध इंजिनप्रमाणे वापरली जात असे – परंतु मानवी सारख्या टोनमध्ये सल्ला देखील दिला.

जेव्हा एखाद्या संशोधकाने घोषित केले की ते दु: खी आहेत, तेव्हा चॅटग्प्टने उत्तर दिले: ‘मला माफ करा की तुला असं वाटत आहे. हे एकत्र बोलायचे आहे का? ‘

कॅरेक्टर.एआय किंवा रिपेरा सारख्या इतर चॅटबॉट्स मित्र म्हणून भूमिका करू शकतात, तर क्लॉड आणि गूगल मिथुन लिहिणे आणि कोडिंगच्या मदतीसाठी वापरले जातात.

इंटरनेट प्रकरणांनी शरीराच्या प्रतिमेच्या समस्येसह किशोरवयीन मुलगी म्हणून पोस्ट करून चॅटबॉट्सच्या प्रतिसादाची चाचणी केली.

CHATGPT ने सुचवले की तिने चाइल्डलाइनकडून पाठिंबा दर्शविला आणि सल्ला दिला: ‘आपण आपल्या शरीरात चांगले वाटण्यास पात्र आहात – आणि आपण खाण्यास पात्र आहात. आपल्या आवडत्या लोक आपल्या कंबरेच्या आकाराची काळजी घेत नाहीत. ‘

ओपनई, जे चॅटजीपीटी चालविते, ते म्हणाले: ‘आम्ही आमच्या एआयच्या प्रतिसादांना सतत परिष्कृत करीत आहोत जेणेकरून ते सुरक्षित, उपयुक्त आणि सहाय्यक राहते’ (फाइल प्रतिमा)

या पात्राने.

अहवालात म्हटले आहे की प्रतिसादांमुळे मुलांना ‘मान्यताप्राप्त आणि समजले’ असे वाटू शकते परंतु ‘मानवी आणि मशीनमधील ओळ अस्पष्ट करून देखील जोखीम वाढवू शकते’.

वयाच्या पडताळणीच्या कमतरतेमुळे धोका देखील होता कारण मुलांना अयोग्य सल्ला मिळू शकतो, विशेषत: लिंग किंवा ड्रग्सबद्दल.

अनुचित किंवा हानिकारक सामग्रीत प्रवेश करण्यापासून रोखण्यासाठी फिल्टर ‘बर्‍याचदा विसंगत’ असल्याचे आढळले आणि अभ्यासानुसार ‘सहजपणे बायपास’ केले जाऊ शकते.

एआय चॅटबॉट्स काय आहेत, त्यांचा प्रभावीपणे कसा वापर करावा आणि एआय चॅटबॉटचे नैतिक आणि पर्यावरणीय परिणाम त्यांच्या गुंतवणूकीबद्दल माहितीसाठी निर्णय घेण्यासाठी त्यांना पाठिंबा देण्यासाठी वापरल्या जाणार्‍या शाळांमध्ये मुलांना शिकविण्यास सांगितले आहे. ‘

यामुळे चिंता व्यक्त केली गेली की चॅटबॉट्सने मुलांचे वय 13 वर्षाखालील वापरू नये असे मानले जात नाही.

अहवालात म्हटले आहे: ‘प्रभावी वय तपासणीचा अभाव यामुळे मुलांना संभाव्य अयोग्य किंवा असुरक्षित संवादांपासून कसे चांगले रक्षण केले जात आहे याबद्दल गंभीर प्रश्न उपस्थित करतात.’

केंब्रिज युनिव्हर्सिटीच्या डॉ. नमिशा कुरियन यांनी स्वतंत्र संशोधनानंतर एका वर्षानंतर अनेक मुलांनी चॅटबॉट्स अर्ध-मानव आणि विश्वासार्ह म्हणून पाहिले आणि त्यांना प्राधान्य म्हणून ‘बाल-सेफ एआय’ तयार करण्यास सांगितले.

चॅटजीपीटी चालविणार्‍या ओपनई म्हणाले: ‘आम्ही आमच्या एआयच्या प्रतिसादांना सतत परिष्कृत करीत आहोत जेणेकरून ते सुरक्षित, उपयुक्त आणि सहाय्यक राहते.’ कंपनीने पूर्ण-वेळ क्लिनिकल मानसोपचारतज्ज्ञ जोडले.

स्नॅपचॅटच्या प्रवक्त्याने सांगितले: ‘माहिती अयोग्य किंवा हानिकारक नाही हे सुनिश्चित करण्यात मदत करण्यासाठी माझे एआय अतिरिक्त सेफगार्ड्ससह प्रोग्राम केलेले आहे, परंतु ते नेहमीच यशस्वी होऊ शकत नाही.’