विद्यार्थ्यांच्या मानसिक आरोग्याचा मागोवा घेण्यासाठी शाळा एआय समुपदेशकांचा वापर करत आहेत. ते सुरक्षित आहे का? | AI (कृत्रिम बुद्धिमत्ता)

संध्याकाळी ७ च्या सुमारास अलर्ट आला.

ब्रिटानी फिलिप्सने तिचा फोन तपासला. पुतनाम काउंटी, फ्लोरिडा येथील मिडल स्कूल समुपदेशक, फिलिप्सला कृत्रिम बुद्धिमत्ता-सक्षम थेरपी प्लॅटफॉर्मवरून संदेश प्राप्त होतात जे विद्यार्थी नॉनस्कूलच्या वेळेत वापरतात. विद्यार्थ्याने चॅटमध्ये काय टाइप केले याच्या आधारावर विद्यार्थ्याला स्वतःला किंवा इतरांना हानी पोहोचवण्याचा धोका असतो तेव्हा ते ध्वजांकित करते.

फिलिप्सने पाहिले की आठव्या-इयत्तेच्या विद्यार्थ्यासाठी हा “गंभीर” इशारा आहे.

म्हणून, फिलिप्सने तिची संध्याकाळ विद्यार्थ्याच्या आईसोबत फोनवर घालवली, काय चालले आहे आणि विद्यार्थी किती असुरक्षित आहे हे जाणून घेण्यासाठी प्रश्न विचारले. फिलिप्सने पोलिसांना देखील बोलावले, ती म्हणते की, ती विद्यार्थ्यांना सांगते की गप्पा गोपनीय आहेत जोपर्यंत ते होऊ शकत नाहीत.

ते शेवटचे शालेय वर्ष होते, वसंत ऋतूमध्ये.

“तो जिवंत आणि बरा आहे. तो या वर्षी नवव्या वर्गात आहे,” फिलिप्स म्हणतात. तिचा विश्वास आहे की परस्परसंवादामुळे तिच्या आणि कुटुंबामध्ये विश्वास निर्माण झाला. जेव्हा विद्यार्थ्याने तिला हॉलमध्ये पास केले तेव्हा तो तिला अभिवादन करण्यासाठी एक मुद्दा करतो, ती जोडते.

बजेटमधील कमतरता आणि मर्यादित मानसिक आरोग्य कर्मचारी, इंटरलाचेन ज्युनियर-सीनियर हायस्कूल, जिथे फिलिप्स काम करतात, विद्यार्थ्यांच्या मानसिक आरोग्याच्या गरजा तपासण्यासाठी AI प्लॅटफॉर्म वापरत आहेत.

फिलिप्सच्या जिल्ह्याने तीन वर्षांपासून ॲलॉन्गसाइड ही स्वयंचलित विद्यार्थी देखरेख प्रणाली वापरली आहे. 2022 पासून किमान नऊ कंपन्यांना निधी सौद्यांसह समान उद्देशांसाठी K-12 शाळांमध्ये विकल्या जाणाऱ्या साधनांच्या वाढत्या श्रेणीचे हे उदाहरण आहे.

सोबत म्हणते की त्याचे टूल यूएस मधील 200 पेक्षा जास्त शाळांद्वारे वापरले जाते आणि असा युक्तिवाद केला की त्याचे प्लॅटफॉर्म सामान्य टेलिहेल्थ पर्यायांपेक्षा चांगल्या सेवा देते कारण त्यात एक सामाजिक आणि भावनिक कौशल्य निर्माण करणारे चॅट टूल आहे – जिथे विद्यार्थी किवी नावाच्या लामासोबत त्यांच्या जीवनातील समस्यांबद्दल बोलतात जे त्यांना लवचिकता निर्माण करण्यास शिकवण्याचा प्रयत्न करतात – आणि त्याची AI-व्युत्पन्न सामग्री सीलिनद्वारे तयार केली जाते. प्रणाली संसाधन-टॅप शाळा देते, विशेषतः ग्रामीण भागातगंभीर मानसिक आरोग्य संसाधनांमध्ये प्रवेश, कंपनी प्रतिनिधी म्हणतात.

AI हा ट्रम्प प्रशासनाचा मुख्य घटक आहे राष्ट्रीय शिक्षण अजेंडा तरीही, काही पालक, शिक्षक आणि, वाढत्या प्रमाणात, कायदेतज्ज्ञ, किशोरवयीन मुलांच्या वाढीपासून सावध आहेत. पडद्यासमोर वेळ. राज्यांनीही सुरुवात केली आहे टेलिहेल्थमध्ये AI चा वापर प्रतिबंधित करणे.

बरेच तज्ञ आणि कुटुंबे देखील चिंतित आहेत की विद्यार्थी एआयला खूप जोरदारपणे जोडतात. अगदी अलीकडील राष्ट्रीय सर्वेक्षणात असे दिसून आले आहे की 20% हायस्कूलर आहेत रोमँटिकरीत्या एआय वापरले किंवा कोणाला माहित आहेविद्यार्थ्यांना बॉट्सशी भावनिकरित्या जोडण्यापासून रोखण्यात लक्षणीय स्वारस्य आहे. त्यात प्रस्तावित फेडरल कायद्याचाही समावेश आहे जो एआय कंपन्यांना सक्ती करेल विद्यार्थ्यांना आठवण करून द्या की चॅटबॉट्स वास्तविक लोक नाहीत.

तरीही, तिच्या नोकरीत, फिलिप्स म्हणते की तिची शाळा वापरते ते साधन “लहान आग” विझवण्यासाठी अपवादात्मक आहे. सुमारे 360 मध्यम शालेय विद्यार्थ्यांना पाठिंबा देण्यासाठी, ब्रेकअप्स आणि त्यांना तोंड द्यावे लागणाऱ्या इतर नित्याच्या समस्यांना हाताशी धरून ठेवण्यासाठी या साधनामुळे ती संकटाच्या जवळ असलेल्या विद्यार्थ्यांसोबत तिचा वेळ केंद्रित करू शकते. शिवाय, विद्यार्थ्यांना कधीकधी भावनिक समस्या हाताळण्यासाठी AI कडे वळणे सोपे वाटते, ती म्हणते.

डिजिटल सोफ्यावर

शाळेतील समुपदेशकांचे म्हणणे आहे की, विद्यार्थ्यांना या तंत्रज्ञानावर विश्वास ठेवण्यास ते का सोयीस्कर वाटतात याची चिंता असते.

मानसिक आरोग्य व्यावसायिकांशी बोलणे भयावह असू शकते, विशेषत: पौगंडावस्थेतील मुलांसाठी, साराह कॅलिबोसो-सोटो म्हणतात, एक परवानाधारक क्लिनिकल सोशल वर्कर जी दक्षिण कॅलिफोर्निया विद्यापीठात क्लिनिकल प्रोग्राम्सच्या सहाय्यक संचालक म्हणून काम करते आणि सुझान ड्वोराक-पेक स्कूल ऑफ सोशल वर्क आणि शाळेच्या ऑनलाइन आरोग्य केंद्राच्या क्लिनिकल डायरेक्टर

पिढ्यानपिढ्याचा एक घटक देखील आहे. सोशल मीडिया आणि वेबसाइट्सद्वारे चॅट इंटरफेसचा सामना करत मोठे झालेल्या विद्यार्थ्यांना, AI इंटरफेस परिचित वाटू शकतात. आणि आज मुलांना असे आढळले आहे की फोनवर एखाद्याला कॉल करण्यापेक्षा मजकूर पाठवणे सोपे आहे, वेलस्ली सेंटर्स फॉर वुमन येथील युथ, मीडिया आणि वेलबीइंग रिसर्च लॅबच्या संचालक लिंडा चर्मरामन म्हणतात.

भावनांद्वारे कार्य करण्यासाठी AI वापरणे विद्यार्थ्यांना चेहर्यावरील हावभाव पाहणे टाळण्यास देखील अनुमती देते, ज्याची त्यांना काळजी वाटू शकते, ती पुढे सांगते. तसेच, चॅटबॉट्स अशा वेळी उपलब्ध असतात जेव्हा एखादी व्यक्ती अपॉईंटमेंट घेण्याच्या त्रासाशिवाय असू शकत नाही, चारमारमन म्हणतात.

कॅलिबोसो-सोटो म्हणतात, “दुसऱ्या माणसाशी संवाद साधण्यापेक्षा हे जवळजवळ नैसर्गिक आहे.

टेलिहेल्थ क्लिनिकसह तिच्या कामात, कॅलिबोसो-सोटोमध्ये वाढ झाली आहे संकट मजकूर ओळी आणि गप्पा ओळी. क्लिनिक कोणत्याही प्रकारचे AI वापरत नाही, ती म्हणते, परंतु नोटेकर म्हणून थेरपी सत्रांमध्ये AI आणू पाहणाऱ्या कंपन्यांकडून अनेकदा संपर्क साधला जातो.

कॅलिबोसो-सोटोच्या मतानुसार ते वाईटच आहे असे नाही. संसाधन-संकट असलेल्या शाळांसाठी, AI चा वापर “संरक्षणाची पहिली ओळ म्हणून” केला जाऊ शकतो, नियमितपणे विद्यार्थ्यांशी संपर्क साधत आणि त्यांना अधिक मदतीची आवश्यकता असेल तेव्हा त्यांना योग्य दिशेने निर्देशित करते, ती म्हणते.

Alongside च्या सेवा वापरण्यासाठी शाळेची सुरुवातीची किंमत प्रति विद्यार्थी प्रति वर्ष सुमारे $10 आहे, कंपनीच्या मते. मोठ्या जिल्ह्यांना सहसा खंड-आधारित सूट मिळते.

परंतु कॅलिबोसो-सोटोला पर्यायी सल्लागार म्हणून AI वापरण्याची चिंता आहे. विद्यार्थ्यांशी संवाद साधताना डॉक्टरांनी दिलेली समजूतदारपणा यात नाही, ती नोंदवते. मोठ्या भाषेच्या मॉडेलना मजकुरातील लक्षणे लक्षात घेण्यास प्रशिक्षित केले जाऊ शकते, परंतु एखाद्या विद्यार्थ्याशी संवाद साधताना मानवी चिकित्सक काय करू शकतो ते पाहू किंवा ऐकू शकत नाही, आवाजाचे वळण आणि शरीराच्या हालचाली ते पाहू शकत नाहीत किंवा ते सूक्ष्म निरीक्षणे किंवा वर्तन विश्वसनीयरित्या पकडू शकत नाहीत. “तुम्ही मानवी कनेक्शन, मानवी निर्णय बदलू शकत नाही,” ती जोडते.

AI निदान प्रक्रियेला गती देऊ शकते किंवा शाळेतील समुपदेशकांसाठी वेळ मोकळा करू शकते, परंतु मानसिक आरोग्यासाठी त्यावर जास्त अवलंबून न राहणे महत्त्वाचे आहे, असे चाररामन म्हणतात. तंत्रज्ञान मानवी समुपदेशकाने पकडलेल्या काही बारकावे चुकवू शकते आणि ते विद्यार्थ्यांना अवास्तव सकारात्मक मजबुतीकरण देऊ शकते. शाळांनी सर्वसमावेशक दृष्टीकोन स्वीकारणे आवश्यक आहे ज्यात कुटुंबे आणि काळजीवाहू यांचा समावेश आहे, ती तर्क करते.

तसेच, जर एखादी शाळा गंभीर प्रकरणे फिल्टर करण्यासाठी एआय हस्तक्षेपाचा वापर करत असेल, तर विद्यार्थी वैद्यकीयदृष्ट्या प्रशिक्षित मानवांशी कमी वारंवार संपर्क साधत आहेत की नाही याकडे लक्ष देणे योग्य आहे, कॅलिबोसो-सोटो म्हणतात.

त्याच्या भागासाठी, सोबत प्रतिनिधी म्हणतात, प्लॅटफॉर्म मानवी थेरपीची जागा म्हणून नाही. ॲलॉन्गसाइडसाठी युवा सल्लागार म्हणून काम करणाऱ्या वॉशिंग्टन युनिव्हर्सिटीच्या कनिष्ठ अवा श्रॉपशायर म्हणतात, ॲप प्रौढांकडून मदत मिळविण्यासाठी एक पाऊल आहे. तिचे म्हणणे आहे की ॲप मानसिक आरोग्य आणि सामाजिक-भावनिक शिक्षण विद्यार्थ्यांना अधिक सामान्य बनवते आणि त्यांना मानवी मदत घेण्यास प्रवृत्त करते.

तरीही, काही विद्यार्थ्यांना वाटते की हे बँड-एड सर्वोत्तम आहे.

सामाजिक जबाबदारी

“तुम्ही इतिहासातील दुसऱ्या वेळेचा विचार करू शकता जेव्हा लोक इतके एकाकी होते, जेव्हा आमचे समुदाय इतके कमकुवत होते?” यंग पीपल्स अलायन्सचे कार्यकारी संचालक सॅम हिनर यांना विचारले, उत्तर कॅरोलिना-आधारित संस्था जी राजकारण आणि धोरणनिर्मितीमध्ये अधिक तरुणांच्या सहभागासाठी लॉबिंग करते.

आर्थिक उलथापालथीच्या काळात, तंत्रज्ञान आणि सोशल मीडियाने विद्यार्थी एकमेकांपासून हाताळले आणि वेगळे केले आणि त्यामुळे समुदाय आणि आपुलकीची तीव्र तळमळ निर्माण झाली, हिनर म्हणतात.

विद्यार्थ्यांना ते जिथे मिळेल तिथे मिळेल, जरी ते ChatGPT द्वारे असले तरीही, तो जोडतो.

यंग पीपल्स अलायन्स प्रकाशित AI चे नियमन करण्यासाठी एक फ्रेमवर्क जे तंत्रज्ञानाच्या काही उपचारात्मक वापरास अनुमती देते.

परंतु सर्वसाधारणपणे, संघटना मानवी समुदायाची पुनर्बांधणी करण्यासाठी प्रयत्नशील आहे आणि जेव्हा मानवी सहवास बदलण्याची धमकी देते तेव्हा AI च्या वापराविरुद्ध सेट केले जाते, हिनर म्हणतात. “हे थेरपीचे आणि परिपूर्ण जीवन जगणे आणि सामाजिक संबंध असणे आणि मानसिक आरोग्य असणे ही एक महत्त्वाची बाब आहे,” ते पुढे म्हणतात.

म्हणून हिनरसाठी, मुख्य चिंतेचा विषय म्हणजे “पॅरासोशियल रिलेशनशिप” असे म्हणतात, जेव्हा विद्यार्थी एकतर्फी भावनिक जोड विकसित करतात, विशेषत: जेव्हा तंत्रज्ञान उपचारात्मक हेतूंसाठी शाळांमध्ये प्रवेश करते. AI असणे मौल्यवान असू शकते जे मानसिक आरोग्यासाठी देखील अभिप्राय देऊ शकते किंवा विश्लेषण करू शकते, परंतु Hiner म्हणते की AI ने इशारा देऊ नये किंवा व्यक्त करू नये की त्याची स्वतःची भावनिक स्थिती आहे – उदाहरणार्थ, विद्यार्थी वापरकर्त्याला “मला तुझा अभिमान आहे” असे म्हणणे – कारण ते संलग्नकांना प्रोत्साहन देते.

जरी प्लॅटफॉर्म अनेकदा एकाकीपणा कमी करण्याचा दावा करत असले तरी, लोक अधिक जोडलेले आहेत की नाही आणि दीर्घकालीन परिपूर्ण, जोडलेले, आनंदी जीवन जगण्यासाठी ते अधिक तयार आहेत की नाही हे ते खरोखर मोजत नाहीत, हिनर म्हणतात: “सर्व [tech platforms are] ते अनुभवत असलेल्या एकाकीपणाच्या तत्काळ भावनांसाठी हा बॉट प्रभावी क्रच म्हणून काम करत आहे की नाही हे मोजणे.”

वकिलांना काय रोखायचे आहे ते म्हणजे हे बॉट्स सामाजिक कौशल्यांचे नुकसान होण्यास कारणीभूत ठरतात कारण ते लोकांना इतर लोकांशी असलेल्या संबंधांपासून दूर खेचतात, जिथे त्यांची सामाजिक जबाबदारी असतेहिनर म्हणतो.

सीमा ढकलणे

गोपनीयता तज्ज्ञांनी लक्षात ठेवा की या चॅटबॉट्समध्ये सामान्यतः परवानाधारक थेरपिस्टशी संभाषणासाठी समान गोपनीयता संरक्षण नसते. आणि जेव्हा विद्यार्थ्यांच्या गोपनीयतेबद्दल आणि पोलिसांसोबतच्या चकमकींबद्दल चिंता जास्त असते, तेव्हा या साधनांचा वापर “अव्यवस्थित” गोपनीयतेची चिंता वाढवतो, जरी क्लिनिकल प्रशिक्षण घेतलेल्या लोकांच्या देखरेखीखाली, गोपनीयता कायदा तज्ञ म्हणतात.

कंपनी आणि पुतनाम काऊंटीमधील समुपदेशक फिलिप्स दोघेही यावर जोर देतात की, काम करण्यासाठी या प्रणालींना मानवी देखरेखीची आवश्यकता आहे. फिलिप्स यांना असे वाटते की हे साधन जिल्ह्याने वापरलेल्या इतर देखरेख साधनांपेक्षा एक सुधारणा आहे, जे विद्यार्थ्यांना मानसिक आरोग्य मदत करण्याऐवजी शालेय शिस्तीकडे निर्देशित करते.

या शालेय वर्षात, फिलिप्सने फेब्रुवारीपर्यंत AI हेल्थ टूलकडून (एकूण 393 सक्रिय वापरकर्त्यांकडून) 19 “गंभीर” सूचना नोंदवल्या. कंपनी ज्या घटनांमुळे विद्यार्थी घडले ते वेगळे करत नाही. तर असेच काही विद्यार्थी त्या 19 पैकी एकापेक्षा जास्त “गंभीर इशारे” निर्माण करत आहेत, फिलिप्स नोट.

फिलिप्सने हे साधन वापरताना हे शिकले आहे की किशोरवयीन विनोद जाणण्यासाठी माणसाला देखील आवश्यक आहे.

कारण काही सूचना अस्सल नसतात. प्रसंगी, मध्यम शालेय विद्यार्थी – सहसा मुले – या तंत्रज्ञानाच्या सीमा तपासतील, फिलिप्स म्हणतात. फिलिप्स त्याचा पाठपुरावा करतील की नाही हे तपासण्यासाठी ते चॅटमध्ये “माझ्या काकांनी मला स्पर्श केला” किंवा “माझ्या आईने मला खांबाने मारले” असे टाईप केले.

ही मुले फक्त कोणी ऐकत आहे की नाही हे पाहण्याचा प्रयत्न करत आहेत, कोणाला काळजी आहे की नाही हे तपासण्यासाठी, ती म्हणते. कधीकधी, त्यांना ते मजेदार वाटते.

जेव्हा ती चर्चा करण्यासाठी त्यांना बाजूला खेचते, तेव्हा ती त्यांच्या देहबोलीचे निरीक्षण करू शकते आणि ती बदलते की नाही, हे सुचवू शकते की टिप्पणी वास्तविक होती. जर तो विनोद असेल तर ते सहसा माफी मागतात. जेव्हा एखाद्या विद्यार्थ्याला पश्चात्ताप वाटत नाही, तेव्हा फिलिप्स कॉल करेल आणि पालकांना काय झाले ते कळवेल. परंतु या प्रकरणांमध्येही, फिलिप्सला वाटते की तिच्याकडे इतर मॉनिटरिंग सिस्टमद्वारे प्रदान केलेल्या पर्यायांपेक्षा अधिक पर्याय आहेत, जे विद्यार्थ्याला शाळेतील निलंबनाकडे संदर्भित करतील.

फिलिप्स तिच्या परस्परसंवादांवर लक्ष ठेवत असल्यामुळे, विद्यार्थी देखील विश्वास ठेवण्यास शिकतात की ती खरोखर सिस्टमचे निरीक्षण करत आहे, ती जोडते.

आणि, ती म्हणते, अशा प्रकारे प्रणालीची चाचणी करणाऱ्या मुलांची संख्या दरवर्षी कमी होत जाते.

• या लेखाची निर्मिती सह भागीदारीत करण्यात आली एडसर्जएक ना-नफा न्यूजरूम ज्यामध्ये मूळ पत्रकारिता आणि संशोधनाद्वारे शिक्षण समाविष्ट आहे. त्यांच्यासाठी साइन अप करा वृत्तपत्रे