सामाजिक कार्यकर्त्यांचे AI टूल मुलांकडून खात्यांचे ‘अस्पष्ट’ उतारे बनवते | सामाजिक कार्य

AI टूल्स सामाजिक कार्याच्या नोंदींमध्ये संभाव्य हानीकारक चुका करत आहेत, आत्महत्येच्या विचारसरणीच्या बोगस इशाऱ्यांपासून ते साध्या “गिबरीश” पर्यंत, फ्रंटलाइन कामगारांनी म्हटले आहे.

केयर स्टारर गेल्या वर्षी विजेता ज्याला त्याने “अविश्वसनीय” वेळ वाचवणारे सामाजिक कार्य ट्रान्सक्रिप्शन तंत्रज्ञान म्हटले. परंतु गार्डियनसोबत शेअर केलेल्या १७ इंग्रजी आणि स्कॉटिश कौन्सिलमधील संशोधनात असे आढळून आले आहे की AI-व्युत्पन्न केलेले मतिभ्रम कमी होत आहेत.

प्रौढ आणि बाल सेवा वापरकर्त्यांसोबतच्या मीटिंगचे रेकॉर्डिंग आणि सारांश वाढवण्यासाठी अनेक स्थानिक अधिकारी AI नोट-टेकर्सचा वापर करू लागल्याने, Ada Lovelace संस्थेच्या आठ महिन्यांच्या अभ्यासात असे आढळून आले आहे की “अधिकृत काळजी नोंदींमध्ये लोकांच्या अनुभवांचे काही संभाव्य हानीकारक चुकीचे वर्णन केले जात आहे”.

स्वतंत्र थिंकटँकला असे आढळून आले की सारांश तयार करण्यासाठी AI ट्रान्सक्रिप्शन टूल वापरलेल्या एका सामाजिक कार्यकर्त्याने सांगितले की तंत्रज्ञानाने चुकीच्या पद्धतीने “आत्महत्येची विचारसरणी असल्याचे सूचित केले आहे”, परंतु “क्लायंटने प्रत्यक्षात … आत्महत्येची विचारधारा किंवा नियोजन किंवा कशाबद्दलही बोलले नाही”.

दुसऱ्याने सांगितले की AI च्या नोट्स “फिशफिंगर्स किंवा फ्लाय किंवा झाडे” असा संदर्भ घेऊ शकतात जेव्हा एखादे मूल त्यांच्या पालकांबद्दल भांडण करत होते. सामाजिक कार्य तज्ञांनी सांगितले की अशा त्रुटी विशेषतः चिंताजनक आहेत कारण यामुळे वर्तनाचा धोकादायक नमुना चुकू शकतो.

इतर सामाजिक कार्यकर्त्यांनी प्रादेशिक उच्चार असलेल्या लोकांशी लिप्यंतरण केलेल्या संभाषणातील अयोग्यतेबद्दल चिंता व्यक्त केली. एकाने वर्णन केले आहे की त्यांच्या AI-व्युत्पन्न प्रतिलेखनात अनेकदा “अस्पष्ट” समाविष्ट होते. दुसरा म्हणाला: “हे ऑफिसमध्ये एक विनोद बनले आहे.”

क्रॉयडन ते रेडकार आणि क्लीव्हलँड पर्यंतच्या डझनभर परिषदांनी सामाजिक कार्यकर्त्यांना एआय ट्रान्सक्रिप्शन टूल्समध्ये प्रवेश दिला आहे, जे केस संभाषण रेकॉर्ड आणि सारांशित करतात. कर्मचाऱ्यांची तीव्र कमतरता असलेल्या टाऊन हॉलमध्ये संभाव्य वेळेची बचत आकर्षक आहे.

मॅजिक नोट्स नावाची एक लोकप्रिय प्रणाली आहे परिषदांना विकले प्रतिलेखनाच्या प्रत्येक तासासाठी £1.50 आणि £5 च्या दरम्यान खर्च. मुलाखत घेतलेल्या बहुतेक सामाजिक कार्यकर्त्यांनी एकतर तज्ञ मॅजिक नोट्स AI किंवा सामान्य उद्देश Microsoft Copilot AI वापरले.

संशोधनात हे देखील आढळले आहे की AI ट्रान्सक्रिप्शनने निरीक्षण करण्यायोग्य वेळेची बचत केली आणि सेवा वापरकर्त्यांसोबतच्या संबंधांवर अधिक लक्ष केंद्रित करण्यासाठी सामाजिक कार्यकर्त्यांना मुक्त केले.

“आमचे पुरावे हे दर्शविते की ही साधने काळजी घेण्याच्या कामाचे संबंधात्मक पैलू आणि सामाजिक कार्यकर्त्यांनी नोंदवलेल्या माहितीची गुणवत्ता सुधारू शकतात,” असे 39 अज्ञात सामाजिक कार्यकर्त्यांच्या मुलाखतीनंतर म्हटले आहे.

परंतु जेव्हा एका सामाजिक कार्यकर्त्याने काळजी दस्तऐवज अधिक “व्यक्ती-केंद्रित” टोनमध्ये रीड्राफ्ट करण्यासाठी एआय टूलचा वापर केला, तेव्हा सिस्टमने “हे सर्व शब्द जे सांगितले गेले नाहीत” समाविष्ट केले. दुसऱ्या एका सामाजिक कार्यकर्त्याने नोंदवले की तंत्रज्ञानाने “तुमचे मूल्यांकन आणि AI चे मूल्यांकन यामधील सीमा ओलांडली आहे”.

“या नोंदींमध्ये प्रवेश करणाऱ्या AI-उत्पादित चुकीचे दूरगामी परिणाम होऊ शकतात, जसे की एखाद्या सामाजिक कार्यकर्त्याने मुलाच्या काळजीबद्दल चुकीचा निर्णय घेतला, ज्यामुळे मुलाचे नुकसान होऊ शकते आणि सामाजिक कार्यकर्त्यासाठी व्यावसायिक परिणाम होऊ शकतात,” अहवालात निष्कर्ष काढला.

ब्रिटीश असोसिएशन ऑफ सोशल वर्कर्स (BASW) च्या म्हणण्यानुसार, एआय नोट-टेकर्सचे आउटपुट योग्यरित्या तपासण्यात अयशस्वी झाल्याबद्दल आणि स्पष्ट त्रुटी गहाळ झाल्याबद्दल शिस्तभंगाच्या कारवाईच्या अहवालांसह, एआय त्रुटींचा प्रभाव व्यवसायात आधीच जाणवत आहे. हे सामाजिक कार्य नियामकांना AI टूल्स कसे आणि केव्हा वापरावे याबद्दल स्पष्ट मार्गदर्शन जारी करण्याचे आवाहन करत आहे.

काही सामाजिक कार्यकर्त्यांमध्ये त्यांच्या क्षमतेबद्दल “वास्तविक उत्साह” असताना, “ही साधने सामाजिक कार्य आणि समाजासाठी नवीन जोखीम देखील सादर करतात, अहवाल सारांशातील संभाव्य पूर्वाग्रहापासून ते प्रतिलेखांमधील चुकीच्या ‘भ्रांती’ पर्यंत,” इमोजेन पार्कर, Ada Lovelace चे सहयोगी संचालक म्हणाले. “या जोखमींचे पूर्णपणे मूल्यांकन केले जात नाही किंवा कमी केले जात नाही, फ्रंटलाइन कामगारांना या आव्हानांना स्वतःहून नेव्हिगेट करण्यासाठी सोडले जाते.”

सामाजिक कार्यकर्त्यांना सहसा थोडेसे एआय प्रशिक्षण मिळते – एका प्रकरणात फक्त एक तास. काही सामाजिक कार्यकर्त्यांनी सांगितले की त्यांनी एआय प्रतिलेख तपासण्यात एक तास घालवला, तर इतरांनी सांगितले की त्यांनी फक्त दोन मिनिटे घालवली. एकाने सांगितले की त्यांना “अक्षरशः पटकन स्क्रीन करण्यासाठी पाच मिनिटे लागली […] आणि नंतर सिस्टमवर कट आणि पेस्ट करा.” दुसऱ्याने सांगितले की AI-व्युत्पन्न कट-आणि-पेस्ट काळजी योजना “भयानकपणे” वाचू शकतात.

इतरांनी सांगितले की काही सहकारी प्रतिलेख तपासण्यात खूप आळशी किंवा व्यस्त होते.

“येथे धोका असा आहे की लोक त्यांच्यासाठी काय लिहिले आहे ते तपासत नाहीत,” अँड्र्यू रीस म्हणाले, BASW धोरणात्मक आघाडीचे इंग्लंड आणि वेल्स. “तुम्ही लिहिण्यात घालवलेल्या वेळेमुळे तुम्ही जे ऐकले आहे ते समजण्यास मदत होते. जर संगणक तुमच्यासाठी असे करत असेल, तर तुम्ही प्रतिबिंबित सरावाचे महत्त्वाचे भाग गमावत आहात.”

मॅजिक नोट्स चालवणाऱ्या बीमने जोर दिला की त्याचे आउटपुट हा पहिला मसुदा होता, अंतिम रेकॉर्ड नाही. “एआय टूल्स चांगल्या कारणास्तव सामाजिक कार्यकर्त्यांकडून स्वीकारले जात आहेत,” सेब बार्कर, त्याचे सह-संस्थापक म्हणाले. “सेवा भारावून गेल्या आहेत आणि त्यात प्रवेश करणे कठीण आहे; सामाजिक कार्यकर्त्यांची एक पिढी बर्नआउट होण्याचा धोका आहे आणि अचूक, सुसंगत कागदपत्रांच्या गरजा वाढत आहेत.”

ते म्हणाले की पक्षपातीपणाच्या मूल्यांकनात मॅजिक नोट्स “सातत्यपूर्ण आणि समान रीतीने” कार्य करत असल्याचे आढळले आहे आणि स्वयंचलित भ्रमनिरास जोखीम तपासणीसह सामाजिक कार्यासाठी त्यांची तज्ञ वैशिष्ट्ये हायलाइट केली आहेत. “सर्व एआय टूल्स सारखी नसतात, विशेष नसलेली, कमी दर्जाची किंवा जेनेरिक साधने या क्षेत्राच्या विशिष्ट गरजा पूर्ण करत नाहीत,” तो म्हणाला.

यूके सरकार आणि मायक्रोसॉफ्टला टिप्पणीसाठी संपर्क साधण्यात आला.