ऑर्वेलच्या 1984 आणि ट्वायलाइटसह ‘अयोग्य’ पुस्तकांची लायब्ररी शुद्ध करण्यासाठी शाळेने एआयचा वापर केला, ग्रंथपालांना ‘सेफगार्डिंग रिस्क’ असे नाव दिले

एका शाळेने आपल्या ग्रंथालयातील जॉर्ज ऑरवेलच्या 1984 आणि स्टेफनी मेयरच्या ट्वायलाइटसह पुस्तके सेन्सॉर करण्यासाठी कृत्रिम बुद्धिमत्तेचा वापर केला, प्रचारकांचा दावा आहे.

इंडेक्स ऑन सेन्सॉरशिपने केलेल्या तपासणीत आढळले की ग्रेटर मँचेस्टरमधील एका माध्यमिक शाळेने लायब्ररीतून काढण्यासाठी जवळपास 200 पुस्तके ठेवली होती जी ‘अयोग्य’ मानली गेली होती.

यांचाही समावेश होता मिशेल ओबामानिकोलस स्पार्क्सचे आत्मचरित्र, बिकमिंग आणि द नोटबुक.

मुक्त अभिव्यक्तीसाठी मोहीम राबवणारी चॅरिटी शाळेला मिळाली म्हणते AI प्रत्येक पुस्तक विद्यार्थ्यांसाठी का योग्य नव्हते याचे समर्थन करणारे सारांश तयार करणे.

आश्चर्यकारकपणे, शाळेच्या ग्रंथपालालाही ‘सेफगार्डिंग’ चौकशीत ठेवण्यात आले होते – लायब्ररीतील पुस्तकांना परवानगी दिल्याबद्दल – तिने राजीनामा दिला होता.

इंडेक्सने सांगितले की ती असुरक्षित असल्याने ते ग्रंथपाल किंवा शाळेचे नाव उघड करणार नाही.

सुरुवातीला बरीच पुस्तके काढून टाकण्यात आली असली तरी, यादीतील सर्व पुस्तके लायब्ररीतून बंदी आहेत की नाही हे माहित नाही.

शाळेच्या ग्रंथपालाने या आठवड्यात या प्रकरणाचा पर्दाफाश केला, तिने नाव न सांगण्याच्या अटीवर संस्थेशी संवाद साधला.

एका शाळेने आपल्या ग्रंथालयातील जॉर्ज ऑरवेलच्या 1984 आणि स्टेफनी मेयरच्या ट्वायलाइटसह पुस्तके सेन्सॉर करण्यासाठी कृत्रिम बुद्धिमत्तेचा वापर केला, प्रचारकांचा दावा (चित्र: क्रिस्टन स्टीवर्ट आणि रॉबर्ट पॅटिनसन 2008 ट्वायलाइट चित्रपटातील स्टार)

इंडेक्स ऑन सेन्सॉरशिपच्या तपासणीत आढळले की ग्रेटर मँचेस्टरमधील एका माध्यमिक शाळेने त्याच्या लायब्ररीतून जवळपास २०० पुस्तके काढून टाकली आहेत जी ‘अयोग्य’ मानली गेली होती (चित्र: 1984 ची ग्राफिक कादंबरी आवृत्ती, Matyáš Namai द्वारे रुपांतरित)

ती म्हणाली की शुद्धीकरण नोव्हेंबर 2025 मध्ये सुरू झाले, जेव्हा मुख्याध्यापकांनी लॉरा बेट्सचे नॉनफिक्शन शीर्षक पुरुष हू हेट वुमन काढून टाकण्याची मागणी केली, जे इनसेल संस्कृतीचे प्रदर्शन आहे.

हे पुस्तक मोठ्या विद्यार्थ्यांसाठी एका विशेष विभागात ठेवण्यात आले असले तरीही ‘मिसॉगिनिस्टिक विश्वासांच्या प्रदर्शनामुळे’ हे पुस्तक अयोग्य आहे असे डोक्याला वाटले.

या घटनेच्या मागे, शाळेने नंतर ग्रंथपालाची ‘तपास’ सुरू केली आणि ‘तात्पुरता सुरक्षितता उपाय’ म्हणून ग्रंथालय बंद केले.

त्यानंतर तिला ‘मुलांसाठी लिहिलेले नाही’, ‘मुलांना अस्वस्थ करणाऱ्या थीम’ आणि ‘अयोग्य किंवा सुरक्षिततेचा धोका निर्माण करणारे’ असे कोणतेही पुस्तक काढून टाकण्यास सांगितले गेले.

तिने इंडेक्सला सांगितले: ‘मी पूर्णपणे गब्बर झालो होतो. मी जे ऐकत होतो त्यावर माझा विश्वास बसत नव्हता.’

शाळेने ‘अयोग्य’ पुस्तके सादर केल्यामुळे तिला सुरक्षिततेचा धोका म्हणून परिषदेला कळवले – आणि घोर गैरवर्तन कारवाईचा धोका देखील होता.

शाळेने तिच्यासोबत 193 पुस्तकांची यादी शेअर केली जी तिला अनुचित वाटली, इंडेक्सने पाहिले.

इंडेक्सने सांगितले की त्यांनी आणखी एक दस्तऐवज पाहिला आहे ज्यामध्ये शाळेने कबूल केले की सेन्सॉरशिपसाठी दिलेली कारणे एआयने लिहिलेली आहेत.

या यादीत मिशेल ओबामा यांचे आत्मचरित्र, बिकमिंग (चित्रात) देखील समाविष्ट आहे.

निकोलस स्पार्क्स (चित्र) ची नोटबुक देखील सूचीबद्ध आहे, जी 2004 मध्ये रायन गॉसलिंग आणि रॅचेल मॅकॲडम्स अभिनीत चित्रपटात बनवली होती.

दस्तऐवजात म्हटले आहे: ‘जरी वर्गीकरण AI वापरून व्युत्पन्न केले गेले होते, तरी मी हे वर्गीकरण व्यापकपणे अचूक मानतो.’

यादीसाठी पुस्तके निवडण्यात एआयचाही सहभाग होता की नाही हे माहित नाही.

या यादीमध्ये 1984 च्या ग्राफिक कादंबरी आवृत्तीचा समावेश आहे, ज्यामध्ये Matyáš Namai द्वारे चित्रित केले आहे, ज्यामध्ये AI-व्युत्पन्न सारांश चेतावणी आहे ज्यामध्ये ‘छळ, हिंसा, लैंगिक बळजबरी’ या थीम होत्या.

दरम्यान, ट्वायलाइट, ज्याची शिफारस सामान्यतः 14 वर्षे आणि त्याहून अधिक वयोगटातील विद्यार्थ्यांसाठी केली जाते, ‘परिपक्व रोमँटिक थीम, लैंगिक तणाव आणि व्हॅम्पायर आणि वेअरवॉल्व्ह्सचा समावेश असलेल्या हिंसाचारामुळे’ सूचीबद्ध केले गेले.

मिशेल ओबामा यांचे पुस्तक ‘वंशवाद आणि राजकीय थीम’मुळे सूचीबद्ध केले गेले, तर निकोलस स्पार्क्सच्या नोटबुकची यादी विचित्रपणे, ‘प्रेम आणि स्मृती कमी होण्याबद्दलचे रोमँटिक ड्रामा’ असल्याने.

रायन गॉस्लिंग आणि रॅचेल मॅकॲडम्स अभिनीत 2004 मध्ये एका चित्रपटात बनवलेली ही कादंबरी, अल्झायमर असलेल्या आपल्या पत्नीला त्यांचे एकत्र जीवन लक्षात ठेवण्यास मदत करण्यासाठी एका समर्पित पतीच्या प्रवासाबद्दल आहे.

आणि टेरी प्रॅचेटची विनोदी काल्पनिक कादंबरी सोल म्युझिक देखील ‘प्रौढ प्रेक्षक सामग्री’साठी सेन्सॉरची चुकीची ठरली ज्यात ‘लैंगिक सामग्री, हिंसाचार, गैरवर्तन, पदार्थांचा गैरवापर किंवा मानसिक त्रासदायक विषयांचा समावेश असू शकतो’.

या यादीत झाडी स्मिथचे व्हाईट टूथ, डॅन ब्राउनचे द दा विंची कोड आणि अभिनेता ॲलन रिकमनचे आत्मचरित्र, मॅडली डीपली यांचाही समावेश आहे.

ग्रंथपालाने तणावामुळे आजारी पडल्यामुळे स्वाक्षरी केली आणि अखेरीस राजीनामा दिला, परंतु कौन्सिल सेफगार्डिंग तक्रार पुढे गेली आणि ‘अयोग्य सामग्री’ असलेल्या ‘एकाधिक पुस्तकां’मुळे ‘सुरक्षित प्रक्रियेचे पालन करण्यात अयशस्वी’ झाल्यामुळे ती कायम राहिली.

काही पुस्तके तिच्या व्यतिरिक्त इतर लोकांनी ऑर्डर केली होती आणि ती म्हणते की तिच्या लाइन मॅनेजरने सर्व खरेदीवर सही केली.

ग्रंथपालांना स्कूल लायब्ररी ग्रुप (SLG), चार्टर्ड इन्स्टिट्यूट ऑफ लायब्ररी अँड इन्फॉर्मेशन प्रोफेशनल्स (CILIP) चा एक भाग द्वारे समर्थित आहे.

SLG चे चेअर कॅरोलिन रोशे यांनी इंडेक्सला सांगितले: ‘हे सर्वात वरचे आहे. त्यामुळे तिचे करिअर उद्ध्वस्त झाले आहे.

‘हे खरं आहे की ते सुरक्षिततेच्या मार्गाने गेले आहे [she] पुन्हा कधीही शाळेत काम करू शकणार नाही.’

शालेय ग्रंथालयांसाठी कोणतेही वैधानिक मार्गदर्शन नसल्यामुळे ग्रंथपाल मुख्याध्यापकांच्या मागण्यांसाठी असुरक्षित असल्याने हे प्रकरण उद्भवल्याचे इंडेक्सने म्हटले आहे.

इंडेक्सच्या प्रवक्त्याने सांगितले: ‘इंडेक्सचा विश्वास आहे की ही कथा प्रचंड सार्वजनिक हिताची आहे. वाचन स्वातंत्र्य आणि बौद्धिक स्वातंत्र्यावर हा अभूतपूर्व हल्ला आहे, जिथे शाळेच्या ग्रंथपालांना धमकावण्यासाठी आणि लक्ष्य करण्यासाठी महत्त्वपूर्ण सुरक्षा उपायांचा गैरवापर केला गेला आहे. ही ग्रंथपाल आता तिची नोकरी करू शकत नाही.’

वर संपूर्ण तपास उपलब्ध आहे सेन्सॉरशिप वेबसाइटवर अनुक्रमणिका.

11 ते 16 वयोगटातील विद्यार्थ्यांची पूर्तता करणाऱ्या शाळेने इंडेक्सच्या टिपण्याच्या विनंत्यांना प्रतिसाद दिलेला नाही.