जागतिक होलोकॉस्ट स्मरण दिन म्हणून, “एआय स्लॉप” इतिहासाच्या पुनर्लेखनाबद्दल चिंता

मंगळवारी जागतिक होलोकॉस्ट स्मरण दिन म्हणून, तज्ञांनी चेतावणी दिली की “एआय स्लॉप” च्या पूरमुळे नाझी गुन्ह्यांची आणि द्वितीय विश्वयुद्धात मारल्या गेलेल्या लाखो ज्यू लोकांच्या स्मृती जतन करण्याच्या प्रयत्नांना धोका आहे.

AFP वृत्तसंस्थेने पाहिलेल्या प्रतिमांमध्ये नाझी एकाग्रता शिबिरात फ्लॉसेनबर्ग येथे बर्फात उभा असलेला एक अशक्त आणि वरवर पाहता अंध माणूस आणि ट्रायसायकलवरील कुरळे केस असलेल्या एका लहान मुलीची व्हायरल प्रतिमा 13 वर्षांची बर्लिनर आहे जी ऑशविट्झ संहार छावणीत मरण पावली.

अशा प्रकारचा मजकूर — व्यावसायिक फायद्यासाठी किंवा राजकीय हेतूंसाठी क्लिकबायट म्हणून तयार केला असला तरी — गेल्या वर्षभरात वाढला आहे, दुसऱ्या महायुद्धात नाझी जर्मनीने साठ लाख युरोपियन ज्यूंच्या हत्येचा इतिहास विकृत केला आहे.

सुरुवातीची उदाहरणे 2025 च्या वसंत ऋतूमध्ये उदयास आली, परंतु वर्षाच्या अखेरीस, “एआय स्लॉप” या विषयावर “फार वारंवार दर्शविले जात होते,” असे इतिहासकार आयरिस ग्रोशेक यांनी एएफपीला सांगितले.

काही साइट्सवर, अशा सामग्रीची उदाहरणे प्रति मिनिट एकदा पोस्ट केली जात होती, असे ग्रोशेक म्हणाले, जे हॅम्बुर्गमधील होलोकॉस्ट स्मारक साइटवर काम करतात, ज्यामध्ये न्यूएन्गॅमे एकाग्रता शिबिराचा समावेश आहे.

AI मधील घातांकीय प्रगतीमुळे, “घटना वाढत आहे,” जेन्स-ख्रिश्चन वॅगनर, बुचेनवाल्ड आणि मिटेलबाऊ-डोरा स्मारकांचे व्यवस्थापन करणाऱ्या फाउंडेशनचे संचालक, यांनी AFP ला सांगितले.

अनेक होलोकॉस्ट स्मारके आणि स्मारक संघटनांनी या महिन्यात जारी केले खुले पत्र या “पूर्णपणे बनावट” सामग्रीच्या वाढत्या प्रमाणाबद्दल चेतावणी.

त्यापैकी काही कंटेंट फार्म्सद्वारे मंथन केले जातात जे “किमान प्रयत्नात जास्तीत जास्त पोहोचण्यासाठी होलोकॉस्टच्या भावनिक प्रभावाचा फायदा घेतात,” असे त्यात म्हटले आहे.

फ्लॉसेनबर्ग शिबिरातील चित्र या श्रेणीत येते, कारण ते शेअर करण्याचा दावा करणाऱ्या पृष्ठावर दाखवण्यात आले होते, “भूतकाळातील सर्वात गडद अध्यायातील सत्य, मानवी कथा.”

परंतु स्मारकांनी चेतावणी दिली की बनावट सामग्री देखील तयार केली जात आहे, “विशेषत: ऐतिहासिक तथ्ये सौम्य करण्यासाठी, पीडित आणि गुन्हेगारांच्या भूमिका बदलण्यासाठी किंवा पुनरावृत्तीवादी कथा पसरवण्यासाठी.”

वॅग्नर, उदाहरणार्थ, उशिर “सुख घेतलेल्या कैद्यांच्या प्रतिमांकडे निर्देश करतात, याचा अर्थ एकाग्रता शिबिरांमधील परिस्थिती खरोखर इतकी वाईट नव्हती.”

फ्रँकफर्ट-आधारित ॲन फ्रँक शैक्षणिक केंद्राने एआय-व्युत्पन्न सामग्री आणि प्रचाराचा “पूर” येण्याचा इशारा दिला आहे “ज्यामध्ये होलोकॉस्टला नकार दिला जातो किंवा क्षुल्लक केले जाते, त्याच्या बळींची थट्टा केली जाते.”

इतिहासाचा विपर्यास करून, AI-व्युत्पन्न केलेल्या प्रतिमांचे “लोक कसे नाझी युगाला कसे समजतात याचे अत्यंत ठोस परिणाम आहेत,” ग्रोशेक म्हणाले.

होलोकॉस्टला क्षुल्लक किंवा नाकारण्याचे परिणाम शिबिरांमध्ये काही तरुण अभ्यागतांच्या वृत्तीमध्ये दिसून आले आहेत, विशेषत: “पूर्व जर्मनीच्या ग्रामीण भागातून … ज्यामध्ये अतिउजव्या विचारसरणीचे वर्चस्व आहे,” वॅगनर म्हणाले.

त्यांच्या खुल्या पत्रात, स्मारकांनी सोशल मीडिया प्लॅटफॉर्मवर “इतिहास विकृत करणाऱ्या एआय सामग्रीचा सक्रियपणे सामना करण्यासाठी” आणि “सर्व कमाई कार्यक्रमांमधून अशी सामग्री प्रसारित करणारी खाती वगळण्याची” विनंती केली.

“या तंत्रज्ञानासाठी नैतिक आणि ऐतिहासिकदृष्ट्या जबाबदार मानके विकसित करणे हे संपूर्ण समाजासाठी आव्हान आहे,” ते म्हणाले: “प्लॅटफॉर्म ऑपरेटरची या संदर्भात एक विशिष्ट जबाबदारी आहे.”

जर्मन संस्कृती मंत्री वोल्फ्राम वेमर यांनी एएफपीला दिलेल्या निवेदनात म्हटले आहे: “एआय-व्युत्पन्न केलेल्या प्रतिमांना स्पष्टपणे लेबल करण्यासाठी आणि आवश्यक असल्यास त्या काढून टाकण्यासाठी मी स्मारकांच्या आवाहनाचे समर्थन करतो.”

अशा प्रतिमेतून पैसे कमावण्यास प्रतिबंध केला पाहिजे, असे ते म्हणाले.

“नाझींच्या दहशतवादाच्या कारकिर्दीत मारले गेलेल्या आणि छळलेल्या लाखो लोकांसाठी ही आदराची बाब आहे,” त्यांनी व्यासपीठांची आठवण करून देत म्हटले. EU च्या डिजिटल सेवा कायद्यांतर्गत दायित्वे.

ग्रोशेक म्हणाले की, फेसबुक आणि इंस्टाग्रामचे मालक मेटा यांच्यासह कोणत्याही अमेरिकन सोशल मीडिया कंपनीने मेमोरियलच्या पत्राला प्रतिसाद दिला नाही.

Groschek च्या मते, TikTok ने प्रश्नातील खाती मुद्रीकरणातून वगळून “स्वयंचलित पडताळणी” लागू करायची आहेत असे सांगून प्रतिसाद दिला.