मी स्वतःला YouTube वर अशा गोष्टी सांगत आहे जे मी कधीच सांगणार नाही. ही डीपफेक धोक्याची आहे ज्याचा आपण सामना केला पाहिजे | यानिस वरौफकीस

आयतो माझा निळा शर्ट होता, माझ्या वहिनीने दिलेली भेट, ज्याने ते सर्व दिले. याकोव्ह पेट्रोविच गोल्याडकिन, फ्योदोर दोस्तोव्हस्कीच्या द डबल या कादंबरीतील नीच नोकरशहा, एका अफाट, अवैयक्तिक सरंजामशाही व्यवस्थेमध्ये विखुरलेल्या आत्म्याचा एक अस्वस्थ करणारा अभ्यास मला याकोव्ह पेट्रोविच गोल्याडकिनबद्दल विचार करायला लावला.

हे सर्व एका आदरणीय सहकाऱ्याच्या संदेशाने सुरू झाले, ज्याने काही भू-राजकीय थीमवरील व्हिडिओ चर्चेबद्दल माझे अभिनंदन केले. मी काय बोललो ते आठवण्यासाठी मी संलग्न केलेल्या YouTube लिंकवर क्लिक केल्यावर मला काळजी वाटू लागली की माझी स्मरणशक्ती पूर्वीसारखी राहिली नाही. मी तो व्हिडिओ कधी रेकॉर्ड केला? काही मिनिटांतच मला कळले की काहीतरी गडबड आहे. मी जे बोलत होतो त्यात मला दोष आढळला म्हणून नाही, तर माझ्या लक्षात आले की व्हिडिओमध्ये मला माझ्या अथेन्स ऑफिसच्या डेस्कवर तो निळा शर्ट घालून बसलेले दाखवले आहे, ज्याने माझ्या बेटावर कधीही घर सोडले नव्हते. तो होता, माझ्या काही डीपफेक एआय डॉपेलगँगरचा व्हिडिओ.

तेव्हापासून, माझा चेहरा धारण करणारे आणि माझा आवाज संश्लेषित करणारे असे शेकडो व्हिडिओ YouTube आणि सोशल मीडियावर पसरले आहेत. या आठवड्याच्या शेवटी, आणखी एक पीक आले आहे, ज्यामध्ये व्हेनेझुएलामधील सत्तापालटाबद्दल काल्पनिक गोष्टी सांगताना मला खोलवर ओढले आहे. ते व्याख्यान देतात, मी कदाचित सांगितलेल्या गोष्टी सांगतात, कधी कधी मी कधीच बोलणार नाही अशा गोष्टींशी मिसळून जातात. ते रागावतात, ते पोंटिफिकेशन करतात. काही क्रूड आहेत, इतर अस्वस्थपणे मन वळवणारे आहेत. समर्थक त्यांना माझ्याकडे पाठवून विचारतात: “यानिस, तू खरंच ते बोललास का?” माझ्या मूर्खपणाचा पुरावा म्हणून विरोधक ते प्रसारित करतात. त्याहून वाईट म्हणजे, काहीजण असा युक्तिवाद करतात की माझे डॉपेलगँगर्स माझ्यापेक्षा अधिक स्पष्ट आणि समजूतदार आहेत. आणि म्हणून मी स्वतःला माझ्या स्वतःच्या डिजिटल कठपुतळीचा प्रेक्षक असण्याच्या विचित्र स्थितीत सापडतो, एक प्रेत टेक्नोफ्यूडल मशीन मी बर्याच काळापासून असा युक्तिवाद केला आहे की ते केवळ तुटलेले नाही, तर ते अशक्त करण्यासाठी तयार केले गेले आहे.

माझी सुरुवातीची प्रतिक्रिया Google, Meta आणि बाकीच्यांना पत्र लिहून त्यांनी हे व्हिडिओ काढून टाकण्याची मागणी केली होती. याआधी रागाच्या भरात अनेक फॉर्म भरले गेले, एक आठवडा किंवा त्याहून अधिक काळानंतर, यातील काही चॅनेल आणि व्हिडिओ काढून टाकण्यात आले, फक्त वेगवेगळ्या वेषांत झटपट दिसण्यासाठी. काही दिवसांतच मी त्याग केला: मी जे काही केले, तरीही मी दररोज कितीतरी तास खर्च केले असले तरी मोठ्या तंत्रज्ञानाने माझे नशीब आजमावले, माझ्या एआय डॉपेलगँगर्सना कमी केले, आणखी बरेच काही पुन्हा वाढतील, हायड्रासारखे.

लवकरच, रागाने चिंतनाला मार्ग दिला. शेवटी मी नव्हतो का, ज्याने वाद घातला त्या मोठ्या तंत्रज्ञानाने केवळ भांडवलशाहीचे डिजिटायझेशन केले नाही तर वस्तुत: एक महान परिवर्तन घडवून आणले, बाजारपेठेला क्लाउड फिफमध्ये आणि नफा क्लाउड भाड्यात बदलला? माझे एआय डॉपेलगँगर्स हे परिपूर्ण पुष्टीकरण नाही का, या तंत्रज्ञानाच्या वास्तवात, उदारमतवादी व्यक्ती मृत आणि दफन आहे?

स्व-मालकीच्या आंशिक नुकसानास स्वीकारून, मी या डीपफेक्सच्या तर्कसंगतीकरणामध्ये सामंतीकरणाची अंतिम कृती म्हणून सांत्वन शोधले, पुरावा की तंत्रज्ञानाच्या अंतर्गत आमच्याकडे काहीही नाही – आमच्या श्रमिक डेटा आउटपुट नाही, आमचे सामाजिक आलेख नाही आणि आता आमची दृकश्राव्य ओळख देखील नाही. आमचे नवीन स्वामी आम्हाला त्यांच्या ढगांच्या जमिनीवर भाडेकरू म्हणून पाहतात, ज्यांच्या प्रतिमेला ते संभ्रम पेरण्यासाठी, गढूळ प्रवचनासाठी, या उद्देशासाठी तयार केलेल्या कृत्रिम आवाजाच्या कोलाहलात अस्सल मतभेद बुडवण्यासाठी इच्छेनुसार योग्य करू शकतात.

पण नंतर एक सनियर विचार माझ्यावर आला, जो प्राचीन अथेन्समध्ये परत आला. माझे AI doppelgangers आश्रय देणारे होते तर? isegoria (ἰσηγορία), अस्सल लोकशाहीसारखे तेजस्वी, आश्वासक आणि अनुपस्थित तत्त्व? जेव्हा मी एआय चॅटबॉट्सच्या अनेक आवृत्त्यांना ते परिभाषित करण्यास सांगितले, तेव्हा त्या सर्वांनी कर्तव्यपूर्वक त्याचा अर्थ चुकीचा मांडला. isegoria बोलण्याची समानता, किंवा ऐकण्याचा अधिकार, किंवा संमेलनाला संबोधित करण्याचे स्वातंत्र्य. पण अथेनियन या शब्दाचा अर्थ असा नाही. खरं तर, त्यांना isegoria याचा अर्थ आजच्या अगदी उलट आहेमुक्त भाषण“, ज्याला ते शून्यात ओरडण्याचा अमूर्त अधिकार म्हणून नाकारतील. अथेनियन लोकांसाठी, याचा अर्थ तुमचा विचार गांभीर्याने, त्यांच्या गुणवत्तेवर, स्वतंत्रपणे तुम्ही कोण आहात किंवा तुम्ही त्यांना किती चांगले शब्दबद्ध करता यावरून निर्णय घेण्याचा अधिकार आहे.

कदाचित AI deepfakes तारण isegoria आमच्या टेक्नोफ्यूडल डिस्टोपियाच्या तावडीतून? YouTube व्हिडिओमध्ये कोण बोलत आहे याची पडताळणी करणे अशक्य आहे हे जेव्हा आपल्या लक्षात येते, तेव्हा कोण बोलत आहे यापेक्षा जे बोलले जात आहे त्याच्या गुणवत्तेचा न्याय करण्यास भाग पाडले जाऊ शकते का? सत्यता कमी करण्याच्या प्रक्रियेत, मोठ्या तंत्रज्ञानाने अनवधानाने दिले असेल isegoria एक संधी? या प्रश्नांनी आशेची किरण दिली.

ही आशा होती की लोकशाहीचा भूत अजूनही आपल्या डोक्यावर घिरट्या घालत असेल तरच आपल्याला पहाण्याची, संथ, कठीण, लोकशाही श्रमात गुंतण्याची प्रेरणा मिळाली जी अल्गोरिदमिक फीड नष्ट करण्यासाठी डिझाइन केली गेली होती: आपल्यावर फेकलेल्या दृश्यांचे आणि युक्तिवादांचे गंभीर मूल्यांकन. अरेरे, ही आशा, जरी मूर्त असली तरी, जोपर्यंत आपले तंत्रज्ञानवादी प्रभू दोन प्रचंड, विषम फायदे राखून ठेवतात तोपर्यंत अपुरी आहे.

प्रथम, ते मालकीचे आता स्वतः – सर्व्हर, फीड, संप्रेषणाचे अल्गोरिदमिक माध्यम. शंका आणि गोंगाटाच्या दलदलीत आपल्याला बुडवून ते स्वतःचे भाषण डिजिटल सीलने अस्सल म्हणून अभिषेक करू शकतात. परिणाम? नाही isegoria, परंतु एक डिजिटल दैवी अधिकार जिथे सत्य ही शक्तीची पेटंट केलेली मालमत्ता आहे.

दुसरे, आणि अधिक धूर्तपणे, त्यांना शासन करण्यासाठी कोणत्याही डीपफेकची आवश्यकता नाही. त्यांची विचारधारा मध्ये एम्बेड केलेले आहे मशीन: करण्याची शक्ती अतिरिक्त मूल्य काढा विविध डिजिटल उपकरणांद्वारे क्लाउडशी जोडलेल्या सर्वहारा लोकांकडून, त्यांच्या प्लॅटफॉर्मवरील भांडवलदारांकडून क्लाउड भाडे काढण्याचे तर्क, शेअरहोल्डर मूल्याची जुलूमशाही, येथे त्यांचे निकटचे यश पैशाचे खाजगीकरण.

त्यामुळे या प्रभूंना पडताळणीसाठी भीक मागणे हे आमचे कार्य नाही. आमचे कार्य राजकीय आहे. आपण क्लाउड कॅपिटलचे सामाजिकीकरण केले पाहिजे, समाजात परिवर्तन करणारी सर्व-शक्तिशाली नवीन शक्ती आणि मानवतावादाची कल्पना करता येणारी प्रत्येक गोष्ट नष्ट केली पाहिजे.

तोपर्यंत आमच्या डिजिटल डॉपलगँगर्सना बोलू द्या. कदाचित ते तमाशा इतका भरून काढतील की आपण शेवटी ऐकणे थांबवतो आमचा आवाज आणि न्याय सुरू करा युक्तिवाद त्यांच्या स्वतःच्या अटींवर. हॉल ऑफ मिररमध्ये आशा करण्याचा हा कदाचित सर्वात विरोधाभासी भाग आहे. पण या कार्निव्हलमध्ये, आम्हाला शक्य होणारे प्रत्येक तुकडा आम्ही समजून घेतो.