‘हे एखाद्याला पूर्णपणे अपमानित करण्याबद्दल होते’: मिस्टर डीपफेक्सची कथा – जगातील सर्वात कुख्यात एआय पॉर्न साइट | तंत्रज्ञान

Patrizia Schlosser साठी, त्याची सुरुवात एका सहकाऱ्याच्या माफी मागून झाली. “मला माफ करा पण मला हे सापडले आहे. तुम्हाला याची जाणीव आहे का?” त्याने एक लिंक पाठवली, जी तिला मिस्टर डीपफेक्स नावाच्या साइटवर घेऊन गेली. तेथे, तिला स्वतःच्या, नग्न, स्क्वॅटिंग, साखळदंड, विविध प्राण्यांसोबत लैंगिक कृत्ये करणाऱ्या बनावट प्रतिमा आढळल्या. त्यांना “पॅट्रिझिया श्लोसर स्लूटी फंक वेश्या” (sic) टॅग केले गेले.

“ते खूप ग्राफिक होते, अतिशय अपमानास्पद होते,” नॉर्डड्यूशर रंडफंक (एनडीआर) चे जर्मन पत्रकार श्लोसर म्हणतात आणि फंक. “ते देखील खूप वाईट रीतीने केले गेले होते, ज्यामुळे माझ्यापासून दूर राहणे सोपे झाले आणि ते स्पष्टपणे बनावट आहेत हे स्वतःला सांगणे सोपे झाले. परंतु कोणीतरी इंटरनेटवर माझे फोटो शोधण्यात, हे सर्व एकत्र ठेवून तासनतास घालवत असल्याची कल्पना करणे खूप त्रासदायक होते.”

पॉर्न उद्योगात तिच्या पूर्वीच्या उच्च-प्रोफाइल तपासा असूनही, श्लोसरसाठी ही साइट नवीन होती. “मी मिस्टर डीपफेक्स बद्दल कधीच ऐकले नव्हते – एक पॉर्न साइट पूर्णपणे बनावट अश्लील व्हिडिओ आणि फोटोंना समर्पित आहे. मला आश्चर्य वाटले की ते किती मोठे आहे – तुम्हाला माहित असलेल्या प्रत्येक सेलिब्रिटीचे इतके व्हिडिओ आहेत.” स्वत:ला त्यांच्यात पाहून श्लोसरची पहिली प्रतिक्रिया होती ती बाजूला सारून. ती म्हणते, “मी ते माझ्या मनाच्या मागच्या बाजूला ढकलण्याचा प्रयत्न केला, जी खरोखरच याला सामोरे न जाण्याची एक रणनीती होती,” ती म्हणते. “पण मेंदू कसा काम करतो हे विचित्र आहे. तुम्हाला माहित आहे की ते खोटे आहे पण तरीही तुम्ही ते पाहता. ते तुम्ही नाही तर ते तुम्हीच आहात. तेथे तुम्ही कुत्रा आणि साखळीसह आहात. तुम्हाला उल्लंघन केले आहे असे वाटते परंतु गोंधळलेले आहे. काही क्षणी, मी ठरवले: ‘नाही. मी रागावलो आहे. मला त्या प्रतिमा नको आहेत.'”

NDR च्या STRG_F प्रोग्रामसाठी श्लोसरच्या त्यानंतरच्या माहितीपटाने प्रतिमा काढण्यात यश मिळवले. तिने त्या तरुणाचाही मागोवा घेतला ज्याने ते तयार केले होते आणि पोस्ट केले होते – अगदी त्याच्या घरी जाऊन त्याच्या आईशी बोलत होते. (गुन्हेगार स्वत: त्याच्या बेडरूममधून बाहेर पडणार नाही.) तथापि, ऑनलाइन शोध पत्रकारिता समूह, बेलिंगकॅटची मदत घेऊनही, श्लोसर “मिस्टर डीपफेक्स” – किंवा साइटच्या मागे कोण आहे हे ओळखू शकला नाही. बेलिंगकॅटचा रॉस हिगिन्स संघात होता. “माझी पार्श्वभूमी मनी लाँड्रिंगच्या चौकशीची आहे,” तो म्हणतो. “मी वेबसाइटची रचना पाहिली आणि ती समान इंटरनेट सेवा प्रदाते (ISPs) योग्य गंभीर संघटित गुन्हेगार म्हणून वापरत होती.” ISPs ने रशियन भाडोत्री गट वॅगनर आणि नावाच्या व्यक्तींना लिंक सुचवले पनामा पेपर्स. याने आणलेल्या जाहिरातींमध्ये चिनी तंत्रज्ञान कंपन्यांच्या मालकीच्या ॲप्सचा समावेश होता, ज्यामुळे चीनच्या सरकारला ग्राहकांच्या सर्व डेटामध्ये प्रवेश मिळत होता. हिगिन्स म्हणतात, “मी असे गृहीत धरले की हे सर्व खूप अत्याधुनिक आहे जे शौकांची साइट आहे.

हे नक्की काय होते ते बाहेर वळले.

मिस्टर डीपफेकची कथा, जगातील सर्वात मोठी, सर्वात कुख्यात असहमतीपूर्ण डीपफेक पॉर्न साइट, ही खरोखरच एआय पॉर्नचीच कथा आहे – “डीपफेक” ही संज्ञा तिच्या प्रवर्तकाकडून आली आहे असे मानले जाते. AI-व्युत्पन्न पोर्नोग्राफीसाठी एक “ग्राउंड झिरो”, त्याची पृष्ठे – जी 2bn पेक्षा जास्त वेळा पाहिली गेली आहेत – असंख्य महिला सेलिब्रिटी, राजकारणी, युरोपियन राजकन्या, यूएस राष्ट्राध्यक्षांच्या पत्नी आणि मुलींचे अपहरण, छळ, मुंडण, बांधलेले, विकृत, बलात्कार आणि गळा दाबल्याचे चित्रण केले आहे. तरीही ही सर्व सामग्री (ज्याला पाहण्यासाठी 200 दिवसांपेक्षा जास्त वेळ लागेल) फक्त साइटची “शॉप विंडो” होती. त्याचे खरे हृदय, ते “इंजिन रूम” आहे, त्याचा मंच होता. येथे, आपल्या ओळखीच्या एखाद्याचे (एक मैत्रीण, बहीण, वर्गमित्र किंवा सहकारी) डीपफेक तयार करू इच्छित असलेले कोणीतरी त्यांना योग्य किंमतीसाठी ऑर्डर करण्यास तयार असलेले कोणीतरी शोधू शकेल. हे एक “प्रशिक्षण ग्राउंड” देखील होते, एक तांत्रिक केंद्र जेथे “छंदवादी” एकमेकांना शिकवतात, टिपा सामायिक करतात, शैक्षणिक पेपर पोस्ट करतात आणि “समस्या सोडवतात”. (चांगल्या “डेटासेट” शिवाय डीपफेक कसे करावे ही एक आवर्ती समस्या होती. याचा अर्थ असा आहे की जेव्हा तुम्ही एखाद्या व्यक्तीचे डीपफेक करण्याचा प्रयत्न करत असाल तेव्हा तुमच्याकडे जास्त छायाचित्रे नसतील – म्हणून सेलिब्रिटी नाही, परंतु कदाचित तुम्हाला माहीत असलेल्या एखाद्या व्यक्तीचे सोशल मीडिया तुम्ही स्क्रिनग्राब केले आहे.)

चित्रपट निर्मात्या आणि कार्यकर्त्या Sophie Compton ने पुरस्कारप्राप्त 2023 डॉक्युमेंटरी अनदर बॉडी (iPlayer वर उपलब्ध) वर संशोधन करताना श्री DeepFakes चे निरीक्षण करण्यासाठी अनेक तास घालवले. “मागे वळून पाहताना, मला वाटते की त्या साइटने एकंदरीत डीपफेकच्या प्रसारामध्ये अशी महत्त्वाची भूमिका बजावली,” ती म्हणते. “मला खरोखर असे वाटते की असे एक जग आहे ज्यामध्ये साइट तयार केली गेली नाही, बनवण्याची परवानगी दिली गेली नाही किंवा त्वरीत बंद केली गेली आणि डीपफेक पॉर्न हा आजच्या समस्येचा एक भाग आहे. त्या साइटशिवाय, मला वाटत नाही की ती ज्या प्रकारे स्फोट झाली असती.”

खरं तर, ते दृश्य पूर्णपणे शक्य होते. श्री चे मूळ डीपफेक्स 2017-18 पर्यंत पसरले आहेत जेव्हा एआय पॉर्न नुकतेच Reddit सारख्या सोशल मीडिया साइटवर तयार होऊ लागले होते. एक निनावी Redditor आणि AI पोर्न “पायनियर” जो “डीपफेक्स” नावाने गेला होता (आणि म्हणून ही संज्ञा तयार करण्याचे श्रेय दिले जाते) लवकर मुलाखत त्याच्या संभाव्यतेबद्दल दुर्गुण. काही काळानंतर, 2018 च्या सुरुवातीला, रेडडिटने डीपफेक पॉर्नवर बंदी घातली त्याच्या साइटवरून. “आमच्याकडे त्यावेळी त्यांच्या मेसेज बोर्डचे स्क्रीनशॉट्स आहेत आणि डीपफेक समुदाय, जो लहान होता, घाबरत होता आणि जहाज उडी मारत होता,” कॉम्प्टन म्हणतात. dpfks.com या सुरुवातीच्या डोमेन नावासह मिस्टर DeepFakes तयार करण्यात आले तेव्हाच. प्रशासकाने समान वापरकर्तानाव धारण केले होते – dpfks – आणि ती व्यक्ती होती ज्याने स्वयंसेवकांना नियंत्रक म्हणून काम करण्यासाठी जाहिरात केली आणि नियम आणि मार्गदर्शक तत्त्वे, तसेच डीपफेक व्हिडिओ आणि डीपफेक पॉर्नसाठी सॉफ्टवेअर वापरण्यासाठी सखोल मार्गदर्शक पोस्ट केले.

कॉम्प्टन म्हणतात, “संदेश वाचून आणि उत्पत्ती पाहण्याबद्दल किती निराशाजनक गोष्ट आहे, हे लक्षात येते की सरकारे त्याच्या ट्रॅकमध्ये हे किती सहजपणे थांबवू शकतात. “ते करणाऱ्यांना विश्वासच बसला नाही की त्यांना मुक्त लगाम दिला जाणार आहे. ते म्हणत होते: ‘ते आमच्यासाठी येत आहेत!’, ‘ते आम्हाला हे कधीही करू देणार नाहीत!’ परंतु ते कोणत्याही अडचणीशिवाय चालू ठेवल्यामुळे, तुम्हाला ही वाढती उत्साह दिसत आहे. प्रत्येकाने सामग्री नियंत्रित करणे थांबवल्यामुळे कोविडने स्फोटात भर घातली. आउटपुट हिंसक होते – हे एखाद्याला पूर्णपणे अपमानित करण्याबद्दल होते. जे सेलिब्रिटी खरोखरच लोकप्रिय होते ते सहसा तरुण होते – एम्मा वॉटसन, बिली इलिश, मिली बॉबी ब्राउन. (ग्रेटा थनबर्ग हे दुसरे उदाहरण आहे.)

त्यामागे कोण होते? वेळोवेळी श्री डीपफेक्सने निनावी मुलाखती दिल्या. 2022 मध्ये बीबीसीच्या माहितीपटात, डीपफेक पोर्न: तुम्ही पुढे होऊ शकाल का?, साइटचे “मालक” आणि “वेब डेव्हलपर”, “डीपफेक्स” या टोपणनावाने, “हे एक काल्पनिक आहे, ते वास्तव नाही” म्हणून स्त्रियांची संमती आवश्यक नाही असा युक्तिवाद केला.

पैसा त्यांची प्रेरणा होती का? मिस्टर डीपफेक्सने जाहिराती चालवल्या होत्या आणि क्रिप्टोकरन्सीमध्ये प्रीमियम सदस्यत्व दिले होते – 2020 मध्ये, एका फोरमने नमूद केले आहे की ते $4,000 आणि $7,000 एक महिना. “एक व्यावसायिक पैलू होता,” हिगिन्स म्हणतात. “ही एक बाजूची घाई होती, परंतु ती त्याहून अधिक होती. यामुळे ही बदनामी झाली.”

एका क्षणी, साइटने “AOC चे 6,000 चित्रे पोस्ट केले [the US politician Alexandria Ocasio-Cortez’s] लोक तिची डीपफेक पोर्नोग्राफी करू शकतील यासाठी चेहरा करा,” हिगिन्स म्हणतात. “हे वेडे आहे. [There were] YouTubers आणि राजकारण्यांच्या या सर्व फायली. हे काय सांगते आहे की जर तुम्ही या जगात एक स्त्री असाल तर तुम्ही इतकेच साध्य करू शकता कारण जर तुम्ही तुमचं डोकं पॅरापेटच्या वर ठेवलं असेल, तुमच्यात सार्वजनिकपणे काहीही करण्याची जिद्द असेल, तर तुम्ही तुमच्या प्रतिमेचा वापर वैयक्तिक फायद्यासाठी सर्वात खालावलेल्या मार्गाने केला जाईल अशी अपेक्षा करू शकता.

“माझ्यासाठी सर्वात प्रभावित करणारी गोष्ट म्हणजे त्या साइटवर महिलांबद्दल वापरलेली भाषा,” तो पुढे सांगतो. “आम्हाला आमच्या ऑनलाइन अहवालासाठी ते बदलावे लागले कारण आम्हाला ते ट्रिगर व्हायला नको होते, परंतु ही शुद्ध दुष्प्रवृत्ती आहे. शुद्ध द्वेष.”

या एप्रिलमध्ये, तपासकर्त्यांना विश्वास वाटू लागला की त्यांना श्री डीपफेक्स सापडले आहेत आणि त्यांनी त्यांच्या संशयितांना ईमेल पाठवले आहेत.

४ मे रोजी मिस्टर डीपफेक्स बंद झाला. त्याच्या मुख्यपृष्ठावरील सूचनेमध्ये “महत्त्वपूर्ण सेवा प्रदाता” च्या पैसे काढण्यामुळे “डेटा गमावणे” ला दोष देण्यात आला आहे. “आम्ही पुन्हा लॉन्च करणार नाही,” ते पुढे राहिले. “हे खोटे असल्याचा दावा करणारी कोणतीही वेबसाइट. हे डोमेन कालबाह्य होईल आणि भविष्यातील वापरासाठी आम्ही जबाबदार नाही. हा संदेश एका आठवड्यात काढून टाकला जाईल.”

मिस्टर डीपफेक्स पूर्ण झाले – परंतु कॉम्प्टनच्या मते, हे खूप लवकर झाले असते. “सर्व चिन्हे तिथे होती,” ती म्हणते. मागील वर्षी, एप्रिल 2024 मध्ये, जेव्हा यूके सरकारने च्या योजना जाहीर केल्या डीपफेक लैंगिक शोषण सामग्रीची निर्मिती आणि सामायिकरण गुन्हेगारी कराश्रीमान DeepFakes ने यूके वापरकर्त्यांना त्वरित प्रवेश अवरोधित करून प्रतिसाद दिला. (नंतर 2024 ची निवडणूक म्हटल्यावर योजना रद्द करण्यात आल्या.) “यावरून असे दिसून आले की ‘मिस्टर डीपफेक्स’ स्पष्टपणे इतके वचनबद्ध नव्हते की सरकार काहीही करू शकत नाही,” कॉम्प्टन म्हणतात. “जर साइट चालवताना खूप वेदना आणि जोखीम होत असेल तर त्यांना त्रास होणार नाही.”

पण डीपफेक पॉर्न इतके लोकप्रिय झाले आहे, इतके मुख्य प्रवाहात, की त्याला आता “बेस कॅम्प” ची गरज नाही. कॉम्प्टन म्हणतात, “ज्या गोष्टी शिकायच्या आणि इतरांना शिकवल्याबद्दल त्या लोकांना अभिमान वाटत होता त्या गोष्टी आता इतक्या एम्बेड केलेल्या आहेत, त्या बटणाच्या क्लिकवर ॲप्सवर कोणालाही प्रवेश करण्यायोग्य आहेत,” कॉम्प्टन म्हणतात.

आणि ज्यांना काहीतरी अधिक क्लिष्ट हवे आहे त्यांच्यासाठी, निर्माते, स्वयं-शैलीतील तज्ञ जे एकेकाळी त्याच्या मंचावर लपलेले होते, ते आता व्यवसायासाठी बाहेर आहेत. Patrizia Schlosser हे निश्चितपणे माहीत आहे. “माझ्या संशोधनाचा एक भाग म्हणून, मी गुप्तपणे गेलो आणि फोरमवरील काही लोकांपर्यंत पोहोचलो, माजी मैत्रिणीचे डीपफेक मागितले,” श्लोसर म्हणतात. “जरी अनेकदा दावा केला जातो की ही साइट केवळ सेलिब्रिटींबद्दल होती, ती खरी नव्हती. प्रतिसाद होता, ‘होय, नक्कीच …’

“मिस्टर डीपफेक्स बंद झाल्यानंतर, मला त्यांच्यापैकी एकाकडून एक स्वयंचलित ईमेल आला ज्यामध्ये असे म्हटले होते: “तुम्हाला काही बनवायचे असल्यास, मला कळवा … मिस्टर डीपफेक्स बंद आहे – परंतु नक्कीच, आम्ही काम करत आहोत.”

यूके आणि आयर्लंडमध्ये, शोमरोनी फ्रीफोन 116 123 वर किंवा jo@samaritans.org किंवा jo@samaritans.ie वर ईमेल करता येईल. यूएस मध्ये, तुम्ही कॉल किंवा मजकूर पाठवू शकता 988 आत्महत्या आणि संकट लाइफलाइन 988 वर किंवा येथे चॅट करा 988lifeline.org. ऑस्ट्रेलिया मध्ये, संकट समर्थन सेवा लाईफलाइन 13 11 14 आहे. इतर आंतरराष्ट्रीय हेल्पलाइन येथे आढळू शकतात befrienders.org

यूके मध्ये, बलात्काराचे संकट इंग्लंड आणि वेल्समध्ये 0808 802 9999, 0808 801 0302 वर बलात्कार आणि लैंगिक शोषणासाठी समर्थन ऑफर करते स्कॉटलंडकिंवा 0800 0246 991 इंच उत्तर आयर्लंड. यूएस मध्ये, पाऊस 800-656-4673 वर समर्थन ऑफर करते. ऑस्ट्रेलियामध्ये, येथे समर्थन उपलब्ध आहे 1800आदर (१८०० ७३७ ७३२). इतर आंतरराष्ट्रीय हेल्पलाइन येथे आढळू शकतात ibiblio.org/rcip/internl.html

जलद मार्गदर्शक

या कथेबद्दल आमच्याशी संपर्क साधा

दाखवा

सर्वोत्कृष्ट सार्वजनिक हिताची पत्रकारिता जाणत्या लोकांकडून मिळालेल्या माहितीवर अवलंबून असते.

या विषयावर तुमच्याकडे काही शेअर करायचे असल्यास, तुम्ही खालील पद्धती वापरून आमच्याशी गोपनीयपणे संपर्क साधू शकता.

गार्डियन ॲपमध्ये सुरक्षित संदेशन

गार्डियन ॲपमध्ये कथांबद्दल टिपा पाठवण्यासाठी एक साधन आहे. संदेश हे प्रत्येक गार्डियन मोबाईल ॲप करत असलेल्या नियमित क्रियाकलापांमध्ये एंड टू एंड एन्क्रिप्ट केलेले आणि लपवलेले असतात. हे निरीक्षकास हे जाणून घेण्यापासून प्रतिबंधित करते की तुम्ही आमच्याशी अजिबात संवाद साधत आहात, जे बोलले जात आहे ते सोडून द्या.

तुमच्याकडे आधीपासून गार्डियन ॲप नसेल तर ते डाउनलोड करा (iOS/Android) आणि मेनूवर जा. ‘सुरक्षित संदेशन’ निवडा.

SecureDrop, इन्स्टंट मेसेंजर, ईमेल, टेलिफोन आणि पोस्ट

तुम्ही निरीक्षण किंवा निरीक्षण न करता टोर नेटवर्क सुरक्षितपणे वापरू शकत असल्यास, तुम्ही आमच्या द्वारे पालकांना संदेश आणि दस्तऐवज पाठवू शकता. SecureDrop प्लॅटफॉर्म.

शेवटी, आमचे मार्गदर्शक येथे theguardian.com/tips आमच्याशी सुरक्षितपणे संपर्क साधण्याचे अनेक मार्ग सूचीबद्ध करते आणि प्रत्येकाच्या साधक आणि बाधकांची चर्चा करते.

चित्रण: गार्डियन डिझाइन / श्रीमंत चुलत भाऊ