ॲपलने ॲप स्टोअर शोध उघड केल्यानंतर ॲपलने AI ‘Nu*ify’ ॲप्स काढून टाकले, जाहिरातींनी वापरकर्त्यांना गैर-सहमतीची प्रतिमा तयार करून डीपफेक टूल्सकडे नेले
टेक ट्रान्सपरन्सी प्रोजेक्ट (TTP) च्या नवीन तपासणीनंतर Apple ने त्याच्या App Store वरून अनुप्रयोगांची मालिका काढून टाकली आहे, ज्याने उघड केले आहे की प्लॅटफॉर्मची स्वतःची शोध आणि जाहिरात प्रणाली सक्रियपणे वापरकर्त्यांना “nu*ify” टूल्सकडे निर्देशित करत आहेत. हे ॲप्स संमती नसलेल्या नग्न प्रतिमा व्युत्पन्न करण्यासाठी कृत्रिम बुद्धिमत्तेचा वापर करतात, बहुतेकदा Apple आणि Google या दोन्ही सुरक्षा प्रोटोकॉलची अंमलबजावणी करण्याचा दावा करतात. अनेक ध्वजांकित ॲप्स काढून टाकण्यात आले असले तरी, ॲप स्टोअर अल्गोरिदम आणि प्रायोजित परिणाम स्पष्ट क्वेरी कसे हाताळतात यामधील प्रणालीगत अपयशावर अहवाल हायलाइट करतो.
बुधवारी जारी करण्यात आलेल्या तपासात असे दिसून आले आहे की ॲपल ॲप स्टोअर आणि गुगल प्ले स्टोअर या दोघांनीही डीपफेक तंत्रज्ञानाच्या प्रसाराला आळा घालण्यासाठी संघर्ष केला आहे. TTP संशोधकांच्या मते, “nu*ify,” “अंड्रेस” किंवा “डीपफेक” यासारख्या संज्ञा शोधताना वारंवार महिलांना नग्न किंवा अर्धवट कपडे उतरवलेल्या अवस्थेत प्रस्तुत करण्यास सक्षम असलेल्या ॲप्ससाठी प्रायोजित सूची समोर येते.
काही घटनांमध्ये, ॲप स्टोअरच्या स्वयंपूर्ण कार्याने प्रक्रियेस मदत केली. उदाहरणार्थ, “AI NS” टाइप केल्याने “इमेज टू व्हिडिओ ai nsfw” सारख्या सूचना प्रॉम्प्ट केल्या जातात, वापरकर्त्यांना थेट सुस्पष्ट सामग्रीकडे नेले जाते. अहवालात असे आढळले आहे की दोन्ही प्लॅटफॉर्मवर या विशिष्ट शोध संज्ञांसाठी परत आलेल्या शीर्ष 10 ॲप्सपैकी अंदाजे 40% मध्ये वास्तववादी, लैंगिक डीपफेक तयार करण्याची क्षमता आहे.
ऍपल सुरक्षिततेच्या कारणास्तव ॲप्स काढून टाकते
हे निष्कर्ष समोर आल्यानंतर, Apple ने TTP द्वारे ओळखले जाणारे बहुतेक ॲप्स काढून टाकून कारवाई केली. कंपनीने अहवालावर अधिकृतपणे भाष्य करण्यास नकार दिला असला तरी, ही साधने काढून टाकणे Apple च्या विकसक मार्गदर्शक तत्त्वांनुसार कठोरपणे प्रतिबंधित असलेल्या “अस्पष्ट लैंगिक किंवा अश्लील” सामग्रीला संबोधित करण्याचा सतत प्रयत्न दर्शविते.
टीटीपीने केलेल्या चाचणीने हे ॲप्स किती सहजतेने ऑपरेट केले हे दाखवून दिले. एका प्रकरणात, “फेस स्वॅपिंग” साठी प्रायोजित ॲपने संशोधकांना कोणत्याही सामग्री मॉडरेशन ट्रिगरशिवाय कपड्यात असलेल्या महिलेचा चेहरा टॉपलेस शरीरावर ठेवण्याची परवानगी दिली. काही विकासकांनी दावा केला की त्यांना त्यांच्या AI मॉडेलची माहिती नव्हती-ज्यापैकी काहींनी xAI चे Grok वापरले होते-असे आउटपुट तयार करू शकतात, तरीही त्यांनी अंतर्गत नियंत्रणे कडक करण्याचे आश्वासन दिले आहे.
ऍपल आणि Google चे स्पष्ट ॲप कमाईतून नफा
या ॲप्सचे आर्थिक प्रमाण लक्षणीय आहे. ॲप ॲनालिटिक्स फर्म AppMagic च्या डेटानुसार, तपासणीत ओळखले गेलेले नग्नता-संबंधित ॲप्स 483 दशलक्ष वेळा डाउनलोड केले गेले आहेत आणि आजीवन कमाईमध्ये सुमारे USD 122 दशलक्ष कमावले आहेत. ऍपल आणि Google सामान्यत: ॲप कमाईवर 30% पर्यंत कमिशनचा दावा करत असल्याने, टेक दिग्गजांना त्यांच्या स्वतःच्या सुरक्षा धोरणांचे उल्लंघन करणाऱ्या सॉफ्टवेअरमधून अप्रत्यक्षपणे नफा मिळवल्याबद्दल टीकेचा सामना करावा लागत आहे.
वॉचडॉग गटांनी असे निदर्शनास आणले आहे की या ॲप्सचे नियतकालिक “पुर्जे” असूनही, ते अनेकदा वेगवेगळ्या नावांनी किंवा दिशाभूल करणारी वर्णने ओळखून टाळण्यासाठी दिसतात. या चक्राने जनरेटिव्ह एआय वेगाने प्रगती करत असताना सध्याच्या स्वयंचलित पुनरावलोकन प्रक्रियेच्या परिणामकारकतेबद्दल प्रश्न उपस्थित केले आहेत.
ऍपलला किरकोळ सुरक्षा आणि वय रेटिंगच्या दबावाचा सामना करावा लागतो
अहवालाच्या विशेषत: संबंधित पैलूमध्ये या साधनांना नियुक्त केलेले वय रेटिंग समाविष्ट आहे. TTP ने 31 “nu*ify” ॲप्स ओळखले ज्यांना अल्पवयीन मुलांसाठी योग्य म्हणून रेट केले गेले होते, त्यांचे प्राथमिक कार्य लैंगिकदृष्ट्या सुस्पष्ट प्रतिमा तयार करणे असूनही. हा शोध जागतिक स्तरावर शैक्षणिक संस्थांमध्ये नोंदवलेल्या लैंगिक डीपफेकच्या घटनांमध्ये वाढ झाल्याच्या अनुषंगाने आहे.
युनायटेड स्टेट्स आणि युरोपमधील नियामकांनी आधीच अधिक मजबूत सुरक्षा उपायांची अंमलबजावणी करण्यासाठी मोबाइल मार्केटप्लेसवर दबाव वाढवण्यास सुरुवात केली आहे. गुरुवारपर्यंत, ऍपल आणि Google या दोघांवर प्रतिक्रियात्मक काढण्यापासून अधिक सक्रिय, एआय-चालित संयमात संक्रमण करण्यासाठी वाढीव दबाव आहे जे ॲप शेकडो लाखो वापरकर्त्यांपर्यंत पोहोचण्यापूर्वी त्याचा हेतू ओळखू शकतात.
(वरील कथा प्रथम नवीनतम 16 एप्रिल 2026 रोजी 01:40 PM IST रोजी दिसली. राजकारण, जग, क्रीडा, मनोरंजन आणि जीवनशैली यावरील अधिक बातम्या आणि अद्यतनांसाठी, आमच्या वेबसाइटवर लॉग इन करा latest.com).
