महिला जर्मन पोलिसांबद्दल चेतावणी कारण पोलिसांना पुरुषांना निवेदन देण्यास भाग पाडले जाते

जर्मन पोलिसांनी महिला AI-व्युत्पन्न पोलिसांचा समावेश असलेल्या ऑनलाइन घोटाळ्याबद्दल चेतावणी जारी केली आहे.

हॅम्बुर्ग पोलिसांनी सांगितले की, पोलिसांचा गणवेश परिधान केलेल्या आकर्षक महिलांचे डीपफेक दाखवणाऱ्या सोशल मीडिया प्रोफाइलमध्ये वाढ झाली आहे.

एआय-व्युत्पन्न महिला पोलिसांच्या अधिक वास्तववादी प्रतिमा पाहण्यासाठी सशुल्क वेबसाइटवर क्लिक करण्यासाठी सोशल मीडियावरील पुरुषांना प्रलोभन देण्यासाठी या खात्यांचा वापर केला जात असल्याचे पोलिस दलाने म्हटले आहे.

‘आम्हाला कथित AI-व्युत्पन्न सोशल मीडिया प्रोफाइलच्या वाढत्या अहवाल प्राप्त होत आहेत ज्यात कथितपणे हॅम्बुर्ग पोलिसांच्या महिला सहकाऱ्यांचे चित्रण केले गेले आहे’, पोलिस दलाने एका निवेदनात म्हटले आहे.

पोलिस प्रवक्ते फ्लोरियन ॲबेंसेथ पुढे म्हणाले: ‘अशा प्रोफाइलमुळे पोलिसांच्या प्रतिष्ठेला हानी पोहोचते, म्हणूनच आम्ही त्यांच्यावर निर्णायक कारवाई करत आहोत’.

AI-व्युत्पन्न केलेल्या आश्चर्यकारक प्रतिमांमध्ये तरुण आणि आकर्षक दिसणाऱ्या महिला पोलिसांच्या कडक गणवेशात पोज देताना दिसतात.

एका फोटोमध्ये, एक सोनेरी स्त्री तिचे जाकीट खाली झिपलेली दिसते, काही क्लीवेज उघड करते.

दुसऱ्या प्रतिमेत AI-व्युत्पन्न केलेला पोलिस जमिनीवर गुडघे टेकून आरशात सेल्फी काढताना दिसत आहे.

जर्मन पोलिसांनी महिला AI-व्युत्पन्न पोलिसांचा समावेश असलेल्या ऑनलाइन घोटाळ्याबद्दल चेतावणी जारी केली आहे

प्रतिमा जर्मन पोलिस अधिकारी परिधान केलेल्या महिलेची AI-व्युत्पन्न प्रतिमा दर्शवते

हॅम्बुर्ग पोलिसांनी सांगितले की, एआय-व्युत्पन्न महिला पोलिसांच्या अधिक वास्तववादी प्रतिमा पाहण्यासाठी सोशल मीडिया वापरकर्त्यांना सशुल्क वेबसाइटवर क्लिक करण्यासाठी या खात्यांचा वापर केला जात होता.

हॅम्बुर्ग पोलिसांनी पुष्टी दिली की हे दल त्यांच्या अधिकाऱ्यांसाठी कोणतेही खाजगी इंस्टाग्राम खाते चालवत नाही आणि घोषित केले की एआय सामग्रीविरूद्ध कायदेशीर कारवाईचा आधीच विचार केला जात आहे.

पोलिसांनी इन्स्टाग्राम वापरकर्त्यांना बनावट सोशल मीडिया प्रोफाइलची तक्रार करण्यास भाग पाडले.

डीपफेकचा वापर, जसे की AI-व्युत्पन्न केलेल्या प्रतिमा आणि व्हिडिओ जे खऱ्या लोकांची खात्रीपूर्वक तोतयागिरी करतात, अलिकडच्या वर्षांत कंपन्या आणि संस्थेसाठी वाढत्या धोके निर्माण करत आहेत.

या वर्षाच्या सुरुवातीला, युनायटेड नेशन्स इंटरनॅशनल टेलिकम्युनिकेशन युनियनने कंपन्यांना आर्थिक फसवणूक रोखण्यासाठी चुकीची माहिती आणि डीपफेक सामग्री शोधण्यासाठी आणि त्यावर शिक्का मारण्यासाठी प्रगत साधने वापरण्याचे आवाहन केले.

ITU ने हाताळलेल्या मल्टीमीडियाचा सामना करण्यासाठी मजबूत मानकांची मागणी केली आणि शिफारस केली की सोशल मीडिया प्लॅटफॉर्म सारख्या सामग्री वितरकांनी सामायिक करण्यापूर्वी प्रतिमा आणि व्हिडिओ प्रमाणित करण्यासाठी डिजिटल सत्यापन साधने वापरावीत.

ITU च्या स्टँडर्डायझेशन ब्युरोच्या अभ्यास गट विभागाचे प्रमुख बिलेल जमुसी यांनी नमूद केले की, ‘सोशल मीडियावरील विश्वास लक्षणीयरीत्या कमी झाला आहे कारण लोकांना खरे काय आणि खोटे काय हे माहित नाही.

हॅम्बुर्ग पोलिसांनी AI-व्युत्पन्न केलेल्या प्रतिमांच्या वापराचा निषेध केला आहे आणि कायदेशीर कारवाईची धमकी दिली आहे

पोलिसांनी इन्स्टाग्राम वापरकर्त्यांना बनावट सोशल मीडिया प्रोफाइलची तक्रार करण्याचे आवाहन केले आहे

डीपफेकचा वापर अलिकडच्या वर्षांत कंपन्या आणि संस्थेसाठी वाढत्या धोके निर्माण करत आहे

जेनेरेटिव्ह एआयच्या रिॲलिस्टिक मल्टीमीडिया बनवण्याच्या क्षमतेमुळे डीपफेकशी मुकाबला करणे हे एक मोठे आव्हान होते, असे ते म्हणाले.

Adobe चे Leonard Rosenthol, डिजिटल एडिटिंग सॉफ्टवेअर लीडर जे 2019 पासून डीपफेक्सला संबोधित करत आहेत, वापरकर्त्यांना त्याच्या विश्वासार्हतेचे मूल्यांकन करण्यात मदत करण्यासाठी डिजिटल सामग्रीची स्थापना करण्याचे महत्त्व अधोरेखित केले.

‘आम्हाला ही माहिती दर्शविण्यासाठी वापरकर्ते त्यांच्या सामग्रीचा वापर करतात अशा अधिक ठिकाणांची आवश्यकता आहे… जेव्हा तुम्ही तुमच्या फीडमधून स्क्रोल करत असाल तेव्हा तुम्हाला हे जाणून घ्यायचे आहे: ‘मी या इमेजवर, या व्हिडिओवर विश्वास ठेवू शकतो का…’ रोसेन्थॉल म्हणाले.