“संधी” पेक्षा केवळ चांगले: मायक्रोसॉफ्टने एआय प्रतिमा शोधण्यात किती वाईट आहोत हे उघड केले

मायक्रोसॉफ्ट एआयच्या एका नवीन संशोधन पेपरसाठी 12,500 हून अधिक जागतिक सहभागी आणि २77,००० प्रतिमेच्या मूल्यांकनांचा समावेश असलेल्या प्रयोगासाठी वास्तविक लोकांकडून एआय-व्युत्पन्न प्रतिमा सांगण्यात एकूणच यशस्वी दर दिसून आला. हे सूचित करते की मानवांमध्ये केवळ या बनावट प्रतिमांद्वारे पाहण्याची माफक क्षमता आहे, अगदी संधीच्या वरच्या यशासह.

असे आढळले आहे की जेव्हा मानवी पोर्ट्रेट सर्वात सहजतेने बनावट होते तेव्हा सहभागी शोधू शकतात परंतु जेव्हा नैसर्गिक आणि शहरी लँडस्केप्सवर यशाचे दर 59-61%पर्यंत खाली आले तेव्हा लक्षणीय संघर्ष केला. एआय प्रतिमांना वेगळे करण्याचा प्रयत्न करताना मानवांना सामोरे जाणा the ्या आव्हानांना कमी स्कोअर प्रकाशित करतात, विशेषत: स्पष्ट कलाकृती किंवा स्टाईलिस्टिक संकेत नसलेल्या.

अभ्यासामध्ये, सहभागींना एक वास्तविक किंवा नोट क्विझ गेम खेळावा लागला जेथे त्यांना एआय प्रतिमा दर्शविल्या गेल्या ज्या कदाचित ते वास्तविकतेत ऑनलाइन चालतील; अभ्यास चालवणा those ्यांनी चेरी निवडण्याचे किंवा केवळ अत्यंत भ्रामक प्रतिमा निवडणे टाळले. हे देखील नोंदवले गेले होते की एआय सतत सुधारत आहे जेणेकरून भविष्यातील मॉडेल्स आणखी अधिक खात्रीने प्रतिमा तयार करू शकतात.

अभ्यासाच्या निकालांच्या आधारे, मायक्रोसॉफ्ट पारदर्शकता साधनांसाठी कॉल करीत आहे जसे वॉटरमार्क आणि एआय-व्युत्पन्न सामग्रीमुळे उद्भवणार्‍या चुकीच्या माहितीचे जोखीम दूर करण्यासाठी मजबूत एआय शोध साधने. लोकांना या धोक्यांविषयी शिक्षित करण्यासाठी, रेडमंड राक्षसने यापूर्वी एआय-व्युत्पन्न चुकीच्या माहितीसाठी मोहीम सुरू केली.

संशोधकांना त्यांच्या स्वत: च्या एआय शोधण्याच्या साधनात देखील प्रवेश होता आणि श्रेणींमध्ये वास्तविक आणि एआय -व्युत्पन्न केलेल्या प्रतिमांवर 95% पेक्षा जास्त यश मिळविण्यास ते सक्षम होते – हे सूचित करते की मशीन सहाय्य मानवी निर्णय बरेच अधिक विश्वासार्ह आहे, परंतु ते परिपूर्ण नाही.

हे सांगणे देखील महत्त्वाचे आहे की आपल्याकडे कोप in ्यात असलेल्या प्रतिमेवर दृश्यमान वॉटरमार्क असले तरीही, बनावट प्रतिमांसह लोकांना फसविण्याचा प्रयत्न करणारे दुर्भावनायुक्त कलाकार सहजपणे हे क्रॉप करू शकतात किंवा प्राथमिक साधने वापरणे पाहणे कठिण बनवू शकतात.

संशोधकांनी नमूद केले की चेहर्‍यांच्या एआय प्रतिमा शोधणे सोपे झाले असेल कारण चेहरे चांगल्या प्रकारे ओळखण्याची आपल्या जन्मजात क्षमतेमुळे आणि आम्ही बहुधा एआय पोर्ट्रेटमध्ये विकृती शोधू शकतो. विशेष म्हणजे संशोधनात असे आढळले आहे की जुन्या जनरेटिव्ह अ‍ॅडव्हर्सरियल नेटवर्क (जीएएनएस) आणि इनपेन्टिंग तंत्र वापरकर्त्यांना मूर्ख बनवण्यास चांगले होते कारण ते मिडजॉर्नी आणि डॅल-ई 3 सारख्या लोकप्रिय मॉडेल्सद्वारे वापरल्या जाणार्‍या स्टुडिओ सारख्या सौंदर्याचा वापर करण्याऐवजी हौशी फोटोग्राफीसारखे दिसतात.

इनपेन्टिंग हे एक मनोरंजक तंत्र आहे जे वास्तविक चित्राच्या एका छोट्या घटकाची जागा एआय-व्युत्पन्न करते. मायक्रोसॉफ्टने नमूद केले की यामुळे बनावट ओळखणे अत्यंत कठीण होते आणि डिसिनफॉर्मेशन मोहिमेसाठी महत्त्वपूर्ण धोका आहे.

या अभ्यासानुसार कृत्रिम बुद्धिमत्तेद्वारे फसवणूकीचे मानव किती संवेदनाक्षम मानव आहेत आणि अशा प्रतिमांचा दुर्भावनायुक्त प्रसार रोखण्यासाठी तंत्रज्ञान कंपन्यांनी तंत्रज्ञानाचा विकास करण्याची आवश्यकता याची आठवण करून दिली आहे.

स्रोत: आर्क्सिव्ह | प्रतिमा मार्गे डिपॉझिटफोटोस.कॉम