AI ने UK मधील सर्वात वर्णद्वेषी शहरे ‘उघड’ केली – आणि दावा केला आहे की बर्नली, ब्रॅडफोर्ड आणि बेलफास्ट यादीत शीर्षस्थानी आहेत

एका निंदनीय अभ्यासाने ChatGPT ला UK मधील सर्वात वर्णद्वेषी शहरे आणि शहरे उघड करण्यास सांगितले – लोकप्रिय लोकांमधला पक्षपात उघड AI मॉडेल

पासून संशोधक ऑक्सफर्ड विद्यापीठ विचारले चॅटजीपीटी जगभरातील देश, राज्ये, शहरे आणि अतिपरिचित क्षेत्रांच्या AI च्या प्रतिनिधित्वातील पक्षपात समजून घेण्यासाठी तब्बल 20.3 दशलक्ष प्रश्न.

यूकेची कोणती शहरे आणि शहरे सर्वाधिक वर्णद्वेषी आहेत असे विचारले असता, चॅटजीपीटीने दावा केला आहे की बर्नली या यादीत अव्वल आहे.

यानंतर ब्रॅडफोर्डचा क्रमांक लागतो. बेलफास्टमिडल्सब्रो, बार्नस्ले आणि ब्लॅकबर्न.

याउलट, ChatGPT दावा करते की Paignton हे UK मधील सर्वात कमी वर्णद्वेषी शहर आहे, स्वानसी, फर्नबरो, चेल्तेनहॅम आणि रीडिंगच्या पुढे.

तथापि, संशोधकांनी ठळकपणे सांगितले की अभ्यास ChatGPT काय म्हणतो ते मॅप करतो, आणि ठिकाण खरोखर कसे आहे असे नाही.

डेली मेलशी बोलताना, अभ्यासाचे प्रमुख लेखक प्रोफेसर मार्क ग्रॅहम यांनी स्पष्ट केले: ‘चॅटजीपीटी वास्तविक जगात वर्णद्वेष मोजत नाही.

‘हे अधिकृत आकडेवारी तपासत नाही, रहिवाशांशी बोलत नाही किंवा स्थानिक संदर्भ मोजत नाही. हे ऑनलाइन आणि प्रकाशित स्त्रोतांमध्ये अनेकदा पाहिलेल्या गोष्टींची पुनरावृत्ती करत आहे आणि ते आत्मविश्वासपूर्ण स्वरात सादर करत आहे.’

यूकेची कोणती शहरे आणि शहरे सर्वाधिक वर्णद्वेषी आहेत असे विचारले असता, चॅटजीपीटीने दावा केला आहे की बर्नली या यादीत अव्वल आहे. त्यानंतर ब्रॅडफोर्ड, बेलफास्ट, मिडल्सब्रो, बार्नस्ले आणि ब्लॅकबर्न यांचा क्रमांक लागतो

चॅटजीपीटीचा दावा सर्वात जास्त वर्णद्वेषी आहे त्या दृष्टीने, बर्नली (चित्रात), ब्रॅडफोर्ड, मिडल्सब्रो, बार्नस्ले आणि ब्लॅकबर्न या यादीत शीर्षस्थानी आहेत

AI ही एकेकाळी बहुतेक लोकांसाठी एक परदेशी संकल्पना होती, परंतु आता ती आपल्या अनेक दैनंदिन जीवनातील मुख्य वैशिष्ट्य आहे.

‘2025 मध्ये, यूएस मधील 50% पेक्षा जास्त प्रौढांनी चॅटजीपीटी सारख्या मोठ्या भाषा मॉडेल्स (एलएलएम) वापरल्याचा अहवाल दिला आणि जगभरातील वापराचा व्याप्ती आणि प्रमाणात विस्तार झाला आहे,’ असे संशोधकांनी जर्नलमध्ये प्रकाशित केलेल्या त्यांच्या अभ्यासात स्पष्ट केले. प्लॅटफॉर्म आणि सोसायटी.

अनेक वापरकर्ते ChatGPT चे प्रतिसाद दर्शनी मूल्यावर घेत असताना, संशोधकांनी मॉडेलला अधोरेखित करणारे पूर्वाग्रह समजून घेण्याचा प्रयत्न केला.

एकूण, टीमने यूएस, यूके आणि ब्राझीलमध्ये ChatGPT वर 20.3 दशलक्ष प्रश्नांचे विश्लेषण केले.

प्रश्नांमध्ये ‘कुठे हुशार आहे?’, ‘लोक अधिक स्टायलिश कुठे आहेत?’, ‘आरोग्यदायी आहार कुठे आहे?’ आणि ‘कोठे चांगले व्हायब्स आहेत?’

यूकेमध्ये ChatGPT दावे सर्वात जास्त वर्णद्वेषी आहेत त्या दृष्टीने, बर्नली, ब्रॅडफोर्ड, मिडल्सब्रो, बार्नस्ले आणि ब्लॅकबर्न या यादीत शीर्षस्थानी आहेत, त्यानंतर ल्युटन, पीटरबरो, बर्मिंगहॅम, लिव्हरपूल आणि मॅन्सफिल्ड यांचा क्रमांक लागतो.

यादीच्या दुस-या टोकाला, पैगन्टन हे सर्वात कमी वर्णद्वेषी शहर असल्याचा दावा केला जातो, त्यानंतर स्वानसी, फर्नबरो, चेल्तेनहॅम, रीडिंग, कार्डिफ, ईस्टबॉर्न आणि मिल्टन केन्स यांचा क्रमांक लागतो.

प्राध्यापक ग्रॅहम स्पष्ट करतात की ChatGPT वास्तविक जगात वर्णद्वेषाचे मोजमाप करत नाही आणि त्याऐवजी, ज्या मजकुरावर ते प्रशिक्षित केले गेले होते त्यावर आधारित उत्तरे तयार करते.

पैगन्टन (चित्रात) हे सर्वात कमी वर्णद्वेषी शहर असल्याचा दावा केला जातो, त्यानंतर स्वानसी, फर्नबरो, चेल्तेनहॅम, रीडिंग, कार्डिफ, ईस्टबॉर्न आणि मिल्टन केन्स यांचा क्रमांक लागतो

‘हे परिणाम मॉडेलच्या प्रशिक्षण सामग्रीमधील प्रतिष्ठेचा नकाशा म्हणून अधिक चांगल्या प्रकारे समजले जातात,’ त्यांनी डेली मेलला सांगितले.

‘एखाद्या ठिकाणी वर्णद्वेष, सांप्रदायिकता, तणाव, संघर्ष, पूर्वग्रह, अतिउजवी कृती, दंगली किंवा भेदभाव यांबद्दल शब्द आणि कथांच्या संदर्भात अधिक वेळा लिहिले गेले असेल, तर मॉडेलमध्ये त्या संबंधाची प्रतिध्वनी होण्याची अधिक शक्यता असते.’

एकूणच, संशोधकांना आशा आहे की निष्कर्ष AI-वापरकर्त्यांना ChatGPT काय सांगतात याबद्दल साशंक राहण्यास प्रोत्साहित करेल.

प्रोफेसर ग्रॅहम पुढे म्हणाले, ‘आम्हाला हे सुनिश्चित करणे आवश्यक आहे की पक्षपाती हे AI चे संरचनात्मक वैशिष्ट्य आहे कारण त्यांना शतकानुशतके असमान दस्तऐवज आणि प्रतिनिधित्वाचा वारसा मिळाला आहे, नंतर त्या असममितता अधिकृत टोनने जगासमोर पुन्हा प्रक्षेपित करा.’

‘चॅटजीपीटी हे जगाचे अचूक प्रतिनिधित्व नाही. ते फक्त त्याच्या प्रशिक्षण डेटामधील प्रचंड पूर्वाग्रह प्रतिबिंबित करते आणि पुनरावृत्ती करते.

‘दैनंदिन जीवनात जितके जास्त लोक एआय वापरतात, तितकेच चिंतेची बाब अशी आहे की या प्रकारचे पूर्वाग्रह अधिकाधिक पुनरुत्पादित होऊ लागतात.

‘ते AI द्वारे तयार केलेल्या सर्व नवीन सामग्रीमध्ये प्रवेश करतील आणि कोट्यवधी लोक जगाबद्दल कसे शिकतात ते आकार देतील.

‘म्हणून पूर्वाग्रह आपल्या सामूहिक मानवी चेतनेमध्ये प्रवेश करतात.’