100 मैल दूर शहरातील संशयित चोरट्यासाठी फेशियल रिकग्निशन सॉफ्टवेअरने गोंधळात टाकल्यानंतर निष्पाप व्यक्तीने पोलिसांवर दावा दाखल केला

100 मैल दूर असलेल्या एका शहरात संशयित चोरट्याने फेशियल रिकग्निशन सॉफ्टवेअरने त्याला गोंधळात टाकल्यानंतर एक निष्पाप माणूस पोलिसांवर खटला भरत आहे.

अल्वी चौधरी, 26, साउथहॅम्प्टनमध्ये घरातून काम करत होता ज्या घरात तो त्याच्या पालकांसह सामायिक करतो तेव्हा अधिकाऱ्यांनी त्याला अटक केली आणि त्याला 10 तास कोठडीत ठेवले आणि अखेरीस पहाटे 2 वाजता कोणतीही कारवाई न करता सुटका झाली.

थेम्स व्हॅली पोलिसांनी वापरलेल्या ऑटोमेटेड फेशियल रेकग्निशन सॉफ्टवेअरने त्याची मिल्टन केन्समधील £3,000 घरफोडीच्या संशयिताशी जुळणी केली होती.

परंतु श्रीमान चौधरी यांनी आरोप केलेल्या सीसीटीव्ही फुटेजचा दावा केला आहे गुन्हा त्यांच्या कुरळे केसांशिवाय प्रत्येक प्रकारे त्याच्यापेक्षा वेगळा दिसणारा एक तरुण माणूस दाखवला.

त्यांनी सांगितले पालक: ‘मला खूप राग आला, कारण तो मुलगा माझ्यापेक्षा 10 वर्षांनी लहान दिसत होता.

‘सगळं वेगळं होतं. त्वचा हलकी होते. संशयित 18 वर्षांचा दिसत होता. त्याचे नाक मोठे होते. त्याच्या चेहऱ्यावर केस नव्हते. त्याचे डोळे वेगळे होते. त्याचे ओठ माझ्यापेक्षा लहान होते.’

श्री चौधरी आता थेम्स व्हॅली पोलिस आणि हॅम्पशायर कॉन्स्टेब्युलरीच्या विरोधात नुकसानीचा दावा करत आहेत, ज्याने त्याला ताब्यात घेतले, असा दावा केला आहे की त्याच्या शेजाऱ्यांनी जानेवारीमध्ये त्याला अटक केली होती ज्यामुळे त्याचे वडील खूप चिंताग्रस्त झाले होते आणि दुसऱ्या दिवशी त्याला काम करण्यास असमर्थ होते.

फेशियल रिकग्निशन तंत्रज्ञानाचा वापर करून बनवलेल्या मॅचसाठी संशयिताचे मगशॉट पोलिस यंत्रणेवर साठवले जाणे आवश्यक आहे.

100 मैल दूर असलेल्या एका शहरात एका संशयित चोरट्याने फेशियल रिकग्निशन सॉफ्टवेअरने त्याला गोंधळात टाकल्याने निष्पाप माणूस अल्वी चौधरी पोलिसांवर खटला भरत आहे.

2021 मध्ये पोर्ट्समाउथमध्ये नाईट आऊट दरम्यान हल्ला करण्यात आल्याने त्यांना चुकीच्या पद्धतीने अटक करण्यात आल्यानंतर श्री चौधरी यांचा चेहरा डेटाबेसवर होता.

राष्ट्रीय डेटाबेसवर सुमारे 19 दशलक्ष मुगशॉट्स ट्रॉल करण्यासाठी यूके पोलिस दल होम ऑफिसद्वारे प्राप्त जर्मन अल्गोरिदम वापरतात.

ते एका महिन्यात सुमारे 25,000 शोध घेतात आणि राष्ट्रीय पोलीस प्रमुखांच्या परिषदेनुसार, सामन्यांना तथ्य म्हणून नव्हे तर बुद्धिमत्ता म्हणून मानले पाहिजे.

टेम्स व्हॅली पोलिसांनी मिस्टर चौधरीला अटक करण्याचा निर्णय मानवी व्हिज्युअल मूल्यांकन तसेच तंत्रज्ञानाच्या जुळणीनंतर घेण्यात आला होता.

परंतु फोर्सने चूक मान्य केली ‘कदाचित चेहर्यावरील ओळख तंत्रज्ञानातील पक्षपाताचा परिणाम असावा’.

चेहऱ्याची ओळख पटवण्याचे सॉफ्टवेअर हे मूर्खपणापासून दूर आहे आणि डिसेंबरमध्ये होम ऑफिसच्या संशोधनात असे दिसून आले आहे की काळ्या चेहऱ्यांसाठीचे सामने 5.5 टक्के वेळा खोटे पॉझिटिव्ह असतात, तर आशियाई चेहऱ्याचे सामने 4 टक्के प्रकरणांमध्ये खोटे सकारात्मक असतात.

दोन्ही आकडे पांढऱ्या चेहऱ्याच्या ०.०४ टक्क्यांपेक्षा खूप जास्त आहेत ज्यामुळे खोटे सकारात्मक परिणाम होतात.

एका अधिकाऱ्याने श्री चौधरी यांना सांगितले: ‘चेहर्यावरील ओळखीचा वापर आधीच धोरणात्मक स्तरावर पुनरावलोकनाच्या अधीन असल्याने, मला व्यापक संस्थात्मक शिक्षणाचा भाग म्हणून हा मुद्दा उपस्थित करण्याची आवश्यकता वाटत नाही.’

निर्दोष व्यक्तीने सांगितले की त्याच्या चेहऱ्यामध्ये आणि क्लिपमधील एकामध्ये फरक असूनही त्याला ताब्यात घेण्यात आले आहे,

त्याने पुढे सांगितले की त्याने 115 मैल दूर असलेल्या कथित गुन्ह्याच्या दिवशी साउथॅम्प्टनमध्ये कामाच्या बैठकीचे पुरावे देखील सादर केले.

जेव्हा त्याने हॅम्पशायर पोलिस स्टेशनमधील अधिकाऱ्यांना व्हिडिओमधील माणसासारखे पाहिले की नाही याबद्दल विचारणा केली तेव्हा ते हसले, असा दावा त्याने केला.

श्री चौधरी पुढे म्हणाले की एकदा टेम्स व्हॅलीचे पोलीस त्यांची मुलाखत घेण्यासाठी आले असता त्यांना समजले की क्लिपमधील संशयित तो नाही.

इयान क्लेटन म्हणाले की त्याने वस्तू चोरल्याचा दावा केल्यानंतर चेस्टरमधील होम बार्गेन्सचे दुकान सोडण्यास सांगितले होते.

त्याला आता चिंता आहे की या घटनेनंतर सिस्टमवर दुसरा मुगशॉट घेतल्याने अधिक चुकीच्या अटकसत्र होऊ शकतात.

श्री चौधरी पुढे म्हणाले की गाथा त्याला ‘डोजियर’ बनवते ज्यामुळे त्याच्यावर नकारात्मक परिणाम होऊ शकतो कारण त्याला सॉफ्टवेअर अभियंता म्हणून काम करताना काहीवेळा सरकारी क्लायंटसाठी काम करण्यासाठी सुरक्षा मंजुरीची आवश्यकता असते.

पोलिस आणि गुन्हे आयुक्तांनी यापूर्वी ‘अंतर्भूत पूर्वाग्रहासंबंधी’ चेतावणी दिली आहे आणि ‘कोणत्याही वैयक्तिक प्रकरणात प्रतिकूल परिणामाचा कोणताही पुरावा नसला तरी ते डिझाइनपेक्षा नशिबाने अधिक आहे’ असा आग्रह धरला आहे.

गेल्या महिन्यात साउथ वेल्स पोलिसांनी एका कृष्णवर्णीय माणसाला नुकसान भरपाई दिली ज्याला चेहर्यावरील ओळख तंत्रज्ञानावर सुचविलेल्या सामन्यांच्या यादीत 32 व्या स्थानावर असूनही संशयित संशयिताशी संभाव्य सामना म्हणून ओळखले गेले.

एका निष्पाप आजोबावर चोर असल्याचा चुकीचा आरोप झाल्यानंतर चेहऱ्याची ओळख पटवण्याच्या तंत्रज्ञानाने त्याने वस्तू चोरल्याचा सल्ला दिला होता.

इयान क्लेटन, 67, म्हणाले की तंत्रज्ञानाने दावा केल्यावर त्याला चेस्टर होम बार्गेन्सचे दुकान सोडण्यास सांगण्यात आले होते की तो चोरीमध्ये सामील आहे असे त्याने सांगितले की त्याच्याशी काहीही संबंध नाही.

निघून जाण्यास सांगितल्यानंतर, श्री क्लेटनने सुरक्षा कंपनी फेसवॉचशी संपर्क साधला, ज्याने त्याला बॅगेत वस्तू ठेवल्या आणि त्या चोरल्या असे सांगून त्याचा फोटो पाठवला.

फेशियल रेकग्निशन टेक्नॉलॉजी संशयास्पद हालचालींना ध्वजांकित करते जसे की वस्तू बॅगमध्ये भरल्या जातात आणि फुटेजसह कामगारांना संदेश पाठवते आणि वर्तन कुठे होत आहे.

वॉचलिस्टमधील आवडीचा तथाकथित विषय एखाद्या दुकानात आल्यास ते कर्मचाऱ्यांना अलर्ट देखील पाठवते.

परंतु फेसवॉचने कबूल केले की मिस्टर क्लेटनने त्याची प्रतिमा आणि ‘संबंधित रेकॉर्ड’ कायमचे काढून टाकले आहे, असे सांगून त्याच्या सिस्टमवर दिसले नसावे.

डेली मेलने टिप्पणीसाठी थेम्स व्हॅली पोलिसांशी संपर्क साधला आहे.

हॅम्पशायर कॉन्स्टेब्युलरीने टिप्पणी करण्यास नकार दिला.