UK पोलीस दलांनी पक्षपाती चेहरा ओळख तंत्रज्ञान वापरण्यासाठी लॉबिंग केले | चेहऱ्याची ओळख

दुसऱ्या आवृत्तीने कमी संभाव्य संशयितांची निर्मिती केल्याची तक्रार केल्यानंतर, महिला, तरुण लोक आणि वांशिक अल्पसंख्याक गटांच्या सदस्यांविरुद्ध पक्षपाती म्हणून ओळखल्या जाणाऱ्या चेहर्यावरील ओळख प्रणाली वापरण्यासाठी पोलिस दलांनी यशस्वीपणे लॉबिंग केले.

यूके फोर्स पोलिस नॅशनल डेटाबेस (PND) चा वापर पूर्वलक्ष्यी करण्यासाठी करतात चेहऱ्याची ओळख शोध, ज्याद्वारे संशयिताच्या “प्रोब इमेज” ची तुलना संभाव्य सामन्यांसाठी 19 दशलक्ष पेक्षा जास्त कोठडीतील फोटोंच्या डेटाबेसशी केली जाते.

गृहखात्याने गेल्या आठवड्यात हे मान्य केले तंत्रज्ञान पक्षपाती होतेनॅशनल फिजिकल लॅबोरेटरी (NPL) च्या पुनरावलोकनानंतर कृष्णवर्णीय आणि आशियाई लोक आणि स्त्रियांना गोऱ्या पुरुषांपेक्षा लक्षणीयरीत्या जास्त दराने चुकीची ओळख पटली आणि त्यांनी “निष्कर्षांवर कार्य केले” असे म्हटले.

गार्डियन आणि लिबर्टी इन्व्हेस्टिगेट्सने पाहिलेल्या दस्तऐवजांवरून असे दिसून आले आहे की पक्षपाती एक वर्षाहून अधिक काळापासून ओळखले जात आहे – आणि पोलिस दलांनी त्यास संबोधित करण्यासाठी तयार केलेला प्रारंभिक निर्णय रद्द करण्याचा युक्तिवाद केला.

सप्टेंबर 2024 मध्ये पोलिस बॉसना ही प्रणाली पक्षपाती असल्याचे सांगण्यात आले, NPL द्वारे गृह कार्यालय-कमिशन केलेल्या पुनरावलोकनात असे आढळून आले की, स्त्रिया, कृष्णवर्णीय लोक आणि 40 आणि त्यापेक्षा कमी वयाच्या व्यक्तींचे चित्रण करणाऱ्या तपास प्रतिमांसाठी प्रणाली चुकीच्या जुळण्या सुचवण्याची शक्यता जास्त आहे.

नॅशनल पोलिस चीफ्स कौन्सिल (NPCC) ने आदेश दिले की संभाव्य सामन्यांसाठी आवश्यक आत्मविश्वास थ्रेशोल्ड अशा पातळीवर वाढवावा जेथे पक्षपात लक्षणीयरीत्या कमी झाला होता.

प्रणाली कमी “तपासात्मक लीड्स” तयार करत असल्याची तक्रार सैन्याने केल्यानंतर पुढील महिन्यात तो निर्णय मागे घेण्यात आला. NPCC दस्तऐवज दर्शविते की उच्च थ्रेशोल्डने शोधांची संख्या कमी केली ज्यामुळे संभाव्य जुळण्या 56% वरून 14% वर आल्या.

होम ऑफिस आणि NPCC ने आता कोणता थ्रेशोल्ड वापरला जात आहे हे सांगण्यास नकार दिला असला तरी, अलीकडील NPL अभ्यासात असे दिसून आले आहे की ही प्रणाली काही विशिष्ट सेटिंग्जमध्ये गोऱ्या महिलांपेक्षा जवळजवळ 100 पट जास्त वेळा काळ्या स्त्रियांसाठी खोटे सकारात्मक परिणाम देऊ शकते.

ते परिणाम प्रकाशित करताना, गृह कार्यालयाने म्हटले: “चाचणीने ओळखले की मर्यादित परिस्थितींमध्ये अल्गोरिदम त्याच्या शोध परिणामांमध्ये काही लोकसंख्याशास्त्रीय गटांना चुकीच्या पद्धतीने समाविष्ट करण्याची शक्यता असते.”

सिस्टीमच्या आत्मविश्वासाच्या उंबरठ्यावर झालेल्या संक्षिप्त वाढीच्या प्रभावाचे वर्णन करताना, NPCC दस्तऐवजात पोलिस दलांनी मागितलेल्या थ्रेशोल्डमधील बदलाचे वर्णन केले आहे: “बदलामुळे वंश, वय आणि लिंग यांच्या संरक्षित वैशिष्ट्यांमधील पक्षपाताचा प्रभाव लक्षणीयरीत्या कमी होतो परंतु ऑपरेशनल परिणामकारकतेवर लक्षणीय नकारात्मक प्रभाव पडतो”, असे जोडून की फौजांनी तक्रार केल्यावर “परिणामी परिणामांची मर्यादा” प्रभावी ठरते.

फेशियल रेकग्निशन तंत्रज्ञानाचा वापर वाढवण्यासाठी सरकारने दहा आठवड्यांचा सल्लामसलत सुरू केली आहे.

सारा जोन्स, पोलिसिंग मंत्री, यांनी तंत्रज्ञानाचे वर्णन “डीएनए जुळणीनंतरची सर्वात मोठी प्रगती” असे केले आहे.

मेटच्या फेशियल रेकग्निशनच्या वापराचे माजी स्वतंत्र समीक्षक प्रो. पीट फुसी म्हणाले की, पोलिस दलांच्या स्पष्ट प्राधान्यांबद्दल ते चिंतित आहेत.

ते म्हणाले: “यामुळे वापरकर्ते वांशिक आणि लिंग मधील पूर्वाग्रह स्वीकारत असतील तरच चेहर्यावरील ओळख उपयुक्त ठरते का असा प्रश्न निर्माण होतो. सुविधा हा मूलभूत अधिकार ओव्हरराइड करण्यासाठी एक कमकुवत युक्तिवाद आहे आणि कायदेशीर तपासणीला सामोरे जाण्याची शक्यता नाही.”

पोलिस रेस ॲक्शन प्लॅनसाठी स्वतंत्र छाननी आणि निरीक्षण मंडळाचे अध्यक्ष अबिंबोला जॉन्सन म्हणाले: “प्लॅनच्या चिंतेसह स्पष्ट क्रॉसओव्हर असूनही चेहर्यावरील ओळख रोलआउटच्या रेस ॲक्शन प्लॅन मीटिंगद्वारे फारच कमी चर्चा झाली.

“हे खुलासे पुन्हा एकदा दाखवतात की रेस ॲक्शन प्लॅनद्वारे पोलिसिंगने केलेल्या वर्णद्वेषविरोधी वचनबद्धतेचे व्यापक व्यवहारात भाषांतर केले जात नाही. आमच्या अहवालांनी चेतावणी दिली आहे की नवीन तंत्रज्ञान अशा लँडस्केपमध्ये आणले जात आहे जेथे वांशिक असमानता, कमकुवत छाननी आणि खराब डेटा संकलन आधीच कायम आहे.

“चेहर्यावरील ओळखीचा कोणताही वापर कठोर राष्ट्रीय मानकांची पूर्तता करणे आवश्यक आहे, त्याची स्वतंत्रपणे छाननी केली जाणे आवश्यक आहे आणि ते वांशिक विषमता वाढवण्याऐवजी कमी करते हे दाखवून दिले पाहिजे.”

गृह कार्यालयाच्या प्रवक्त्याने सांगितले: “गृह कार्यालय अहवालाचे निष्कर्ष गांभीर्याने घेते आणि आम्ही आधीच कारवाई केली आहे. एक नवीन अल्गोरिदम स्वतंत्रपणे तपासला गेला आहे आणि प्राप्त केला गेला आहे, ज्यामध्ये सांख्यिकीयदृष्ट्या महत्त्वपूर्ण पूर्वाग्रह नाही. पुढील वर्षाच्या सुरुवातीला त्याची चाचणी केली जाईल आणि मूल्यांकनाच्या अधीन असेल.

“जनतेचे संरक्षण करणे हे आमचे प्राधान्य आहे. हे गेमचेंजिंग तंत्रज्ञान पोलिसांना गुन्हेगार आणि बलात्कारींना तुरुंगात टाकण्यास मदत करेल. प्रक्रियेच्या प्रत्येक टप्प्यात मानवी सहभाग असतो आणि प्रशिक्षित अधिकाऱ्यांनी निकालांचे काळजीपूर्वक पुनरावलोकन केल्याशिवाय पुढील कारवाई केली जाणार नाही.”