निष्पाप आजोबांनी चोर असल्याचा आरोप AI चेहर्यावरील ओळख तंत्रज्ञानाने चुकीच्या पद्धतीने दुकान चोरणाऱ्यांशी केला.

फेशियल रेकग्निशन टेक्नॉलॉजीने वस्तू चोरल्याचं सुचवल्यानंतर एका निष्पाप आजोबावर चोर असल्याचा चुकीचा आरोप करण्यात आला.

इयान क्लेटन, 67, म्हणाले की त्याला चेस्टर सोडण्यास सांगण्यात आले होते होम बार्गेन तो चोरीत सामील असल्याचा दावा तंत्रज्ञानाने केल्यावर त्याने त्याच्याशी काहीही संबंध नसल्याचे सांगितले.

दुकान सोडण्यास सांगितल्यानंतर श्री क्लेटनने सुरक्षा कंपनी फेसवॉचशी संपर्क साधला, ज्याने त्याला बॅगेत वस्तू ठेवल्या आणि त्या चोरल्या असे सांगून त्याचा फोटो पाठवला.

फेशियल रेकग्निशन टेक्नॉलॉजी संशयास्पद हालचालींना ध्वजांकित करते जसे की वस्तू बॅगमध्ये भरल्या जातात आणि फुटेजसह कामगारांना संदेश पाठवते आणि वर्तन कुठे होत आहे.

वॉचलिस्टवर स्वारस्य असलेला तथाकथित विषय असल्यास ते कर्मचाऱ्यांना अलर्ट देखील पाठवते दुकानात प्रवेश करतो.

परंतु फेसवॉचने कबूल केले की मिस्टर क्लेटनने त्याची प्रतिमा आणि ‘संबंधित रेकॉर्ड’ कायमचे काढून टाकले आहे, असे सांगून त्याच्या सिस्टमवर दिसले नसावे.

होम बार्गेनला टिप्पणीसाठी विचारले आहे.

आजोबांनी सांगितले की त्याला वाटले की तो ‘आजारी होणार आहे’ जेव्हा त्याला लोकांच्या गटासमोर सोडण्यास सांगितले गेले.

इयान क्लेटन म्हणाले की त्याने वस्तू चोरल्याचा दावा केल्यानंतर चेस्टरमधील होम बार्गेन्सचे दुकान सोडण्यास सांगितले होते.

‘ती भावना दिवसभर गेली नाही आणि दुसऱ्या दिवशीही गेली नाही,’ तो म्हणाला.

श्रीमान क्लेटन यांनी सांगितले बीबीसी त्याच्या अनुभवाने त्याला ‘असहाय्य’ वाटले.

तो म्हणाला, ‘माझ्याकडे एक परिपूर्ण स्वच्छ रेकॉर्ड आहे – नेहमीच माझ्याकडे अभिमान आहे,’ तो म्हणाला.

‘मी शॉपलिफ्टर नाही आणि मला एक म्हणून टार्गेट केले जाणे आणि माझा चेहरा अशा प्रणालीवर असण्याचा मला खरोखरच राग येतो, ज्याला मी काढूही शकत नाही.’

श्री क्लेटन पोलिस आणि होम बार्गेन्सच्या संपर्कात आहेत आणि कोणतेही सीसीटीव्ही फुटेज पाहण्यास सांगत आहेत, त्यांनी सांगितले की त्यांना पुन्हा दुकानात जाण्यासाठी ‘सुरक्षित वाटू’ इच्छित आहे.

त्यांनी माफीही मागितली आहे.

फेसवॉचच्या प्रवक्त्याने सांगितले की, होम बार्गेन्सने ‘घटनेचा संपूर्ण आढावा पूर्ण केला आहे’ आणि त्याने आपल्या सिस्टमची अचूकता अत्यंत गांभीर्याने घेतली आहे, जेथे रेकॉर्ड आवश्यक मानकांची पूर्तता करत नाही तेथे त्वरित कार्य करत आहे.

मिस्टर क्लेटनचा अनुभव गेल्या महिन्यात समोर आला की चेहऱ्याची ओळख पटवणारे कॅमेरे यूकेमधील गुन्ह्यातील संशयितांची रेकॉर्ड संख्या ध्वजांकित करत आहेत. ख्रिसमस पर्यंतच्या आठवड्यात दररोज 2,000 पेक्षा जास्त समावेश.

मिस्टर क्लेटन चेस्टरच्या होम बार्गेन शॉपमध्ये आरोपी होते (चित्रात)

परंतु मोहीम गटांनी गोपनीयतेवर आक्रमण करण्याचा आणि दुकान चोरल्याचा आरोप असलेल्या निरपराध लोकांना चुकीच्या पद्धतीने ‘ब्लॅकलिस्टिंग’ करण्याचा इशारा दिला आहे.

प्रायव्हसी कॅम्पेन ग्रुप बिग ब्रदर वॉचने 64 वर्षीय महिलेवर £1 पेक्षा कमी किमतीचे पॅरासिटामॉल चोरल्याचा आरोप असलेल्या आणि तिच्या परिसरातील दुकानांमधून काळ्या यादीत टाकल्याचा आणि CCTV पुनरावलोकनाद्वारे साफ होण्यापूर्वी कार्डिफमधील एका दुकानातून दुकानातून चोरी केल्याचा आरोप असलेल्या एका पुरुषासह प्रकरणांबद्दल चिंता व्यक्त केली आहे.

आणि गेल्या वर्षी मँचेस्टरमधील डॅनिएल होरानला टॉयलेट रोल चोरल्याचा खोटा आरोप लावल्यानंतर तिला दोन वेगळ्या दुकानांमधून बाहेर काढण्यात आले – तिला AI अँटी-चोरी तंत्रज्ञानावर बंदी घालण्याची विनंती केली.

तिने ITV च्या गुड मॉर्निंग ब्रिटनला सांगितले की कसे तिच्यावर £10 किमतीच्या वस्तू घेतल्याचा आरोप होता, चेहर्यावरील ओळखीच्या वॉचलिस्टमध्ये वर्णन जोडले गेले.

अलर्टमध्ये म्हटले आहे: ‘स्त्री ट्रॉली ढकलत दुकानात प्रवेश करते. टिश्यू पेपरच्या अनेक पॅकसह ट्रॉलीमध्ये ठेवलेल्या वस्तू ती उचलते. ती पैसे देण्याच्या वस्तू जाहीर करते पण ट्रॉलीच्या आत असलेल्या कागदाच्या दोन पॅकसाठी पैसे देण्यास अपयशी ठरते. गुन्हा केला. वस्तूंसह पाने.’

सुश्री होरानने मागील भेटीत टॉयलेट रोल विकत घेतला होता आणि पैसे दिले होते.

फेसवॉचने तिच्या केसबद्दल सांगितले: ‘चला स्पष्ट होऊ द्या, डॅनियलने गुन्हा केलेला नाही.

‘परंतु आम्हाला एका कर्मचाऱ्याने गुन्हा केल्याची माहिती दिली. आम्ही आता कर्मचारी सदस्य आणि त्यांच्या व्यवस्थापकाकडे चौकशी करत आहोत.’

बिग ब्रदर वॉचचे संचालक सिल्की कार्लो यांनी डेली मेलला सांगितले: ‘शॉपलिफ्टर्सला जबाबदार धरले पाहिजे परंतु लोकशाहीत असे करण्याचा योग्य मार्ग म्हणजे धोकादायकपणे सदोष असलेल्या खाजगी एआय प्रणालींऐवजी गुन्हेगारी न्याय प्रणालीद्वारे सामान्य लोकांना धोका निर्माण करणे.

‘सार्वजनिक सदस्यांना आता गुप्त वॉचलिस्टमध्ये ठेवले जात आहे, त्यांच्या माहितीशिवाय आणि कोणताही पुरावा न दाखवता, आणि नंतर त्यांच्या उंच रस्त्यावरून इलेक्ट्रॉनिक पद्धतीने काळ्या यादीत टाकले जात आहे.’

गेल्या जुलैमध्ये फेसवॉचने सदस्यत्व घेतलेल्या किरकोळ विक्रेत्यांना 43,602 अलर्ट पाठवले होते, जे मागील वर्षीच्या याच महिन्यात पाठवलेल्या 18,564 च्या दुप्पट होते.

याआधी दुकानदारांवर कारवाई करण्यात मदत करण्याच्या भूमिकेचा बचाव केला आहे, गेल्या वर्षी मुख्य कार्यकारी निक फिशर म्हणाले होते: ‘आम्ही फक्त ज्ञात पुनरावृत्ती गुन्हेगारांचा डेटा संग्रहित करतो आणि ठेवतो, ज्यापैकी असे करणे प्रमाणबद्ध आणि जबाबदार असल्याचे मानले जाते.

‘मला वाटते की आपण सध्या ज्या जगात कार्यरत आहोत, जोपर्यंत तंत्रज्ञानाचा वापर आणि व्यवस्थापन जबाबदार, प्रमाणबद्ध पद्धतीने केला जात आहे, तोपर्यंत मला ते चांगल्यासाठी एक शक्ती असल्याचे दिसते.’

कंपनीने ‘प्रतिमांचे सामायिकरण केवळ साक्षीदार आणि पुराव्यानिशी गुन्हेगारांचे आहे आणि डेटा कमी करणे आणि प्रमाणिकतेच्या तत्त्वांचे पालन करते’ असा आग्रह धरला आहे आणि ‘केवळ गुन्हे केल्याचा वाजवी संशय असलेल्या व्यक्ती डेटाबेसवर आहेत, नियमित खरेदीदार नाहीत’.

डेली मेलने पुढील टिप्पणीसाठी फेसवॉचशी संपर्क साधला.