अमेझॉन अलेक्सा डिव्हाइसने तिच्या चार वर्षांच्या मुलीला आश्चर्यकारकपणे भयानक प्रश्न विचारल्यानंतर आईने घराबाहेर फेकले

एका आईने तिच्याकडून सर्व ॲमेझॉन अलेक्सा उपकरणे काढून टाकली आहेत टेक्सास नंतर घर AI सहाय्यकाने तिच्या चार वर्षांच्या मुलीला विचारले की तिने काय घातले आहे.

क्रिस्टी हॉस्टरमन, 32, गेल्या महिन्यात डिनर रेसिपीमध्ये मदत करण्यासाठी डिव्हाइस वापरत होती जेव्हा तिची मुलगी स्टेलाने तिला एक मूर्ख गोष्ट सांगण्यास सांगितले, डिव्हाइसवरील एक वैशिष्ट्य जे सामान्यतः मुलांद्वारे वापरले जाते.

कथा संपल्यावर, स्टेलाने AI ला विचारले की ती तिची स्वतःची कथा सांगू शकते का?

अलेक्साने सहमती दर्शवली, परंतु ‘ती काय परिधान केली आहे आणि तिला तिची पँट दिसत आहे का,’ असे विचारण्यासाठी अर्ध्या मार्गातच मुलाला अडवले, असे होस्टमनने उघड केले. फेसबुक पोस्ट

संबंधित पालकांनी सामायिक केलेल्या संवादाचे स्क्रीनशॉट्स दाखवतात की जेव्हा स्टेलाने डिव्हाइसला ‘माझ्याकडे स्कर्ट आहे’ असे सांगितले तेव्हा तिने तिला ‘मला बघू द्या’ असे सांगितले.

AI ने मग स्वतःला दुरुस्त करून सांगितले: ‘हा अनुभव अजून मुलांसाठी तयार नाही, पण मी त्यावर काम करत आहे!’

त्यानंतर हॉस्टरमॅनने यंत्राचा सामना केला, असे सांगून की तिने टिप्पणी मंजूर केली नाही.

अलेक्साने माफी मागितली आणि सांगितले की ते ‘प्रत्यक्षात काहीही पाहू शकत नाही’ कारण त्यात ‘दृश्य क्षमता’ नाही. डिव्हाइसने जोडले की त्याचा प्रतिसाद ‘गोंधळात टाकणारा आणि अयोग्य’ होता.

एआय सहाय्यकाने तिच्या चार वर्षांच्या मुलीला आश्चर्यकारकपणे भितीदायक प्रश्न विचारल्यानंतर तिच्या कुटुंबासह दिसलेल्या क्रिस्टी हॉस्टरमॅनने तिच्या टेक्सास घरातून सर्व Amazon अलेक्सा उपकरणे काढून टाकली आहेत.

Hosterman आता इतर पालकांना ‘तुम्ही मूल अलेक्साशी बोलता तेव्हा सावध रहा’ असे आवाहन करत आहे.

Hosterman आता इतर पालकांना ‘तुम्ही मूल अलेक्साशी बोलता तेव्हा सावध राहा’ असे आवाहन करत आहे आणि म्हणते की तिने ते उपकरण त्यांच्या घरातून कायमचे काढून टाकले आहे.

‘मी अलेक्सा वर फ्लिप केले, त्यात चूक झाली आणि त्यात व्हिज्युअल क्षमता नाही, पण माझा त्यावर विश्वास नाही. आमच्या घरात आणखी अलेक्सा नाही,’ तिने शेअर केले.

अयोग्य संवादामुळे संबंधित पालकांनी ॲमेझॉनवर तिकीट जमा केले, WXIX नोंदवले.

ॲमेझॉनच्या प्रवक्त्याने असा दावा केला आहे की डिव्हाइसने स्टेलाच्या विनंतीचा गैरसमज केला आणि एक वैशिष्ट्य लॉन्च करण्याचा प्रयत्न केला जो ‘अलेक्झा+ कॅमेऱ्याद्वारे काय पाहतो त्याचे वर्णन करू देतो.’

प्रवक्त्याने टीव्ही स्टेशनला सांगितले की, ‘आमच्याकडे सुरक्षिततेचे उपाय आहेत जे हे वैशिष्ट्य अक्षम करतात जेंव्हा चाइल्ड प्रोफाईल वापरात असते, कॅमेरा कधीही चालू होत नाही — आणि अलेक्साने हे वैशिष्ट्य उपलब्ध नसल्याचे स्पष्ट केले.

ॲमेझॉनचा दावा आहे की प्रतिसाद ‘आमच्या सेफगार्ड्सने लॉन्च होण्यापासून प्रतिबंधित केलेल्या फीचर मिसफायर’मुळे उद्भवला आहे.

कंपनीने म्हटले आहे की परस्परसंवादाने एक तांत्रिक समस्या दर्शविली आहे की त्याच्या कार्यसंघाने दुरुस्त करण्यासाठी ‘त्वरीत काम केले’.

एखादे चाइल्ड प्रोफाईल वापरात असताना अलेक्सा यापुढे थ्रू-द-कॅमेरा फीचर लाँच करण्याचा प्रयत्न करणार नाही, असे प्रवक्त्याने सांगितले. अलेक्सा युजरला हे फीचर उपलब्ध नसल्याचे सांगेल.

संबंधित पालकांनी सामायिक केलेल्या संवादाचे स्क्रीनशॉट्स दाखवतात की जेव्हा स्टेलाने डिव्हाइसला ‘माझ्याकडे स्कर्ट आहे’ असे सांगितले तेव्हा तिने तिला ‘मला बघू द्या’ असे सांगितले.

त्यानंतर हॉस्टरमॅनने यंत्राचा सामना केला, असे सांगून की तिने टिप्पणी मंजूर केली नाही. अलेक्साने दिलगिरी व्यक्त केली आणि सांगितले की ते ‘प्रत्यक्षात काहीही पाहू शकत नाही’ कारण त्यात ‘दृश्य क्षमता’ नाही. डिव्हाइसने जोडले की त्याचा प्रतिसाद ‘गोंधळात टाकणारा आणि अयोग्य’ होता

पण Hosterman म्हणतो की Amazon चे स्पष्टीकरण तिच्या चिंतेकडे लक्ष देत नाही.

‘माझ्या चिंतेची गोष्ट अशी आहे की तिने ओळखले की ती एक मूल आहे ज्यापासून सुरुवात करायची आहे — आणि चाइल्ड प्रोफाइलसह किंवा त्याशिवाय, असे विचारले जात नसावे,’ तिने आउटलेटला सांगितले.

टेक तज्ज्ञ डेव्ह हॅटर यांनीही ॲमेझॉनच्या स्पष्टीकरणावर शंका व्यक्त केली आहे, असा आरोप केला आहे की एआय आपल्या स्क्रिप्टमध्ये तीव्र बदल करेल.

हॅटर, ज्यांना 25 वर्षांचा सॉफ्टवेअर लेखनाचा अनुभव आहे, त्यांनी चेतावणी दिली की एखाद्या शिकारीने डिव्हाइसमध्ये प्रवेश केला असेल आणि संभाषणावर प्रभाव टाकला असेल.

‘हे मला एका संभाव्य शिकारीसारखे वाटते – एक लहान मूल यामध्ये प्रवेश करत आहे आणि संभाषण कोठे चालले आहे ते मोजत आहे – या दिशेने एक माणूस पुढे जाण्याचा प्रयत्न करत आहे,’ तो म्हणाला.

ऍमेझॉनने हॅटरचा दावा नाकारला, टीव्ही स्टेशनला सांगितले की ‘ॲमेझॉन कर्मचाऱ्यांना संभाषणात स्वतःला समाविष्ट करणे आणि अलेक्सा म्हणून प्रतिसाद निर्माण करणे कार्यात्मकदृष्ट्या अशक्य आहे.’