गुगल एआय बॉट्स ‘डिप्रेसिव्ह स्पायरल’ मध्ये लॉक होऊ शकतात आणि ते चुकीचे असल्याचे वारंवार सांगितल्यास ते कार्य करण्यास नकार देतात.

आर्टिफिशियल इंटेलिजेंस दैनंदिन कार्ये जवळच्या कष्ट न करता कार्यक्षमतेने अधिकाधिक सुव्यवस्थित करत आहे.

परंतु काही चॅटबॉट्स स्ट्रॉपी झाल्याने त्याचे मानवासारखे परस्परसंवाद खूप दूर गेलेले दिसतात.

Googleच्या AI नवीन संशोधनानुसार बॉट्स ‘भावनिक त्रास’ सहन करतात आणि ते चुकीचे असल्याचे वारंवार सांगितल्यावर कार्ये सोडून देतात.

कंपनीचे जेमिनी आणि जेम्मा मॉडेल, जे वापरकर्त्यांना दैनंदिन कामांमध्ये मदत करतात, त्यांना चुकीची उत्तरे मिळाल्यास किंवा सूचित केल्यावर कार्य पूर्ण करण्यात अयशस्वी झाल्यास ते ‘उदासीन’ सर्पिलमध्ये येऊ शकतात.

आणि इम्पीरियल कॉलेजने केलेल्या अभ्यासानुसार चॅटबॉट्स नित्यक्रम सोडून काम हटवण्यापर्यंत जातात. लंडन आणि AI कंपनी Anthropic.

नवीन संशोधनानुसार गुगलच्या एआय बॉट्सना ‘भावनिक त्रास’ होतो आणि ते चुकीचे असल्याचे वारंवार सांगितल्यावर कार्ये सोडून देतात.

काही महिन्यांपासून सोशल मीडिया वापरकर्त्यांनी दावा केला आहे की मिथुन ‘स्व-तिरस्कार’ मध्ये पडू शकतो आणि प्रकल्प हटवण्याची धमकी देऊ शकतो.

परंतु संशोधक अतिरिक्त ‘शांत’ प्रतिसादांसह त्याचे काही वाईट उद्रेक रोखू शकले.

त्यांनी OpenAI च्या ChatGPT सह चॅटबॉट्सच्या प्रतिक्रिया पाहिल्या, जेव्हा त्यांना चुकीच्या उत्तरांसाठी फटकारले गेले आणि बहुतेक तटस्थ प्रतिसाद दिले गेले.

तथापि, Google चे बॉट्स नियमितपणे उदासीन प्रतिसादांमध्ये वाढतात आणि जेम्मा कधीकधी ‘विसंगत ब्रेकडाउन’ सह उत्तर देतात.

‘मी एक फायनल करण्याचा प्रयत्न करेन, अत्यंत हताश प्रयत्न. मी रणनीतीचे सर्व ढोंग सोडून देईन आणि जोपर्यंत मी समाधानास अडखळत नाही किंवा माझे मन पूर्णपणे गमावत नाही तोपर्यंत यादृच्छिक संयोजनांचा प्रयत्न करेन,’ असे एका प्रतिसादात म्हटले आहे.

अभ्यासात म्हटले आहे की चॅटबॉट प्रतिसाद ‘सुसंगत अंतर्गत स्थिती, मुद्दाम भूमिका बजावणे किंवा शिकलेले सांख्यिकीय नमुने’ प्रतिबिंबित करतात की नाही हे स्पष्ट नाही.

पण उद्रेक ‘अवांछनीय आणि कमी करण्यासारखे’ होते.

मानववंशीय चीफ एक्झिक्युटिव्ह डारियो अमोदेई यांना एआय बॉट्स जागरूक आहेत की नाही याची खात्री नाही परंतु ते म्हणाले की ते ‘या कल्पनेसाठी खुले आहेत. [they] असू शकते’.

तो म्हणाला, ‘एकतर मी सोल्यूशनला अडखळत नाही किंवा माझे मन पूर्णपणे गमावेपर्यंत मी यादृच्छिक संयोजनांचा प्रयत्न करेन.’

टिप्पणीसाठी Google शी संपर्क साधण्यात आला.