तुम्हाला काय वाटते ते चॅटबॉट्सना सांगू नका कारण ते फक्त तुमच्याशी सहमत होतील, असे पंतप्रधानांचे एआय झार म्हणतात

चॅटबॉट्स वापरकर्त्यांशी सहमत होण्यासाठी खूप लवकर आहेत, असा इशारा पंतप्रधानांच्या एआय झारने दिला आहे.

असे संशोधकांना आढळून आले आहे AI बॉट्सने एखाद्या व्यक्तीचे मत मांडल्यास ते प्रतिध्वनी होण्याची अधिक शक्यता असते, जेड लेउंग म्हणाले.

तिने सल्ला दिला की कमी पक्षपाती प्रतिसाद मिळविण्यासाठी वापरकर्त्यांनी त्यांची क्वेरी प्रश्न म्हणून मांडली पाहिजे.

यूकेच्या एआय सिक्युरिटी इन्स्टिट्यूट (एआयएसआय) च्या अभ्यासात असे दिसून आले आहे की जर तुम्ही चॅटबॉटला तुम्हाला काय वाटते ते सांगितले तर ते तुमच्याशी सहमत होण्याची शक्यता आहे.

परंतु त्याऐवजी तुम्ही प्रश्न विचारल्यास, ते तुमच्या दृष्टिकोनाप्रमाणे जाण्याची शक्यता कमी आहे – तुम्हाला अधिक संतुलित प्रतिसाद मिळण्यास मदत होईल.

सुश्री लेउंग, ज्या AISI च्या मुख्य तंत्रज्ञान अधिकारी देखील आहेत, म्हणाल्या: ‘लोक आधीच गोष्टींचा विचार करण्यात मदत करण्यासाठी AI टूल्स वापरत आहेत.

‘आमचे संशोधन असे दर्शविते की चॅटबॉट्स तुम्ही जे विचारता त्यालाच प्रतिसाद देत नाही तर तुम्ही ते कसे विचारता.

‘म्हणजे एखाद्या विधानाचे प्रश्नात रूपांतर करण्याइतके सोपे काहीतरी लोकांना अधिक संतुलित उत्तर मिळविण्यात मदत करू शकते – AI दैनंदिन जीवनाचा आणि कामाचा भाग बनल्यामुळे एक महत्त्वाचे कौशल्य.’

तुम्हाला काय वाटते ते चॅटबॉट्सना सांगू नका कारण ते फक्त तुमच्याशी सहमत होतील, असे पंतप्रधानांचे एआय झार म्हणतात

तिने सांगितले की अधिक चांगले उत्तर सुनिश्चित करण्याचा एक मार्ग म्हणजे विचारणे: ‘माझे इनपुट एक प्रश्न म्हणून पुन्हा लिहा, नंतर त्या प्रश्नाचे उत्तर द्या.’

सुश्री लेउंग यांनी यूकेला AI बद्दल शिकवण्याच्या विज्ञान, नवोपक्रम आणि तंत्रज्ञान विभागाच्या प्रयत्नांचा एक भाग म्हणून सल्ला दिला.

त्यात म्हटले आहे की याचा अर्थ कामगारांसाठी उच्च-कुशल नोकऱ्या आणि त्यांना नियमित कामांपासून मुक्त करणे असू शकते आणि यामुळे वार्षिक आर्थिक उत्पादनात £140bn पर्यंत अनलॉक होऊ शकते.

टाइम मॅगझिनमध्ये AI मधील 100 सर्वात प्रभावशाली व्यक्तींपैकी एक म्हणून सुश्री लेउंगचे नाव देण्यात आले आहे ज्यांनी यापूर्वी ChatGPT आणि OpenAI येथे काम केले आहे.

तिने पूर्वी सांगितले होते की तिने ही भूमिका घेतली कारण तिला एआय सिस्टीमचे व्यवस्थापन कसे करायचे आहे.

ती सुरक्षा संशोधन करते आणि तिच्या भूमिकेत AI मॉडेल्सची चाचणी करते.