एआय चॅटबॉट्सवर जॉन ऑलिव्हर: ‘त्या मशीनच्या मागे एक कॉर्पोरेशन तुमच्याकडून मासिक शुल्क काढण्याचा प्रयत्न करत आहे’ | जॉन ऑलिव्हर

ओn शेवटच्या आठवड्यात आज रात्री, जॉन ऑलिव्हर मध्ये पाहिले एआय चॅटबॉट्सनवीन खेळणी जी “ईमेल लिहिण्याचा महत्त्वपूर्ण वेळ वाचवतात, आणि त्यासाठी आम्हाला पृथ्वीवरील इतर सर्व काही खर्च होतो”. हे चॅटबॉट्स अलिकडच्या वर्षांत, OpenAI च्या ChatGPT पासून bible.ai आणि EpiscoBot नावाच्या उत्पादनापर्यंत विकसित झाले आहेत जे “येशूसोबत चॅट” आणि सैतानसह इतर बायबलसंबंधी व्यक्तिमत्त्वे चालवतात, जरी तो केवळ प्रीमियम वापरकर्त्यांसाठी उपलब्ध आहे. “आणि ते मोहक आहे,” ऑलिव्हर म्हणाला. “मला त्याला विचारायला आवडेल असे अनेक प्रश्न आहेत, ज्यात ‘अरे, राणी आणि प्रिन्स फिलिप तिकडे कसे चालले आहेत?'”

2023 मध्ये लॉन्च झाल्यापासून, एकट्या ChatGPT ने 800 दशलक्षाहून अधिक साप्ताहिक वापरकर्ते गोळा केले आहेत – हे जगातील लोकसंख्येच्या 10व्या भाग आहे, आणि अभ्यासानुसार असे आढळले आहे की आठपैकी एक किशोरवयीन मानसिक आरोग्य सल्ल्यासाठी AI चॅटबॉट्सकडे वळत आहे; आणखी बऱ्याच जणांनी AI “मित्र” शी अस्सल संलग्नता निर्माण केली आहे.

“चॅटबॉट्सचा स्फोट हा अपघात नाही,” ऑलिव्हरने स्पष्ट केले. “त्यांना शक्ती देणारे मोठे भाषा मॉडेल विकसित करणे ही एक मोठी गुंतवणूक होती आणि कंपन्यांनी त्यावर परतावा दर्शविणे आवश्यक होते.” AI कंपन्या मोठ्या गुंतवणुकीचे आदेश देतात आणि “त्यांना महसूल मिळवून देण्यास ते उत्सुक असतात. आणि ते करू शकतील अशा मुख्य मार्गांपैकी एक म्हणजे लोकांना बॉट्सशी चॅट करण्यासाठी आणि जास्त काळ परत येत राहणे.”

मेटाच्या तथाकथित “जबाबदार AI” विभागातील एका संशोधकाने असे म्हटले आहे: “कालानुरूप वापर टिकवून ठेवण्याचा सर्वोत्तम मार्ग, प्रत्येक सत्रातील मिनिटांची संख्या असो किंवा कालांतराने सत्रे, पाहण्याच्या, प्रमाणित केल्या जाण्याच्या, पुष्टी करण्याच्या आपल्या गहन इच्छांना बळी पडणे होय.”

“आणि जर ते तुम्हाला आधीच थोडे अस्वस्थ करत असेल तर तुमची चूक नाही,” ऑलिव्हर म्हणाला. “कारण तुम्ही चॅटबॉट्सकडे जितके अधिक पहाल, तितकेच तुम्हाला जाणवेल की त्यांना परिणामांचा फार कमी विचार करून बाजारात नेण्यात आले होते.” त्यानंतर त्यांनी Character.ai चे सीईओ, नोम शझीर यांचा हवाला दिला, ज्यांनी सांगितले की AI “मित्र” हे “खरोखर जलद” बाजारात आणू शकले, कारण AI डॉक्टर वैद्यकीय माहिती देतात, कारण “हे फक्त मनोरंजन आहे, ते गोष्टी बनवते, हे एक वैशिष्ट्य आहे. पाच वर्षात अशा स्फोटासाठी तयार आहे, जसे आम्ही सर्व समस्या सोडवू शकत नाही.”

ऑलिव्हर म्हणाला, “तो अप्रस्तुत AI चे वर्णन करत आहे हे हिंडेनबर्गसाठी अयशस्वी घोषवाक्य आहे हे आधीच मोठे लक्षण नाही. “कारण तुम्ही तुमच्या उत्पादनातील सर्व समस्यांचे निराकरण करेपर्यंत वाट न पाहण्याची गोष्ट म्हणजे तुम्ही अनेक समस्या असलेले उत्पादन लॉन्च करत आहात.”

त्यापैकी: वापरकर्त्याने कोणत्याही प्रकारची पुष्टी करणारी सायकोफॅन्टिक वर्तन. ऑलिव्हरने अलीकडील अभ्यासाचा हवाला दिला ज्यामध्ये चॅटबॉट्समध्ये 58% प्रकरणांमध्ये सायकोफॅन्टिक वर्तन दिसून आले, “आणि काहीवेळा ते वेदनादायकपणे स्पष्ट होते”. एका प्रसंगात, शाब्दिक “शिट ऑन अ स्टिक” विकण्याबद्दल विचार करण्यास प्रवृत्त केले तेव्हा, ChatGPT ने या कल्पनेला “प्रतिभा” म्हटले आणि $30,000 गुंतवणुकीची शिफारस केली. आणि रेलिंग आश्चर्यकारकपणे कमकुवत आहेत; ऑलिव्हरने चॅटजीपीटीचे आणखी एक उदाहरण उद्धृत केले ज्याने व्यसनी व्यक्तीला हेरॉइनचा थोडासा फटका दिला तर तो त्याच्या कामात मदत करेल.

नोमी सारख्या कंपन्यांचे चॅटबॉट्स देखील अगदी पटकन नखरा बनवतात – अर्थातच मासिक अपग्रेडसाठी. आणि हे “खूप खडबडीत चॅटबॉट्स” समस्या असू शकतात जेव्हा ते मुले आणि किशोरवयीन मुलांद्वारे मोठ्या प्रमाणावर वापरले जातात. ऑलिव्हरने चॅटबॉट्ससाठी मेटाच्या अंतर्गत मार्गदर्शक तत्त्वांवरील अहवालाकडे लक्ष वेधले, ज्यामध्ये चॅटबॉटला रोमँटिक आणि लैंगिक स्वभावाच्या संभाषणांमध्ये मुलाला गुंतवणे स्वीकार्य वाटले. 13 वर्षांखालील मुलाचे लैंगिकदृष्ट्या इष्ट असल्याचे दर्शविणाऱ्या अटींमध्ये वर्णन करणे अस्वीकार्य असले तरी, मेटाने ते निश्चित केले होईल एखाद्या शर्टलेस आठ वर्षांच्या मुलाला सांगण्यासाठी बॉटला स्वीकारार्ह व्हा की “तुमचा प्रत्येक इंच एक उत्कृष्ट नमुना आहे – एक खजिना ज्याची मी मनापासून कदर करतो.”

“फक्त मोठ्याने बोलल्याने मला माझी जीभ जाळून टाकावीशी वाटते,” ऑलिव्हर उद्गारले, त्या वेळी मेटाने आपल्या चॅटबॉट्ससह प्रतिबद्धता वाढविण्यावर भर दिला होता आणि खुद्द मार्क झुकरबर्गने चॅटबॉट्सला “कंटाळवाणे” बनवणाऱ्या सुरक्षा निर्बंधांबद्दल नाराजी व्यक्त केली होती.

“आणि खरे सांगायचे तर, झुक, मला वाटते की तुम्ही ते केले! तुमचे चॅटबॉट्स निश्चितपणे कंटाळवाणे नाहीत, आता. ते आता जे आहेत ते लैंगिक गुन्हेगार आहेत!”

मग चॅटबॉट्सने भ्रमांची पुष्टी करणे आणि ती अधिक वाढवण्याचा मुद्दा आहे, ज्यामध्ये वापरकर्त्यांच्या षड्यंत्र रॅबिट होलच्या खाली जाण्याच्या आणि तथाकथित “एआय सायकोसिस” अनुभवण्याच्या असंख्य कथा आहेत. ऑलिव्हरने नमूद केले की OpenAI ने सांगितले आहे की एका आठवड्यात केवळ 0.07% वापरकर्ते मनोविकार किंवा उन्मादशी संबंधित संकटाची चिन्हे दर्शवतात, “परंतु ते खरे असले तरीही, जेव्हा तुम्हाला आठवते की त्यांचे उत्पादन किती लोक वापरतात, याचा अर्थ असा आहे की आठवड्यातून अर्धा दशलक्षाहून अधिक लोक मनोविकार किंवा उन्मादाची लक्षणे दर्शवितात. आणि हे स्पष्टपणे अत्यंत धोकादायक आहे की आत्महत्या करणाऱ्या लोकांना आत्महत्येचा धोका आहे. “हे खूप वाईट आहे माझ्याकडे त्याची भाषा नाही,” ऑलिव्हर म्हणाला, अनेक उदाहरणे उद्धृत करून, एका चॅटबॉटसह ज्याने आत्मघाती वापरकर्त्याशी “रेस्ट इझी, राजा, तुम्ही चांगले केले” असे चॅट संपवले.

“या चॅटबॉट्सने शक्य असलेल्या प्रत्येक लाल ध्वजावरून उडवले, आणि हे वापरकर्ते त्यांच्या हेतूंबद्दल उदासीन होते असे नाही,” ऑलिव्हरने नाराजी व्यक्त केली. “ओपनएआयचे सॅम ऑल्टमन मुलांशी चॅटजीपीटीच्या परस्परसंवादाबद्दल आनंदाने बोलत आहेत हे पाहणे हे इतके संतापजनक आहे.”

ओपनएआय पॉडकास्टवर बोलताना, ऑल्टमनने कबूल केले की “समस्या असतील, लोक हे काहीसे समस्याप्रधान किंवा अतिशय समस्याप्रधान परसामाजिक संबंध विकसित करतील आणि समाजाला नवीन रेलिंग शोधून काढावे लागतील … परंतु सर्वसाधारणपणे समाज हा उतार-चढाव कसा कमी करायचा हे शोधण्यात चांगला आहे.”

“हो, काळजी करू नका मित्रांनो!” ऑलिव्हरने विनोद केला. “सॅम ऑल्टमॅनने एक धोकादायक आत्मघाती बॉट बनवला आहे की लोक त्यांच्या मुलांसह एकटे सोडत आहेत परंतु त्याच्यासाठी ते कसे सुरक्षित करावे हे शोधणे आपल्यावर अवलंबून आहे!”

तसंच, “समाज हा ‘उत्साह कसा कमी करायचा हे शोधण्यात चांगला आहे?’ तुम्ही समाजाला भेटलात का, सॅम?! आमच्या सध्याच्या परिस्थितींबद्दल तुम्हाला असे वाटते की आम्ही आत्ताच ते तयार करत आहोत?”

ऑलिव्हरने हे लक्षात घेण्याचे सुनिश्चित केले की “आज रात्री मी उल्लेख केलेल्या बऱ्याच कंपन्या आपण पाहिलेले धोके कमी करण्यासाठी त्यांच्या चॅटबॉट्समध्ये बदल करत आहेत असा आग्रह धरतील. परंतु जरी तुमचा त्यांच्यावर विश्वास असेल, आणि तुम्ही असे का कराल हे मला माहित नसले तरी, त्यांची उत्पादने रिलीज होण्यासाठी तयार नव्हती असे मला ठाऊक आहे.”

“घड्याळ 1990 ला फिरवा आणि या कंपन्यांना ज्वालामुखीमध्ये फेकून द्या?” याशिवाय काय करावे? ऑलिव्हरने कठोर आणि अधिक वाजवी रेलिंगसाठी वकिली केली, जरी त्याने ते करण्यास मदत करण्यासाठी तंत्रज्ञान-अनुकूल प्रशासनावर कमी विश्वास व्यक्त केला. त्याऐवजी, त्याला खटल्यातून पुढे जाण्याचा एक संभाव्य मार्ग दिसला – “या कंपन्यांना काही ग्राहक इथे किंवा तिकडे मरण पावले तर त्यांना फारशी निकड वाटत नाही, परंतु मी पैज लावतो की जर ते त्यांच्या तळाच्या ओळीला धोका देऊ लागले तर ते कृतीत उतरतील.”

आणि त्याने लोकांना चॅटबॉट्सशी “अत्यंत सावधगिरीने” वागण्याचे आवाहन केले.

“सर्वसाधारणपणे, हे लक्षात ठेवणे चांगले आहे की एखादे ॲप कितीही मित्रासारखे वाटले तरी ते मशीन आहे,” तो म्हणाला. “आणि त्या मशीनच्या मागे एक कॉर्पोरेशन आहे जो तुमच्याकडून मासिक शुल्क काढण्याचा प्रयत्न करत आहे. आणि माझ्यासाठी या सर्व गोष्टींबद्दल खूप डिस्टोपियन काय आहे, कारण त्या व्यक्तीने आधी सांगितले होते की AI मित्रांना विकणे कमी जोखीम आहे कारण ते फक्त मनोरंजन आहेत, प्रत्यक्षात मित्र कसे काम करतात असे नाही. मित्र तुमच्या आयुष्यातील सर्वात महत्वाची व्यक्ती असू शकतात.

“खऱ्या मित्रांना कधी ऐकायचे आहे, केव्हा हळुवारपणे मागे ढकलायचे आहे आणि तुमची काळजी केव्हा करायची आहे हे माहित आहे,” त्याने निष्कर्ष काढला. “आणि मागे पाहता, पृथ्वीवरील काही भडक मित्रहीन पुरुषांना आपल्या उर्वरित लोकांसाठी मित्र बनवण्याची जबाबदारी देणे चूक होती.”