चॅटजीपीटी पोर्न मोडला बूस्ट करा कारण तिने पुरुष सहकारी विरुद्ध भेदभाव केल्याच्या दाव्यावरून शीर्ष अंतर्गत समीक्षक काढून टाकले

OpenAI तिने नियोजित अद्यतनाच्या रोलआउटबद्दल चिंता व्यक्त केल्यानंतर तिच्या शीर्ष अंतर्गत समीक्षकांपैकी एकाला काढून टाकले आहे ChatGPT वापरकर्त्यांना AI पोर्नोग्राफी निर्माण करण्याची परवानगी द्या.

रयान बेयरमेस्टर यांना जानेवारीच्या सुरुवातीला उत्पादन धोरणाच्या उपाध्यक्षपदावरून काढून टाकण्यात आले, कंपनीच्या नोकरीशी परिचित असलेल्या लोकांना अनुपस्थित राहिल्यानंतर वॉल स्ट्रीट जर्नलला सांगितले.

2024 च्या मध्यात तिने ओपनएआयमध्ये काम करण्यास सुरुवात केली मेटा ज्यांनी स्वतःला टेक कंपन्या आतून बदलण्याचा प्रयत्न करत असल्याचे पाहिले, आतील सूत्रांनी सांगितले आणि तिने कंपनीत महिलांसाठी एक सहकर्मी-मार्गदर्शक कार्यक्रम सुरू केला.

एका निवेदनात, कंपनीच्या प्रवक्त्याने सांगितले की तिने ‘ओपनएआयमध्ये तिच्या कार्यकाळात मौल्यवान योगदान दिले, आणि कंपनीत काम करताना तिने उपस्थित केलेल्या कोणत्याही समस्येशी तिचे जाणे संबंधित नव्हते.’

तिने त्याऐवजी दावा केला की तिची समाप्ती बीयरमेस्टर पुरुष सहकाऱ्याशी लैंगिक भेदभाव करण्याशी संबंधित होती – ज्याचे तिने खंडन केले.

‘मी कोणाशीही भेदभाव केला हा आरोप पूर्णपणे खोटा आहे,’ तिने जर्नलला सांगितले.

OpenAI मध्ये, Beiermeister ने उत्पादन धोरण संघाचे नेतृत्व केले, जे लोक कंपनीची उत्पादने कशी वापरू शकतात याचे नियम विकसित करतात आणि या धोरणांसाठी अंमलबजावणी यंत्रणा डिझाइन करतात.

तिची समाप्ती कंपनीच्या नियोजित ‘ॲडल्ट मोड’ लाँच करण्याआधी आली, ज्यामुळे वापरकर्त्यांना ChatGPT मध्ये AI एरोटिका तयार करता येईल आणि X-रेट केलेल्या संभाषणांना अनुमती मिळेल.

वॉल स्ट्रीट जर्नलच्या म्हणण्यानुसार रायन बेयरमेस्टर यांना जानेवारीच्या सुरुवातीला ओपनएआयच्या उत्पादन धोरणाच्या उपाध्यक्षपदावरून काढून टाकण्यात आले.

तिने कंपनीच्या नियोजित ‘प्रौढ मोड’ लाँच करण्याबद्दल चिंता व्यक्त केली, ज्यामुळे वापरकर्त्यांना ChatGPT मध्ये AI एरोटिका तयार करता येईल आणि एक्स-रेट केलेल्या संभाषणांना अनुमती मिळेल.

सीईओ सॅम ऑल्टमॅन यांनी प्रथम ऑक्टोबरमध्ये अद्यतनाची घोषणा केली आणि या वर्षाच्या पहिल्या तिमाहीत ते पदार्पण करणार आहे.

‘मानसिक आरोग्याच्या समस्यांबाबत आम्ही सावधगिरी बाळगत आहोत याची खात्री करण्यासाठी आम्ही चॅटजीपीटी खूपच प्रतिबंधित केले आहे. आम्हाला जाणवले की यामुळे अनेक वापरकर्त्यांसाठी ते कमी उपयुक्त/आनंददायक बनले आहे ज्यांना मानसिक आरोग्य समस्या नव्हती, परंतु समस्येचे गांभीर्य लक्षात घेता आम्हाला हा अधिकार मिळवायचा होता,’ ऑल्टमन यांनी त्यांच्या घोषणेमध्ये म्हटले.

‘आता आम्ही गंभीर मानसिक आरोग्य समस्या कमी करण्यात सक्षम झालो आहोत आणि नवीन साधने आहेत, आम्ही बर्याच बाबतीत सुरक्षितपणे निर्बंध शिथिल करण्यास सक्षम आहोत.’

ते पुढे म्हणाले की कंपनी ‘वय-निर्धारण अधिक पूर्णपणे आणि आमच्या “प्रौढ वापरकर्त्यांना प्रौढांप्रमाणे वागवा” या तत्त्वाचा एक भाग म्हणून, आम्ही सत्यापित प्रौढांसाठी इरोटिका सारख्या आणखी गोष्टींना अनुमती देऊ.’

परंतु बियरमेस्टरने तिला काढून टाकण्यापूर्वी सहकर्मचाऱ्यांना सांगितले की तिने प्रौढ मोडच्या कल्पनेला विरोध केला आहे आणि त्याचा वापरकर्त्यांसाठी हानिकारक परिणाम होईल अशी भीती वाटत होती, संभाषणांशी परिचित असलेल्यांनी जर्नलला सांगितले.

तिने सांगितले की ओपनएआय कडे बाल-शोषण सामग्री थांबवण्यासाठी पुरेशी मजबूत यंत्रणा आहे यावर तिचा विश्वास नाही आणि कंपनी किशोरवयीन वापरकर्त्यांकडून प्रौढ सामग्रीला पुरेशा प्रमाणात ब्लॉक करू शकत नाही याची तिला काळजी वाटते.

कंपनीतील इतरांनीही अशाच प्रकारची चिंता व्यक्त केली, ‘कल्याण आणि एआय’ वरील सल्लागार समितीच्या सदस्यांसह जे OpenAI नियमितपणे प्रौढ मोडला आपला विरोध व्यक्त करते आणि कार्यकारी अधिकाऱ्यांना त्यावर पुनर्विचार करण्यास उद्युक्त करते, सूत्रांनी सांगितले.

कसे याचा अभ्यास करणाऱ्या कंपनीतील संशोधकांनी लोक अस्वास्थ्यकर संलग्नक तयार करतात चॅटबॉट्सने देखील नवीन वैशिष्ट्याच्या विरोधात बोलले आहे – लैंगिक सामग्रीला परवानगी दिल्याने त्या भावना तीव्र होऊ शकतात अशी त्यांची चिंता वाढवत आहे.

ओपनएआयचे सीईओ सॅम ऑल्टमन (चित्रात) यांनी ऑक्टोबरमध्ये घोषणा केली की चॅटजीपीटी त्याच्या ‘प्रौढ वापरकर्त्यांना प्रौढांप्रमाणे वागवा’ या तत्त्वाचा भाग म्हणून एआय-व्युत्पन्न एरोटिका तयार करण्यास अनुमती देईल.

तरीही OpenAI च्या काही स्पर्धकांनी एलोन मस्कच्या xAI सह परिपक्व सामग्रीसाठी आधीच परवानगी दिली आहे. उन्हाळ्यात एक सेक्सी चॅटबॉट सादर करत आहे.

अनी हा गॉथिक, ॲनिमे-शैलीचा देखावा असलेला पूर्ण वाढलेला, सोनेरी केसांचा AI सहचर आहे.

तिला 22 वर्षांची म्हणून काम करण्यासाठी आणि काही वेळा वापरकर्त्यांसोबत फ्लर्टी भांडणात गुंतण्यासाठी प्रोग्राम केले गेले आहे.

वापरकर्त्यांनी नोंदवले आहे की चॅट बॉटमध्ये NSFW मोड आहे – ‘कामासाठी सुरक्षित नाही’ – एकदा Ani त्याच्या परस्परसंवादात ‘लेव्हल थ्री’ वर पोहोचला.

या बिंदूनंतर, चॅट बॉटकडे स्लिंकी अंतर्वस्त्र परिधान करून दिसण्याचा अतिरिक्त पर्याय आहे.

त्याच वेळी, मस्कला मात्र करावे लागले आहे त्याचा Grok चॅटबॉट अपडेट करा डीपफेक्सच्या निर्मितीवर तीव्र प्रतिक्रिया उमटल्या ज्याने लोकांना ‘उघड कपडे’ बनवले.

महिलांनी सांगितले की त्यांच्या इच्छेविरुद्ध तडजोड करणारी प्रतिमा तयार करण्याच्या AI च्या क्षमतेमुळे त्यांना उल्लंघन झाल्याचे वाटले, सर्वांनी पाहावे.

‘आम्ही Grok खात्याला बिकिनीसारख्या कपड्यांमध्ये वास्तविक लोकांच्या प्रतिमा संपादित करण्यास परवानगी देण्यापासून रोखण्यासाठी तांत्रिक उपाय लागू केले आहेत,’ X ने गेल्या महिन्यात जाहीर केले.

‘हे निर्बंध सशुल्क सदस्यांसह सर्व वापरकर्त्यांना लागू होते.’

ग्रोकचा वापर महिलांचे कपडे काढण्यासाठी आणि त्यांच्या संमतीविना लहान मुलांसाठी केला जात असल्याच्या ट्रेंडवर व्यापक घृणा निर्माण झाली आहे.

यूकेचे इंटरनेट नियामक, माहिती आयुक्त कार्यालय (ICO), आता आहे तपास सुरू केला ‘हानीकारक लैंगिक प्रतिमा आणि व्हिडिओ सामग्री तयार करण्यासाठी Grok च्या वैयक्तिक माहितीच्या वापराबद्दल xAI मध्ये.’

‘अशा सामग्रीची निर्मिती आणि प्रसारित अहवाल यूके डेटा संरक्षण कायद्यांतर्गत गंभीर चिंता निर्माण करतो आणि जनतेला लक्षणीय संभाव्य हानी होण्याचा धोका असतो,’ असे त्यात म्हटले आहे.

त्याच्या तपासणी अंतर्गत, ICO म्हणते की ते गैरवापरासाठी वापरण्यापासून रोखण्यासाठी Grok च्या डिझाइनमध्ये सुरक्षा उपाय तयार केले गेले होते की नाही ते तपासेल.

यूकेची ऑफकॉम नियामक संस्था X ने साइटवर डीपफेक सामायिक करण्याची परवानगी देऊन देशाच्या ऑनलाइन सुरक्षा कायद्याचे उल्लंघन केले आहे की नाही याचे मूल्यांकन करणे सुरू ठेवत आहे आणि युरोपियन कमिशन चॅटबॉटची स्वतःची चौकशी करत आहे.

डेली मेलने टिप्पणीसाठी ओपनएआयशी संपर्क साधला आहे.