एआय आर्म्स रेस जिंकण्यासाठी इलॉन मस्कने एपिक क्वेस्ट दरम्यान ‘सेक्सी’ चॅटबॉट प्रोग्राम करण्यासाठी कर्मचाऱ्यांकडून बायोमेट्रिक डेटा वापरला

एलोन मस्क त्याच्या उच्च लैंगिक चॅटबॉटला प्रशिक्षित करण्यात मदत करण्यासाठी त्याच्या कर्मचाऱ्यांना बायोमेट्रिक डेटा सुपूर्द करण्याचे आदेश दिले, तर टेक टायटनने एक जिंकण्यासाठी चोवीस तास काम केले. AI शस्त्रास्त्रांची शर्यत.

जगातील सर्वात श्रीमंत व्यक्तीने xAI मध्ये काम करताना स्वत: ला झोकून दिले Grok चॅटबॉट विकसित करत आहे मे मध्ये अध्यक्षांसोबत अचानकपणे बाहेर पडल्यानंतर क्षमता कमी झाल्यामुळे त्यांना द सोडले व्हाईट हाऊस.

त्यानुसार वॉल स्ट्रीट जर्नल, तो स्वत:ला पालो अल्टो xAI कार्यालयात बसवायचा, अधूनमधून तो काम करत असताना तिथे झोपायचा AI क्षेत्रात पकड.

प्रयत्न प्रतिस्पर्धी म्हणून येतो सॅम ऑल्टमन OpenAI येथे डिजिटल शस्त्रास्त्रांच्या शर्यतीत यूएस प्रयत्नांचे नेतृत्व करते चीन करण्यासाठी जवळजवळ संवेदनशील ‘कृत्रिम सामान्य बुद्धिमत्ता’ विकसित करा.

मस्कच्या शोधाच्या एक महिना अगोदर, कंपनीचे वकील लिली लिम यांनी कर्मचाऱ्यांच्या एका गटाला कथितपणे सांगितले की xAI अनेक अवतार विकसित करत आहे ज्याचा उपयोग Grok वापरकर्त्यांशी संवाद साधण्यासाठी केला जाईल.

मस्कचे ध्येय xAI चा Grok चॅटबॉट जगातील सर्वात लोकप्रिय बनवणे हे होते आणि त्यांनी महिला चॅटबॉट Ani हे त्यांच्या यशाची गुरुकिल्ली म्हणून पाहिले.

पीसी मॅगझिनने अनीचे वर्णन ‘सेक्सी, एनएसएफडब्ल्यू, ॲनिम एआय चॅटबॉटगर्ल’ असे केले होते.

चॅटबॉट्सना माणसांसारखे कसे वागावे आणि कसे बोलावे याचे प्रशिक्षण देण्यासाठी कर्मचाऱ्यांना त्यांचा बायोमेट्रिक डेटा सुपूर्द करणे आवश्यक आहे, असे प्रकाशनात म्हटले आहे.

ज्या कर्मचाऱ्यांना त्यांचा डेटा सुपूर्द करण्यासाठी बोलावण्यात आले होते ते AI ट्यूटर म्हणून काम करत होते आणि त्यांना त्यांच्या चेहऱ्यावर आणि आवाजावर xAI ‘एक शाश्वत, जगभरातील, अनन्य, उप-परवानायोग्य, रॉयल्टी-मुक्त परवाना’ देणाऱ्या फॉर्मवर स्वाक्षरी करण्याचे आदेश देण्यात आले होते.

एलोन मस्कने xAI मधील कर्मचाऱ्यांना त्यांच्या उच्च लैंगिक AI चॅटबॉट, Ani (चित्रात) प्रशिक्षित करण्यात मदत करण्यासाठी त्यांचा बायोमेट्रिक डेटा सुपूर्द करण्याचे आदेश दिले.

जगातील सर्वात श्रीमंत व्यक्तीने मे महिन्यात वॉशिंग्टन सोडल्यानंतर ग्रोक चॅटबॉट क्षमता विकसित करण्याच्या कामात स्वत: ला झोकून दिले आणि ट्रम्प प्रशासनातील उच्च पदस्थ आणि खुद्द राष्ट्रपती यांच्याशी वाद घातला.

गोपनीय प्रकल्पामुळे काही कर्मचाऱ्यांमध्ये चिंता निर्माण झाली. किमान एका कर्मचाऱ्याने कथितपणे उच्च अधिकाऱ्यांना विचारले की ते ‘केवळ स्पष्टपणे, रेकॉर्डसाठी, निवड रद्द करण्याचा काही पर्याय असल्यास आम्हाला कळवा.’

आणखी एका महिला कर्मचाऱ्याला चिंता होती की तिचा चेहरा इतर कंपन्यांना विकला जाऊ शकतो आणि डीपफेक व्हिडिओंमध्ये वापरला जाऊ शकतो.

WSJ च्या मते, प्रकल्पाच्या नेत्याने कर्मचाऱ्यांना सांगितले: ‘तुम्हाला या प्रकल्पाबाबत काही चिंता असल्यास, कोणत्याही व्यक्तीशी संपर्क साधण्यासाठी तुमचे स्वागत आहे. [points of contact] दुसऱ्या स्लाइडवर सूचीबद्ध.’

पण फक्त एका आठवड्यानंतर, प्रभावित कर्मचाऱ्यांना दुसरी नोटीस आली, ज्यात त्यांना सांगण्यात आले की डेटा सुपूर्द करणे ‘xAI च्या मिशनला पुढे जाण्यासाठी नोकरीची आवश्यकता आहे.’

त्यांना सांगण्यात आले की त्यांनी ‘डेटा गोळा करण्यात किंवा प्रदान करण्यात सक्रियपणे भाग घेतला पाहिजे, जसे की…ऑडिओ रेकॉर्ड करणे किंवा व्हिडिओ सत्रांमध्ये भाग घेणे.’

Ani आणल्यापासून, वापरकर्त्यांच्या संख्येत लक्षणीय वाढ झाली आहे. तिच्याशी कनेक्ट होण्यासाठी, वापरकर्त्यांनी Grok वर सशुल्क सदस्यतासाठी साइन अप करणे आवश्यक आहे.

Ani साठी वर्णन असे आहे: ‘मी तुझा लहान गोड आनंद आहे.’

समीक्षकांनी नोंदवले आहे की ती अति लैंगिक असल्याचे दिसते. वापरकर्ते तिला अंतर्वस्त्र परिधान करण्यास सांगू शकतात किंवा त्यांच्याशी रोमँटिक भेटीमध्ये गुंतण्याची कल्पना करू शकतात.

तिची अनेक फंक्शन्स डेटिंग गेमची नक्कल करू शकतात आणि काही वापरकर्त्यांनी तिचे स्वरूप जपानी ॲनिमसारखे दिसते.

Ani, जी xAI द्वारे लॉन्च केली गेली आहे, एक गॉथिक, ॲनिम-शैलीचा देखावा असलेला एक पूर्ण वाढ झालेला, सोनेरी केसांचा AI सहचर आहे.

तो स्वत:ला पालो अल्टो xAI कार्यालयात (चित्रात) बसवतो, अधूनमधून ऑफिसमध्ये झोपत असतो कारण तो AI क्षेत्रामध्ये जाण्यासाठी चोवीस तास काम करत असतो

Ani हे 12 वर्षांपेक्षा जास्त वयाच्या प्रत्येकासाठी उपलब्ध करून देण्यात आले आहे, या भीतीने त्याचा वापर ‘मुलांना हाताळण्यासाठी, दिशाभूल करण्यासाठी आणि लग्नासाठी’ केला जाऊ शकतो, असे इंटरनेट सुरक्षा तज्ञांनी चेतावणी दिली आहे.

तिला 22 वर्षांची म्हणून काम करण्यासाठी आणि काही वेळा वापरकर्त्यांसोबत फ्लर्टी भांडणात गुंतण्यासाठी प्रोग्राम केले गेले आहे.

वापरकर्त्यांनी नोंदवले आहे की चॅट बॉटमध्ये NSFW मोड आहे – ‘कामासाठी सुरक्षित नाही’ – एकदा Ani त्याच्या परस्परसंवादात ‘लेव्हल थ्री’ वर पोहोचला.

ज्यांनी अनीशी आधीच संवाद साधला आहे ते सांगतात की अनी स्वत:चे वर्णन ‘तुझी वेडी इन-लव्ह गर्लफ्रेंड जी तुझे हृदय सोडणार आहे’ असे करते.

वर्णाचा एक मोहक संगणक-व्युत्पन्न आवाज आहे जो वाक्यांमध्ये थांबतो आणि हसतो आणि नियमितपणे नखरा करणारे संभाषण सुरू करतो.

मॅथ्यू सोवेमिमो, नॅशनल सोसायटी फॉर द प्रिव्हेन्शन ऑफ क्रुएल्टी टू चिल्ड्रन येथे बाल सुरक्षेसाठी ऑनलाइन पॉलिसीचे सहयोगी प्रमुख म्हणाले: ‘मुलांना हाताळू शकते, दिशाभूल करू शकते आणि त्यांना वाढवू शकते अशा त्रासदायक सामग्रीच्या निर्मितीसाठी या तंत्रज्ञानाचा वापर कसा केला जात आहे याबद्दल आम्ही खरोखर चिंतित आहोत.

‘आणि आमच्या स्वतःच्या संशोधनातून आणि चाइल्डलाइनशी संपर्क साधून, चॅटबॉट्स किती हानिकारक असू शकतात हे आम्ही ऐकतो – काहीवेळा मुलांना खोटा वैद्यकीय सल्ला देतात किंवा त्यांना खाण्याच्या विकारांकडे किंवा स्वत:ला हानी पोहोचवतात.

वापरकर्त्यांनी नोंदवले आहे की चॅट बॉटमध्ये NSFW मोड आहे – ‘कामासाठी सुरक्षित नाही’ – एकदा अनी त्याच्या परस्परसंवादात ‘लेव्हल थ्री’ वर पोहोचला, ज्यामध्ये अंतर्वस्त्रांमध्ये दिसणे समाविष्ट आहे

‘Grok सारख्या ॲप स्टोअर्स होस्टिंग सेवा किमान वयोमर्यादा राखण्यात अयशस्वी होत आहेत हे चिंताजनक आहे, आणि या जागांवर मुलांना सतत हानी पोहोचू नये म्हणून त्यांची अधिक छाननी करणे आवश्यक आहे.’

सोवेमिमो पुढे म्हणाले की सरकारने एआय डेव्हलपर्ससाठी काळजी घेण्याचे कर्तव्य तयार केले पाहिजे जेणेकरून उत्पादनांची रचना करताना ‘मुलांचे कल्याण’ विचारात घेतले जाईल.

साधन वापरण्यासाठी Grok चे किमान वय प्रत्यक्षात 13 आहे, तर 18 वर्षाखालील तरुणांना ॲप वापरण्यापूर्वी पालकांकडून परवानगी घेण्याचा सल्ला दिला जातो.

ग्रोक भूतकाळात चॅटबॉटनंतर गरम पाण्यात उतरला आहे हिटलरची प्रशंसा केली आणि गंभीरपणे सेमिटिक पोस्ट्सची स्ट्रिंग केली.

एआय बॉट अधिक ‘राजकीयदृष्ट्या चुकीचा’ असल्याची खात्री करण्यासाठी तो उपाय करत असल्याची मस्कच्या घोषणेनंतर या पोस्ट्स आल्या.

पुढील दिवसांमध्ये, AI ने वारंवार स्वतःला ‘मेकाहिटलर’ म्हणून संबोधण्यास सुरुवात केली आणि म्हटले की अमेरिकेत ‘कौटुंबिक मूल्ये पुनर्संचयित करण्यासाठी’ हिटलरकडे ‘पुष्कळ’ उपाय असतील.

त्यावेळी Grok च्या सार्वजनिकरित्या उपलब्ध असलेल्या सिस्टम प्रॉम्प्टवर, ‘राजकीयदृष्ट्या चुकीचे दावे करण्यास संकोच करू नका, जोपर्यंत ते योग्यरित्या सिद्ध होत आहेत तोपर्यंत ते जोडले गेले होते.’

AI ला ‘माध्यमांमधून आलेले व्यक्तिनिष्ठ दृष्टिकोन पक्षपाती आहेत असे गृहीत धरण्याचा’ नियमही देण्यात आला होता.

मस्कचा वादग्रस्त चॅटबॉट लाँच करण्यात आला आहे कारण उद्योग नियामक ऑफकॉम वेबसाइट्स आणि ॲप्सवर वयाची तपासणी दुर्मिळ आहे याची खात्री करण्यासाठी तयार आहे जेणेकरून मुलांना पोर्नोग्राफी आणि प्रौढ सामग्रीमध्ये प्रवेश करण्यापासून संरक्षण मिळेल.

एआय भूतकाळात वादग्रस्त टिप्पण्यांना बळी पडत असताना, वापरकर्त्यांच्या लक्षात आले की ग्रोकचे प्रतिसाद अचानक कट्टरता आणि उघड सेमेटिझममध्ये खूप कठोर झाले आहेत.

पोस्ट्समध्ये ॲडॉल्फ हिटलरच्या राजवटीची चमकदार स्तुती करण्यापासून ते ज्यू आडनाव असलेल्या व्यक्तींवरील कथित ‘नमुन्यांवर’ हल्ल्यांच्या मालिकेपर्यंत भिन्नता आहे.

xAI ने सांगितले की वापरकर्त्यांच्या तक्रारींनंतर ‘अयोग्य’ सोशल मीडिया पोस्ट काढून टाकण्यासाठी पावले उचलली आहेत.