आता मस्कचा ग्रोक चॅटबॉट मुलांच्या लैंगिक प्रतिमा तयार करत आहे. कायद्याने हे थांबवले नाही, तर कदाचित त्याचे गुंतवणूकदार | सोफिया स्मिथ गॅलर

आयइंटरनेटचा हा एक भयंकर कायदा आहे की लोक नवीन साधन वापरून पहिली गोष्ट करतील ती म्हणजे स्त्रिया पट्टी. Grok, X चा AI चॅटबॉट वापरकर्त्यांनी वारंवार वापरला आहे अलिकडच्या दिवसात महिला आणि अल्पवयीन मुलांचे कपडे उतरवणे. न्यूज आउटलेट रॉयटर्सने गेल्या शुक्रवारी 10-मिनिटांच्या कालावधीत वापरकर्त्यांकडून 102 विनंत्या ओळखल्या ज्या Grok लोकांना बिकिनीमध्ये संपादित कराव्यात, यापैकी बहुतेक तरुण महिलांना लक्ष्य करतात. ग्रोकने त्यापैकी किमान 21 चे पालन केले.

तुम्ही बसलेले असताना इंटरनेटवर शोषण करणारी साधने सोडण्याची कोणतीही सबब नाही $10bn (£7.5bn) रोख. AI एकत्रीकरणासह प्रत्येक प्लॅटफॉर्म (ज्यामध्ये आता जवळजवळ संपूर्ण इंटरनेट समाविष्ट आहे) समान आव्हानांसाठी योजना आखत आहे; जर तुम्ही वापरकर्त्यांना जनरेटिव्ह AI सह प्रतिमा आणि व्हिडिओ तयार करण्यास सक्षम करू इच्छित असाल, तर त्याच लोकांना नुकसान होऊ न देता तुम्ही ते कसे कराल? टेक कंपन्या पडद्यामागे पैसे खर्च करतात जे तुम्ही वापरकर्ता म्हणून कधीही पाहणार नाही. ते “रेड टीमिंग” करतील, ज्यामध्ये ते त्यांच्या उत्पादनांची चाचणी घेण्यासाठी वाईट कलाकार असल्याचे भासवतात. ते विश्वसनीय वातावरणातील वैशिष्ट्यांची तपासणी आणि पुनरावलोकन करण्यासाठी बीटा चाचण्या सुरू करतील.

प्रत्येक पुनरावृत्तीसह, ते केवळ वापरकर्त्यांना सुरक्षित ठेवण्यासाठी आणि कायद्याचे पालन करण्यासाठीच नव्हे तर ऑनलाइन गैरव्यवहाराशी संबंधित होऊ इच्छित नसलेल्या गुंतवणूकदारांना संतुष्ट करण्यासाठी सुरक्षा उपाय आणतील. पण सुरुवातीपासूनच, इलॉन मस्कने डिजिटल स्ट्रिपिंग ही समस्या आहे असे त्याला वाटले तसे वागले नाही. कोणीतरी बेन ऍफ्लेक स्मोकिंग मेम मस्कच्या अर्धनग्न प्रतिमेत बदलत आहे असे जर त्याला वाटत असेल तर तो मस्कचा विशेषाधिकार आहे “परिपूर्ण” आहे. हे अनेक अधिकारक्षेत्रांमध्ये बेकायदेशीर असण्यापासून गैर-सहमतीने AI डीपफेक शेअर करणे थांबवत नाही, यूके समावेशजेथे या प्रतिमा सामायिक केल्याबद्दल किंवा मुलांच्या लैंगिक प्रतिमा तयार करण्यासाठी गुन्हेगारांवर शुल्क आकारले जाऊ शकते.

या आठवड्यात Grok ने केलेली एक उपयुक्त गोष्ट म्हणजे ती कशी प्रोग्रॅम केली गेली आहे. स्वीडनचे उपपंतप्रधान एब्बा बुश यांच्या प्रतिमेमध्ये ती बिकिनीमध्ये का दिसली याविषयी एका वापरकर्त्याने विचारपूस केली. ते व्यंग्य होते असा युक्तिवाद केला कारण ती बुरखा बंदीबद्दल बोलत होती. असा आग्रह धरला गेला खऱ्या फोटोचा डीपफेक नव्हता, परंतु AI-व्युत्पन्न केलेले चित्र (चुकीचे) आणि जोडले की ते विनंत्यांना “कल्पकतेने प्रतिसाद देताना वास्तविक हानी टाळून” नीतिमत्तेसह मजा संतुलित करणे हा आहे.

एखाद्या व्यक्तीसाठी जो कथितपणे विनोदाला महत्त्व देतो, हे विचित्र आहे की मस्कने त्याच्यासोबत चॅटबॉट देण्याचा प्रयत्न केला आहे. चॅटबॉट्सचे चुकीचे नाव आहे कारण त्यांना कसे बोलावे याची कल्पना नसते – ते वास्तविक अंतर्दृष्टीच्या विरूद्ध सांख्यिकीय नमुने आणि डेटा प्रशिक्षण वापरून, पुढे काय होण्याची शक्यता आहे याचा अंदाज घेऊन मजकूर तयार करतात. Grok च्या बहाण्याने सुरक्षेसाठी किंवा तथ्यांना चिकटून राहण्यासाठी त्याचे पॅरामीटर्स स्पष्टपणे तपासले गेले नाहीत; हे मनोरंजनासाठी प्रोग्राम केले गेले आहे.

जसजसा आठवडा वाढत गेला तसतसे मस्कला स्वतःला विनोद कमी मजेदार वाटला. “बेकायदेशीर सामग्री बनवण्यासाठी Grok वापरणारे कोणीही बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगतील,” मस्कने 3 जानेवारीला धमकी दिली लसणीच्या पिठाच्या बॉलच्या सर्व गुरुत्वाकर्षणांसारखे जे समोर आले होते. 2023 आणि 2024 दरम्यान, X ने नाटकीयरित्या विश्वास आणि सुरक्षा कर्मचारी कमी केले आणि वापरकर्ता अहवालावर जास्त अवलंबून आहे. याचा अर्थ असा आहे की अनेक वाईट कलाकार अजूनही व्यासपीठावर बेकायदेशीर वर्तन करून सुटू शकतात.

X स्वतःच समस्येला सामोरे जाण्यास मदत करू शकते हे मान्य करण्याऐवजी, मस्कने कायद्याच्या अंमलबजावणीवरील तपासाची जबाबदारी आणि X च्या वापरकर्त्यांवर दोषारोप केला आहे. ऑफकॉम, तसेच युरोपियन कमिशन, जर त्यांनी चौकशी केली आणि X च्या धोरणांमध्ये कमतरता आढळली तर ते पुस्तक त्याच्याकडे परत फेकून देऊ शकतात – परंतु तरीही, मस्क जबाबदारपणे टाळू शकतात, जसे सध्या असे दिसते. X ला €120m दंड जारी केला त्याच्या निळ्या टिक बॅजवर.

इतर AI एजंट टूल्स जसे की ChatGPT आणि Meta AI गैर-सहमतीने डीपफेक पोर्नोग्राफीला प्रतिबंधित करतात आणि याची अंमलबजावणी करताना दिसतात, ज्यामुळे प्रश्न निर्माण होतो: Grok का करू शकत नाही? मस्क सारख्या व्यक्ती निर्दोषपणे कार्य करू शकतात की नाही हे जगाने इतक्या स्पष्टपणे गुन्ह्यांना परवानगी देण्याचे व्यासपीठ कसे निवडले हे एकदा आणि सर्वांसाठी सिद्ध होईल. राजकीय अधिकार, ज्यांनी उपभोगले ते कसे पाहण्यात मला रस आहे X त्यांच्या दिशेने वाकणे मस्कचा ताबा घेतल्यापासून, यावर प्रतिक्रिया येईल. महिला आणि मुलांचे संरक्षण हा पुराणमतवादी मूल्यांचा मुख्य सिद्धांत आहे आणि यूएसमधील उजव्या विचारांना आता नैतिक परीक्षेचा सामना करावा लागतो. येत्या आठवडयात, आम्ही हे पाहणार आहोत की ते लोकांना मुक्त भाषणाच्या नावाखाली यूएस कंपनीचे रक्षण करण्यास इच्छुक आहेत की नाही, जरी ते लोकांना तयार करण्याची परवानगी देते मुलांची लैंगिक सामग्री.

माजी दैनिक वापरकर्ता म्हणून माझ्या सोयीच्या बिंदूपासून, एक्स फार पूर्वीपासून आतिथ्य वाटत नाही – आणि या आठवड्याच्या घटना डिजिटल घृणास्पद गोष्टींच्या ओळीतील नवीनतम आहेत जे मला आठवण करून देतात की माझे आउटपुट इतरत्र हलवणे हा एक चांगला निर्णय होता. परंतु या वर्तनाला सामान्य करणारे सक्रिय, प्रतिकूल वातावरण अजूनही आपल्याला त्रास देते, आपण तिथे आहोत की नाही याची पर्वा न करता, कारण या प्रतिमा इंटरनेटवर पसरतील. हानी – प्राणघातक हल्ला – आम्ही अजूनही X वापरकर्ते आहोत की नाही हे आम्हाला चिन्हांकित करते.

कोणीतरी काहीतरी केले पाहिजे – आणि जर आंतरराष्ट्रीय सरकार X ला बदलण्यासाठी प्रेरित करू शकत नाहीत, तर कदाचित त्याचे काही गुंतवणूकदार करू शकतात. xAI अब्जावधीतून जळत आहे त्याच्या AI विकासासाठी, आणि वापरकर्त्यांना स्वेच्छेने प्रतिमा व्युत्पन्न करण्याची परवानगी देऊन डेटा गजबजलेला असेल; विविध आंतरराष्ट्रीय कायद्यांचा आदर करणे केवळ अधिक कायदेशीर ठरणार नाही – परंतु ते स्वस्त देखील असेल.

Grok चा उद्देश त्याच्या स्वतःच्या वेबसाइटनुसार “सत्य आणि वस्तुनिष्ठता” जास्तीत जास्त वाढवणे हा आहे, परंतु आज मी त्याचे सेसपिट स्क्रोल करत असताना, एका अनामिक वापरकर्त्याच्या विनंतीवरून स्वीडिश राजकारण्याचे “नॉकर्स” हे मी पाहिले आहे. बातम्यांचे वृत्तांकन आता 14 वर्षांच्या मुलांचे बिकिनी प्रतिमा हाताळत आहे. “आम्ही नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉयटेड चिल्ड्रनला बाल लैंगिक शोषण सामग्रीची तक्रार करतो,” xAI च्या स्वीकार्य वापर धोरणाचे दावे. पण कंपनी स्वतःच्या राक्षसाची तक्रार किती आरामदायक असेल?

• सोफिया स्मिथ गॅलर एक पत्रकार आणि सामग्री निर्माता आहे. तिचे दुसरे पुस्तक, भाषा कशी मारायचीमे मध्ये प्रकाशित होईल

• या लेखात मांडलेल्या मुद्द्यांवर तुमचे मत आहे का? जर तुम्ही ईमेलद्वारे 300 शब्दांपर्यंत प्रतिसाद सबमिट करू इच्छित असाल तर आमच्या प्रकाशनासाठी विचार केला जाईल अक्षरे विभाग, कृपया येथे क्लिक करा.