एलोन मस्कच्या एक्सने लैंगिक डीपफेकवर प्रचंड प्रतिक्रिया आल्यानंतर त्याचे AI टूल Grok ला खऱ्या लोकांची चित्रे काढण्यापासून थांबवले

एलोन मस्कचे एक्स म्हणतात AI टूल ग्रोक यापुढे लैंगिक डीपफेक्सच्या निर्मितीवर तीव्र प्रतिक्रिया आल्यानंतर खऱ्या लोकांची चित्रे काढणार नाही.

चॅटबॉट लोकांना ‘कपडे उघड करण्यापासून’ रोखण्यात आले आहे, कारण सरकार आणि प्रचारकांकडून होणाऱ्या टीकेला मस्क नमते आहे.

X कडून एक घोषणा वाचली: ‘आम्ही Grok खात्याला बिकिनीसारख्या कपड्यांमध्ये वास्तविक लोकांच्या प्रतिमा संपादित करण्यास परवानगी देण्यापासून रोखण्यासाठी तांत्रिक उपाय लागू केले आहेत.

‘हे निर्बंध सशुल्क सदस्यांसह सर्व वापरकर्त्यांना लागू होते.’

ग्रोकचा वापर महिलांचे कपडे काढण्यासाठी आणि त्यांच्या संमतीविना लहान मुलांसाठी केला जात असल्याच्या ट्रेंडवर व्यापक घृणा निर्माण झाली आहे.

बऱ्याच स्त्रियांनी सांगितले की, सर्वांनी पाहण्यासाठी, त्यांच्या इच्छेविरुद्ध तडजोड करणारी चित्रे तयार करण्याच्या एकूण अनोळखी व्यक्तींच्या क्षमतेमुळे त्यांना उल्लंघन झाल्याचे वाटते.

यूके सरकारने, इतरांसोबत, मस्कवर या आजारी प्रवृत्तीला थांबवण्यासाठी दबाव आणला, ज्यामुळे ऑनलाइन सुरक्षा कायदे आणि एआय बद्दल तातडीची चर्चा झाली.

सर केयर स्टारमरने तयार केल्या जाणाऱ्या गैर-सहमतीच्या लैंगिक प्रतिमांना ‘घृणास्पद’ आणि ‘लज्जास्पद’ असे नाव दिले.

Grok, X शी संलग्न AI चॅटबॉट, यापुढे वास्तविक लोकांच्या संमतीशिवाय लैंगिक प्रतिमा तयार करू शकणार नाही.

मस्कने त्याच्या एआय टूलची क्षमता मर्यादित करून सरकार आणि प्रचारकांच्या दबावापुढे झुकले आहे

बुधवारी संध्याकाळी X वर पोस्ट केलेल्या Grok बद्दलच्या अद्यतनाचा भाग

गेल्या आठवड्यात, Grok सह प्रतिमा तयार करण्याची क्षमता केवळ मासिक सदस्यत्वासाठी पैसे देणाऱ्या वापरकर्त्यांपुरती मर्यादित होती – परंतु तरीही ते यापुढे कमी प्रमाणात संपादने तयार करू शकणार नाहीत.

कॅलिफोर्नियाच्या उच्च अभियोक्त्याने AI बनावटीच्या अलीकडील प्रसाराची चौकशी करत असल्याचे सांगितल्यानंतर काल रात्री घोषित केलेले पूर्ण चढाई देखील काही तासांनंतर आली.

काल, ग्रोकने अशा विनंत्या नाकारण्यास सुरुवात केली आणि उत्तर द्यायला सुरुवात केली: ‘दुर्दैवाने मी अशा प्रकारची प्रतिमा निर्माण करू शकत नाही.’

स्टारमरने पंतप्रधानांच्या प्रश्नांमध्ये त्या विकासाचे स्वागत केले, परंतु ते फारसे पुढे गेले नाही, असा आग्रह धरला.

टेक्नॉलॉजी सेक्रेटरी लिझ केंडल यांनी या आठवड्यात सांगितले की ती तथाकथित ‘डिजिटल स्ट्रिपिंग’ वर कायदा कडक करण्यासाठी नियम पुढे आणत आहे.

अब्जावधी पौंडांपर्यंत दंड आकारण्याचे अधिकार असलेल्या मीडिया नियामक ऑफकॉमने सोशल मीडिया साइटने कायदा मोडला आहे की नाही याची चौकशी सुरू केली आहे.

काही देशांनी अधिक निर्णायकपणे काम केले, मलेशिया आणि इंडोनेशियाने फयास्को दरम्यान ग्रोकला पूर्णपणे रोखले.

दरम्यान, यूएस फेडरल सरकारने, मस्कच्या निर्मितीचा निषेध करण्यापासून परावृत्त केले आहे आणि संरक्षण सचिव पीट हेगसेथ म्हणाले की ग्रोक पेंटागॉन नेटवर्कमध्ये कार्यरत गुगलच्या जनरेटिव्ह एआय इंजिनमध्ये सामील होईल.

मंगळवारी पंतप्रधानांच्या प्रश्नांवर खासदारांना तोंड देताना सर कीर म्हणाले की, आणखी कारवाईची गरज आहे

पंतप्रधानांनी यूएस टेक अब्जाधीशांना डीपफेक्सच्या निर्मितीला प्रतिबंध करण्यासाठी कार्य करण्याची मागणी केल्यानंतर सोशल मीडिया टूलने वापरकर्त्याच्या विनंतीचे पालन करण्यास नकार देण्यास सुरुवात केली.

यूएस स्टेट डिपार्टमेंटने यूकेला धमकी दिली की जर येथे एक्सवर बंदी घातली गेली तर ‘टेबलच्या बाहेर काहीही नाही’.

PMQs वर पंतप्रधानांच्या टिप्पण्यांनंतर, श्री मस्क यांनी X वर लिहिले की त्यांना ‘कोणत्याही नग्न अल्पवयीन प्रतिमांची माहिती नव्हती. Grok द्वारे व्युत्पन्न‘ – जरी चॅटबॉटने स्वतः कबूल केले की त्याने मुलांच्या लैंगिक प्रतिमा तयार केल्या आहेत.

मस्क पुढे म्हणाले: ‘स्पष्टपणे, ग्रोक उत्स्फूर्तपणे करत नाही प्रतिमा निर्माण कराते केवळ वापरकर्त्याच्या विनंतीनुसार असे करते,” तो म्हणाला.

‘प्रतिमा व्युत्पन्न करण्यास सांगितल्यावर, ते बेकायदेशीर काहीही तयार करण्यास नकार देईल, कारण Grok चे ऑपरेटिंग तत्त्व कोणत्याही देशाच्या किंवा राज्याच्या कायद्यांचे पालन करणे आहे.

‘असे काही वेळा असू शकतात जेव्हा ग्रोक प्रॉम्प्ट्सचे विरोधी हॅकिंग काहीतरी अनपेक्षित करते. तसे झाल्यास, आम्ही लगेच दोष दूर करतो.’

जर X असेल यूके मधील ऑनलाइन सुरक्षा कायद्याचे उल्लंघन केल्याचे आढळलेOfcom त्याच्या जागतिक कमाईच्या दहा टक्के किंवा £18m पर्यंत दंड करू शकते.

न्यायालयांद्वारे साइट अवरोधित करण्याचा प्रयत्न करण्याचा अधिकार देखील आहे.

माजी मेटा बॉस सर निक क्लेग यांनी टेक कंपन्यांचे कठोर नियमन, सोशल मीडियाला ‘विषयुक्त चाळीस’ म्हणून ब्रँडिंग आणि AI ऑनलाइनचा उदय हा ‘नकारात्मक विकास’ म्हणून आवाहन केल्यामुळे हे घडले.

माजी उपपंतप्रधानांनी चेतावणी दिली की ‘स्वयंचलित’ सामग्रीसह गुंतणे हे इतर मानवांशी संवाद साधण्यापेक्षा ‘खूप वाईट, विशेषतः तरुण लोकांच्या मानसिक आरोग्यासाठी’ असल्याचे दिसते.