मानववंशीय म्हणतात की नवीन क्लॉड मिथॉस एआय सार्वजनिक वापरासाठी खूप धोकादायक आहे – राष्ट्रीय
एआय विकसक मानववंशीय त्याचे नवीनतम क्लॉड एआय मॉडेल इतके शक्तिशाली आहे – आणि संभाव्य धोकादायक आहे – की ते वापरण्यासाठी सामान्य लोकांना उपलब्ध होणार नाही.
डब केले क्लॉड मिथॉससॉफ्टवेअर क्लॉड एआय कुटुंबाचा भाग आहे, एक कृत्रिम बुद्धिमत्ता मॉडेल जे चॅटबॉट आणि एआय सहाय्यकासारखे कार्य करू शकते, जसे की ChatGPT आणि Google च्या जेमिनी.
“हे एक फ्रंटियर एआय मॉडेल आहे, आणि त्यात सॉफ्टवेअर अभियांत्रिकी, तर्क, संगणक वापर, ज्ञान कार्य आणि संशोधनात सहाय्य यासह अनेक क्षेत्रांमध्ये क्षमता आहेत- जी आम्ही यापूर्वी प्रशिक्षित केलेल्या कोणत्याही मॉडेलच्या पलीकडे आहेत,” अँथ्रोपिकने लिहिले. पूर्वावलोकन प्रणाली कार्ड.
सिस्टम कार्डमध्ये असेही म्हटले आहे की क्लॉड मिथॉसने “शक्तिशाली सायबरसुरक्षा कौशल्ये प्रदर्शित केली आहेत, ज्याचा उपयोग बचावात्मक हेतूंसाठी (सॉफ्टवेअर कोडमधील भेद्यता शोधणे आणि निराकरण करणे) आणि आक्षेपार्ह हेतूंसाठी (त्या असुरक्षा वापरण्यासाठी अत्याधुनिक मार्ग डिझाइन करणे) दोन्हीसाठी केला जाऊ शकतो.”
या क्षमतांमुळेच अँथ्रोपिकने हे सॉफ्टवेअर सर्वसामान्यांसाठी रिलीझ न करण्याचा निर्णय घेतला.
“क्लॉड मिथॉसच्या क्षमतांमध्ये मोठ्या प्रमाणात वाढ झाल्यामुळे आम्हाला ते सर्वसाधारणपणे उपलब्ध न करण्याचा निर्णय घेण्यात आला आहे. त्याऐवजी, आम्ही मर्यादित भागीदारांसह संरक्षणात्मक सायबरसुरक्षा कार्यक्रमाचा भाग म्हणून वापरत आहोत.”
एन्थ्रोपिकने या भागीदारांना “सायबरसुरक्षिततेसाठी त्याचा वापर प्रतिबंधित करणाऱ्या अटींनुसार महत्त्वाच्या सॉफ्टवेअर इन्फ्रास्ट्रक्चरची देखभाल करणाऱ्या संस्था” म्हणून उल्लेख केला आहे.
प्रोजेक्ट प्लॉफशेअर्सचे वरिष्ठ संशोधक ब्रांका मारिजन म्हणतात की अशा प्रकारच्या तंत्रज्ञानावर सावधगिरी बाळगली पाहिजे.
“सायबरसुरक्षा आणि व्यापक राष्ट्रीय सुरक्षेचे परिणाम ते ध्वजांकित करत आहेत, मला वाटत नाही की ते काल्पनिक आहेत,” ती म्हणाली. “मला वाटते की वास्तविक चिंता आहेत ज्याकडे आपण आता अधिक लक्ष दिले पाहिजे.”
क्लॉड मिथॉस चिंताग्रस्त का आहे?
फॉर्मिक एआयचे सीईओ डॅनियल एस्कॉट म्हणाले की क्लॉड मिथॉस सोडू नये म्हणून अँथ्रोपिक “जाणीवपूर्वक निवडत आहे”.
ते म्हणाले, “सामान्य लोकांपासून ते सोडण्याविरुद्ध त्यांचा युक्तिवाद असा आहे की ही एआय प्रणाली वापरून पायाभूत सुविधांचे संरक्षण करण्यासाठी समान प्रणाली आणि कार्यक्षमता आणि क्षमता समान पायाभूत सुविधांवर हल्ला करण्यासाठी वापरली जाऊ शकते,” तो म्हणाला.
तथापि, तो असेही म्हणाला की तो “कोणतीही चूक करणार नाही” ज्यामध्ये “कोणीतरी प्रवेश असेल [Claude] पुराणकथा.”
“अँथ्रोपिक त्यांच्या स्वत: च्या निवडी करत आहे की ते कोणासाठी या प्रणालीमध्ये प्रवेश द्यायला तयार आहेत. परंतु त्याच वेळी, मी कल्पना करू शकतो की ते भागीदार कदाचित ‘तुम्हाला फक्त आम्हाला विकण्याची परवानगी आहे’ असे म्हणत असतील, कदाचित इतर घटकांचा मर्यादित संच, परंतु त्यांना प्रत्येकाला समान प्रकारच्या तंत्रज्ञानामध्ये प्रवेश मिळावा असे वाटत नाही,” तो म्हणाला.
“आणि जर अँथ्रोपिक त्यांना ते विकणार नाही, तर कोणीतरी ते विकसित करेल आणि विकेल.”
क्लॉड मिथॉसवरील अँथ्रोपिक सिस्टम कार्ड “मीठाच्या दाण्याबरोबर” घेतले पाहिजे असा इशाराही एस्कॉटने दिला.
दररोज राष्ट्रीय बातम्या मिळवा
दररोज कॅनडाच्या बातम्या तुमच्या इनबॉक्समध्ये वितरित करा जेणेकरुन तुम्ही दिवसाच्या प्रमुख बातम्या कधीही चुकवू शकणार नाही.
“दस्तऐवजीकरणाच्या आधारे, असे दिसते की ते ओपन-सोर्स डेटा सेटच्या संयोजनावर हे प्रशिक्षण देत आहेत जे ते अँथ्रोपिकच्या इतर मॉडेल्ससाठी वापरत आहेत,” तो म्हणाला.
“हे ChatGPT किंवा मायक्रोसॉफ्ट को-पायलट करत असलेल्या गोष्टींपेक्षा वेगळे नाही, जिथे ते फक्त स्क्रॅपिंग करत आहेत, काही लोक चोरी करत आहेत, संपूर्ण इंटरनेटवरून माहिती देतात आणि ते सर्व एका मोठ्या डेटा सेटमध्ये ठेवतात ज्यावर ते प्रशिक्षण देऊ शकतात.”
मारिजन म्हणाली की तिला “अँथ्रोपिकमधून अधिक स्पष्टता पहायला आवडेल आणि या इतर कंपन्या आम्हाला जे सांगत आहेत त्यावरून हे खरोखर किती संबंधित आहे.
ती म्हणाली, “हे पूर्णपणे चिंताजनक आहे.” “कंपन्यांच्या ठिकाणी असणाऱ्या या सर्व सुरक्षा उपायांना ते कमी करत आहे.”
अँथ्रोपिक कधी क्लॉड मिथॉस सोडेल का?
कॉनकॉर्डिया युनिव्हर्सिटीतील अर्थशास्त्राचे प्राध्यापक मोशे लँडर म्हणाले की क्लॉड मिथॉस अद्याप लोकांसमोर न सोडल्याने वापरकर्त्यांवर परिणाम न करता संभाव्य त्रुटी दूर केल्या जाऊ शकतात.
“जर काही फार्मास्युटिकल कंपनी एखादे औषध विकसित करत असेल आणि ते म्हणाले, ‘आम्ही ते सार्वजनिक वापरासाठी सोडत नाही आहोत’, तर त्यात काही चूक आहे का? मी म्हणेन, खरं तर, मला असे वाटते की ते कदाचित जबाबदार आहे,” तो म्हणाला.
“जर कंपनी म्हणत असेल की, ‘बघा, आम्ही ती सार्वजनिक वापरात कधीच टाकत नाही,’ तर ते काहीतरी वेगळे आहे. ते काय म्हणत आहेत ते म्हणजे ‘आम्ही आता सार्वजनिक वापरात आणत आहोत,’ मला वाटते ते अत्यंत जबाबदार आहे, ही गोष्ट कशी वापरली जाणार आहे ते पाहू या. त्याचे दोष कुठे आहेत ते पाहूया,” तो म्हणाला.
“जर त्यांना असे आढळले की काही कमतरता आहेत, तर त्यात स्वतःला दुरुस्त करण्याची किंवा कोणत्याही त्रुटी दूर करण्याची क्षमता आहे, ती वाईट गोष्ट असू शकत नाही.”
AI चे नियमन करण्यासाठी आणि त्याच्या वापरासाठी कायदेशीर चौकट उपलब्ध करून देण्यासाठी सरकारांना काय करावे लागेल याबद्दल कॅनडासह जगभरात महत्त्वाचे प्रश्न आहेत.
लँडरने असेही म्हटले आहे की एआय सिस्टम ताबडतोब सोडल्या जात नसल्याबद्दल प्रारंभिक चिंता अनेकांसाठी प्रश्न निर्माण करेल, ज्याची कोणतीही सोपी उत्तरे नाहीत.
“मला असे वाटते कारण लोक सामान्यतः AI बद्दल चिंतित असतात, जेव्हा आपण ऐकतो की तेथे एआय उत्पादन येत आहे जे सार्वजनिक वापरासाठी उपलब्ध नाही, तेव्हा आम्ही पॅनिक बटण दाबतो आणि म्हणतो, ‘एक सेकंद थांबा, येथे काहीतरी वाजत नाही,’” तो म्हणाला.
“त्यांच्या आधी [Anthropic] सार्वजनिक वापरात ठेवा, ते चुकीच्या हातात जाणार नाही याची त्यांना खात्री करून घ्यायची आहे, जिथे लोकांचा कदाचित अप्रामाणिक हेतू असू शकतो आणि एकदा त्यांनी प्रोटोकॉल किंवा सुरक्षितता स्थापित केल्यावर त्याचा उपयोग समाजाचे नुकसान करण्यासाठी केला जाऊ शकतो.
कॅनेडियन व्यवसायांसाठी रॅन्समवेअर हल्ले वाढत आहेत
जानेवारीतकॅनेडियन सेंटर फॉर सायबर सिक्युरिटी (सायबर सेंटर) ने त्याचे प्रकाशन केले 2025-27 साठी ransomware धोका दृष्टीकोन, AI च्या वाढीसह, “हे धोके स्वस्त आणि वेगवान आणि शोधणे कठीण झाले आहेत.”
परिणामी, असंख्य कॅनेडियन संस्था, व्यवसाय “आकार किंवा क्षेत्राकडे दुर्लक्ष करून” आणि व्यक्ती रॅन्समवेअर हल्ल्यांना बळी पडतात. तथापि, “गंभीर पायाभूत सुविधा आणि मोठ्या कॉर्पोरेशन्स” हे रॅन्समवेअर क्रियाकलापांचे शीर्ष लक्ष्य असल्याचे आढळले.
अहवालात असे आढळून आले आहे की 2021 ते 2024 या कालावधीत रॅन्समवेअरच्या घटनांमध्ये दरवर्षी सरासरी 26 टक्क्यांनी वाढ झाली आहे.
याव्यतिरिक्त, असे देखील आढळून आले की सायबर सुरक्षा घटनांशी संबंधित एकूण पुनर्प्राप्ती खर्च 2023 मध्ये $1.2 अब्ज खर्च झाला, जो 2019 ते 2021 पर्यंत $200 दशलक्ष पूर्वीच्या खर्चाच्या दुप्पट आहे.
तथापि, मारिजनचा असा विश्वास आहे की या साधनांचा वापर करण्यासाठी व्यवसायांसाठी अधिक प्रोटोकॉल असणे आवश्यक आहे.
“मला असे वाटते की हे खरोखर शासनातील हे स्पष्ट अंतर आहे जेथे आमच्याकडे कंपन्या आहेत ज्या त्यांना काय वाटते ते ठरवत आहेत. आमच्याकडे खरोखर प्रक्रिया असणे आवश्यक आहे,” ती म्हणाली.
“गेल्या दशकात आम्ही जे पाहिले ते म्हणजे रॅन्समवेअर हल्ल्यांमध्ये वाढ […] आणि त्याचा परिणाम आपल्या सर्वांवर होतो. त्यामुळे, जेव्हा तुम्ही ‘याचे परिणाम काय आहेत’ याचा विचार करत असाल, तेव्हा ते सामान्य लोकांसाठीही खूप महत्त्वाचे आहेत.
“म्हणून, आम्ही पूर्णपणे त्या जागेत आहोत जिथे या कंपन्या मूलत: त्यांना कशाची चिंता वाटते किंवा त्यांना ध्वजांकित करत आहेत हे ठरवत आहेत. आणि यासाठी कोणतीही प्रक्रिया नाही, कोणत्याही रेलिंग खरोखर दिसण्यासाठी.”
Source link
