अँथ्रोपिकच्या नवीन एआय टूलचा आपल्या सर्वांसाठी परिणाम आहे – आम्हाला ते हवे आहे की नाही | शकील हाशिम

आयn जून 2024, पॅथॉलॉजी सेवा कंपनीवर झालेल्या सायबर हल्ल्यामुळे लंडनच्या रुग्णालयांमध्ये गोंधळ उडाला. 10,000 हून अधिक नियुक्त्या रद्द करण्यात आल्या. त्यानंतर रक्ताचा तुटवडा निर्माण झाला आणि रक्त तपासणीस उशीर झाल्यामुळे अ रुग्णाचा मृत्यू.

असे प्राणघातक सायबर हल्ले कृतज्ञतापूर्वक दुर्मिळ आहेत. पण एक नवीन AI रिलीझ ते बदलू शकते – आम्हाला अराजकतेच्या एका भयानक नवीन जगात डुंबवते आणि आम्ही अवलंबून असलेल्या डिजिटल सिस्टममध्ये व्यत्यय आणतो.

या आठवड्यात सॅन फ्रान्सिस्कोमधील अग्रगण्य एआय कंपनी अँथ्रोपिक, जाहीर केले “क्लॉड मिथॉस प्रीव्ह्यू”, एक AI मॉडेल ज्याला स्टार्टअप म्हणते की सार्वजनिकरित्या रिलीज करणे खूप धोकादायक आहे, त्याच्या अपवादात्मक सायबर सुरक्षा – आणि सायबर-हल्ला – क्षमतांमुळे धन्यवाद. मिथॉस, कंपनीचा दावा आहे, त्यात असुरक्षा आढळल्या आहेत प्रत्येक प्रमुख ब्राउझर आणि ऑपरेटिंग सिस्टम. दुसऱ्या शब्दांत, हे नवीन AI मॉडेल हॅकर्सना जगातील सर्वात महत्त्वाचे सॉफ्टवेअर व्यत्यय आणण्यास मदत करू शकते.

“हे Y2K-स्तरीय चिंताजनक आहे,” एक सुरक्षा तज्ञ म्हणाला. आधीच, Mythos ला एक 27 वर्षांचा बग सुरक्षा पायाभूत सुविधांच्या गंभीर तुकड्यात सापडला आहे आणि लिनक्स कर्नलमधील एकाधिक भेद्यताजगभरातील संगणक प्रणालीसाठी आवश्यक. हे कमकुवत मुद्दे इंटरनेटवरील जवळजवळ प्रत्येक गोष्टीला धोका देऊ शकतात ज्या स्ट्रीमिंग सेवांसह तुम्ही आराम करता त्या बँकिंग प्रणालींपर्यंत ज्यावर तुम्ही अवलंबून आहात.

जर असे तंत्रज्ञान मोठ्या प्रमाणावर उपलब्ध असेल आणि मानववंशीय दाव्यांप्रमाणे सक्षम असेल तर त्याचे परिणाम आपत्तीजनक असू शकतात. सायबर हल्ले ही केवळ डिजिटल समस्या राहिलेली नाही. भौतिक जगात आपण ज्यावर अवलंबून असतो त्या जवळजवळ प्रत्येक गोष्टीत सॉफ्टवेअरचा समावेश असतो. अलिकडच्या वर्षांत, विमानतळ, रुग्णालये आणि वाहतूक नेटवर्क सायबर हल्ल्यांमुळे अपंग झाले आहेत. आतापर्यंत, या स्केलच्या हल्ल्यांसाठी गंभीर तज्ञांची आवश्यकता होती. मिथॉस ही क्षमता शौकीनांच्या आवाक्यात आणेल – आणि व्यावसायिकांच्या विध्वंसाची क्षमता टर्बोचार्ज करेल.

सायबरसुरक्षा तज्ञ धोक्याची घंटा वाजवत आहेत. सिस्को या नेटवर्किंग आणि सायबरसुरक्षा कंपनीचे अँथनी ग्रीको म्हणाले: “एआय क्षमतेने एक उंबरठा ओलांडला आहे ज्यामुळे गंभीर पायाभूत सुविधांचे संरक्षण करण्यासाठी आवश्यक असलेली निकड मूलभूतपणे बदलते … आणि मागे जाणे नाही.” ली क्लॅरिच, पालो अल्टो नेटवर्क्सचे उत्पादन व्यवस्थापन प्रमुख, म्हणाले की मॉडेल “धोकादायक बदलाचे संकेत देते”, आणि चेतावणी दिली की “प्रत्येकाने एआय-सहाय्यित हल्लेखोरांसाठी तयारी करणे आवश्यक आहे”.

“आणखी हल्ले, वेगवान हल्ले आणि अधिक अत्याधुनिक हल्ले होतील,” क्लॅरिच म्हणाला.

सुदैवाने, आम्ही पूर्णपणे नशिबात नाही – अद्याप. Mythos सार्वजनिकरीत्या रिलीझ करण्याऐवजी, Anthropic प्रथम ते आमच्या गंभीर पायाभूत सुविधा चालवणाऱ्या कंपन्यांना ऑफर करत आहे, ज्यात ऍपल, मायक्रोसॉफ्ट आणि गुगल. आशा आहे की ते त्यांच्या सुरक्षेतील अंतर शोधण्यासाठी मिथॉसचा वापर करू शकतील आणि वाईट कलाकारांना समान क्षमता मिळण्यापूर्वी ते पॅच करू शकतील.

याचा अर्थ असा आहे की आपण आता वेळेच्या विरुद्ध शर्यतीत आहोत. राष्ट्रीय आणि आंतरराष्ट्रीय स्तरावर नियमनाच्या अभावामुळे, इतर कंपन्यांना अँथ्रोपिकच्या तैनाती धोरणाचे पालन करण्यास भाग पाडणारे काहीही नाही. कमी जबाबदार अभिनेते – यूएस किंवा इतरत्र – समान क्षमता असलेले मॉडेल रिलीझ करण्यासाठी कदाचित काही महिन्यांचीच बाब आहे. जेव्हा ते करतात, तेव्हा आम्ही आशा करू शकतो की आम्ही ज्या सॉफ्टवेअरवर अवलंबून आहोत ते पुरेसे सुरक्षित केले गेले आहे.

अधिक सहकारी काळात, मी आशावादी आहे की यूएस या येऊ घातलेल्या तयारीसाठी संपूर्ण समाजाचा प्रयत्न मागे घेईल.vulnpocalypseपण ट्रम्प प्रशासनाला आहे युद्ध घोषित केले अँथ्रोपिकच्या विरोधात, सरकारी एजन्सी आणि लष्कराला त्यांचे तंत्रज्ञान वापरण्यास बंदी घालणे आणि अमेरिकन लोकांच्या मोठ्या प्रमाणावर पाळत ठेवण्यासाठी सैन्याला त्याची साधने वापरण्याची परवानगी न दिल्याबद्दल सार्वजनिकपणे “रॅडिकल लेफ्ट, वेक कंपनी” असे संबोधले. त्या शत्रुत्वाचा अर्थ असा आहे की सरकार अँथ्रोपिकसह स्वतःच्या, प्रसिद्ध रिकेटी सिस्टमला कठोर करण्यासाठी काम करेल – ज्या सुरक्षित करण्यासाठी सर्वात महत्वाच्या आहेत.

आशावादाचे काही कारण आहे. मानववंशीय असू शकते overstating मिथॉसची क्षमता: त्याच्या स्वतःच्या उत्पादनांचा प्रचार करण्यात निहित स्वारस्य आहे. परंतु दस्तऐवजीकरण केलेल्या भेद्यता आणि प्रतिस्पर्ध्यांची अँथ्रोपिकसह भागीदारी करण्याची इच्छा सूचित करते की धोका वास्तविक आहे. दरम्यान, सरकारचे काही भाग दखल घेत आहेत: मंगळवारी, स्कॉट बेसेंट, यूएस ट्रेझरी सेक्रेटरी आणि जेरोम पॉवेल, फेडरल रिझर्व्ह चेअर, अहवालानुसार बोलावले वॉल स्ट्रीटचे अधिकारी Mythos आणि भविष्यातील सायबरसुरक्षा-केंद्रित AI मॉडेल्सच्या जोखमीसाठी तयार आहेत.

पण एकूण चित्र उदास आहे. मिथॉस ही केवळ सायबरसुरक्षा समस्या नाही तर ती अस्वस्थपणे चांगली आहे लोकांना बायोवेपन्स डिझाइन करण्यात मदत करणेआणि ते कधीकधी जाणूनबुजून फसवते वापरकर्ते आणि त्याचे ट्रॅक कव्हर करते. हे “अतिबुद्धिमान” AI च्या जोखमीचे एक प्रात्यक्षिक आहे जे अँथ्रोपिक आणि त्याचे प्रतिस्पर्धी समाजावर सोडू इच्छितात – परिणाम शापित आहेत. Mythos सह, आमच्याकडे जोखमीच्या पुढे जाण्यासाठी वेळ असू शकतो. परंतु जर सरकारने या कंपन्यांना नियमांशिवाय काम करू दिले तर भविष्यात आपण इतके भाग्यवान असू शकत नाही.

• शकील हाशिम याचे संपादक आहेत ट्रान्सफॉर्मरपरिवर्तनशील AI च्या शक्ती आणि राजकारणाविषयी प्रकाशन