अँथ्रोपिक म्हणतात की त्याचे नवीनतम एआय मॉडेल सॉफ्टवेअर सुरक्षिततेतील कमकुवतपणा उघड करू शकते | AI (कृत्रिम बुद्धिमत्ता)

अँथ्रोपिकने मंगळवारी सांगितले की क्लॉड मिथॉस नावाचे त्याचे अद्याप रिलीज न झालेले कृत्रिम बुद्धिमत्ता मॉडेल सॉफ्टवेअरच्या कमकुवतपणा उघड करण्यात अत्यंत निपुण असल्याचे सिद्ध झाले आहे.

Mythos ने सामान्यतः वापरल्या जाणाऱ्या ऍप्लिकेशन्समध्ये हजारो असुरक्षा घातल्या आहेत ज्यासाठी कोणतेही पॅच किंवा निराकरण अस्तित्वात नाही, सॅन फ्रान्सिस्को-आधारित AI स्टार्टअपला हॅकिंगविरूद्ध संरक्षण मजबूत करण्यासाठी आणि विस्तृत वितरण रोखण्यासाठी सायबरसुरक्षा तज्ञांसोबत युती करण्यास प्रवृत्त करते.

“आमच्याकडे एक नवीन मॉडेल आहे जे आम्ही स्पष्टपणे लोकांसमोर सोडत नाही,” अँथ्रोपिक लॅब्सचे माईक क्रिगर यांनी सॅन फ्रान्सिस्कोमधील HumanX AI परिषदेत सांगितले.

त्याऐवजी, अँथ्रोपिक सायबरसुरक्षा तज्ञ आणि ओपन-सोर्स समुदायातील अभियंत्यांना Mythos सोबत मॉडेलचा वापर “वेळेपूर्वी त्यांना सशस्त्र करणे” म्हणून संरक्षणात्मक शस्त्र म्हणून करू देत आहे, क्रीगर यांनी स्पष्ट केले.

AI मॉडेल क्षमतांमध्ये झालेली झेप ही डेटा सुरक्षित ठेवण्यासाठी पासवर्ड शोधण्यासाठी किंवा एन्क्रिप्शन क्रॅक करण्यासाठी अशा साधनांचा वापर करत असलेल्या हॅकर्सच्या चिंतेसह आली आहे.

Mythos द्वारे उघडकीस आणलेल्या सर्वात जुन्या असुरक्षा 27 वर्षांपूर्वीच्या आहेत, आणि Anthropic च्या मते, AI मॉडेलद्वारे निदर्शनास येण्यापूर्वी त्यांच्या निर्मात्यांनी कोणतीही स्पष्टपणे दखल घेतली नाही.

मिथॉस ही अँथ्रोपिकच्या AI च्या क्लॉड कुटुंबाची नवीनतम पिढी आहे आणि अलीकडील काही कोड लीक झाल्यामुळे स्टार्टअपला अभूतपूर्व सायबरसुरक्षा जोखमीचा इशारा देणारी ब्लॉग पोस्ट प्रकाशित करण्यास प्रवृत्त केले.

“एआय मॉडेल्स कोडिंग क्षमतेच्या पातळीवर पोहोचले आहेत जिथे ते सॉफ्टवेअर असुरक्षा शोधण्यात आणि त्यांचे शोषण करण्यात सर्वात कुशल मनुष्यांशिवाय इतर सर्वांना मागे टाकू शकतात,” अँथ्रोपिकने ब्लॉग पोस्टमध्ये म्हटले आहे. “परिणाम – अर्थव्यवस्था, सार्वजनिक सुरक्षा आणि राष्ट्रीय सुरक्षेसाठी – गंभीर असू शकते.”

अँथ्रोपिकच्या मते, Mythos द्वारे उघड केलेल्या सॉफ्टवेअर असुरक्षा अनेकदा सूक्ष्म आणि AI शिवाय शोधणे कठीण होते. उदाहरण म्हणून, असे म्हटले आहे की, मिथॉसला व्हिडिओ सॉफ्टवेअरमध्ये पूर्वी लक्षात न आलेला दोष आढळला होता ज्याची त्याच्या निर्मात्यांनी 5m पेक्षा जास्त वेळा चाचणी केली होती.

खबरदारी म्हणून, Anthropic ने Mythos ची आवृत्ती CrowdStrike आणि Palo Alto Networks, तसेच Amazon, Apple आणि Microsoft सोबत “Glasswing” नावाच्या प्रोजेक्टमध्ये शेअर केली आहे.

नेटवर्किंग दिग्गज Cisco आणि Broadcom Linux फाउंडेशनसह प्रकल्पात भाग घेत आहेत, जे विनामूल्य, मुक्त-स्रोत लिनक्स संगणक ऑपरेटिंग सिस्टमला प्रोत्साहन देते.

सिस्कोचे मुख्य सुरक्षा आणि ट्रस्ट अधिकारी अँथनी ग्रीको यांनी ग्लासविंगबद्दल संयुक्त प्रकाशनात म्हटले आहे की, “हे काम एकट्याने करणे खूप महत्त्वाचे आणि अत्यंत निकडीचे आहे. “एआय क्षमतांनी एक उंबरठा ओलांडला आहे ज्यामुळे सायबर धोक्यांपासून गंभीर पायाभूत सुविधांचे संरक्षण करण्यासाठी आवश्यक असलेली निकड मूलभूतपणे बदलते, आणि मागे फिरणे नाही.”

संगणक प्रणालीच्या डिझाइन, देखभाल किंवा ऑपरेशनमध्ये गुंतलेल्या सुमारे 40 संस्था ग्लासविंगमध्ये सामील झाल्या आहेत. मिशनसाठी सुमारे $100m किमतीची संगणकीय संसाधने प्रदान करणाऱ्या अँथ्रोपिकच्या मते, प्रकल्प भागीदार त्यांचे मिथॉस निष्कर्ष सामायिक करतील. एआय मॉडेल्सच्या सुरुवातीच्या कामाने दर्शविले आहे की ते सॉफ्टवेअर आणि हार्डवेअर असुरक्षा शोधण्यात आणि निराकरण करण्यात मदत करू शकतात आणि वेगाने आणि स्केल पूर्वी शक्य नव्हते, ग्रीकोच्या मते.

क्राउडस्ट्राइकचे मुख्य तंत्रज्ञान अधिकारी, एलिया जैत्सेव्ह म्हणाले, “असुरक्षितता शोधून काढणे आणि प्रतिस्पर्ध्याकडून शोषण करणे यामधील खिडकी कोलमडली आहे – जे एकेकाळी काही महिने लागत होते ते आता AI सह काही मिनिटांत घडते.”

“क्लॉड मिथॉस प्रीव्ह्यू हे दाखवते की आता मोठ्या प्रमाणात बचावकर्त्यांसाठी काय शक्य आहे आणि विरोधक अपरिहार्यपणे त्याच क्षमतांचा फायदा घेण्याचा प्रयत्न करतील,” तो पुढे म्हणाला.

स्टार्टअपसोबतचे सर्व करार संपुष्टात आणण्यासाठी फेब्रुवारीमध्ये व्हाईट हाऊसने फर्मान काढल्यानंतरही मायथॉसच्या संदर्भात अमेरिकन सरकारशी चर्चा केल्याचे एन्थ्रोपिकने सांगितले. तो निर्देश फेडरल न्यायालयाच्या न्यायाधीशाने रोखून धरला होता, तर अँथ्रोपिकचे कायदेशीर आव्हान न्यायालयांद्वारे कार्य करते.