AI-चालित हॅकिंगचा औद्योगिक स्तरावरील धोक्यात स्फोट झाला आहे, Google म्हणतो | AI (कृत्रिम बुद्धिमत्ता)

केवळ तीन महिन्यांत, एआय-संचालित हॅकिंग ही नवीन समस्यांपासून औद्योगिक स्तरावरील धोक्यात गेली आहे, असे एका अहवालात म्हटले आहे. Google.

Google च्या धमकी बुद्धिमत्ता गटातील निष्कर्ष नवीन AI मॉडेल्स कोडिंगमध्ये अत्यंत निपुण कसे आहेत याविषयी तीव्र, जागतिक चर्चेला जोडतात – आणि सॉफ्टवेअर सिस्टमच्या विस्तृत श्रेणीतील असुरक्षा शोषणासाठी अत्यंत शक्तिशाली साधने बनतात.

त्यात असे आढळून आले आहे की गुन्हेगारी गट, तसेच चीन, उत्तर कोरिया आणि रशियामधील राज्य-संबंधित कलाकार, जेमिनी, क्लॉड आणि टूल्ससह व्यावसायिक मॉडेल्सचा मोठ्या प्रमाणावर वापर करताना दिसतात. OpenAI – हल्ले सुधारणे आणि वाढवणे.

“एआय असुरक्षिततेची शर्यत जवळ आली आहे असा एक गैरसमज आहे. वास्तविकता अशी आहे की ती आधीच सुरू झाली आहे,” असे गटाचे मुख्य विश्लेषक जॉन हल्टक्विस्ट म्हणाले.

“धोका देणारे कलाकार त्यांच्या हल्ल्यांचा वेग, स्केल आणि अत्याधुनिकता वाढवण्यासाठी AI चा वापर करत आहेत. हे त्यांना त्यांच्या ऑपरेशन्सची चाचणी घेण्यास, लक्ष्यांवर टिकून राहण्यास, चांगले मालवेअर तयार करण्यास आणि इतर अनेक सुधारणा करण्यास सक्षम करते.”

गेल्या महिन्यात एआय कंपनी अँथ्रोपिक त्याचे सर्वात नवीन मॉडेल, Mythos सोडण्यास नकार दिलात्याच्याकडे अत्यंत शक्तिशाली क्षमता असल्याचे प्रतिपादन केल्यानंतर आणि चुकीच्या हातात पडल्यास सरकार, वित्तीय संस्था आणि जगाला धोका निर्माण झाला.

विशेषतः, Anthropic ने सांगितले की Mythos ला “प्रत्येक प्रमुख ऑपरेटिंग सिस्टीम आणि प्रत्येक प्रमुख वेब ब्राउझर” मध्ये शून्य-दिवसीय असुरक्षा आढळून आल्या आहेत – उत्पादनातील त्रुटी ही संज्ञा त्याच्या विकासकांना पूर्वी अज्ञात होती.

कंपनीने म्हटले आहे की या शोधांमुळे “उद्योगात भरीव समन्वित संरक्षणात्मक कारवाई” आवश्यक आहे.

Google च्या अहवालात असे आढळून आले की, एक गुन्हेगारी गट अलीकडे “सामुहिक शोषण” मोहीम राबवण्यासाठी शून्य-दिवसाच्या असुरक्षिततेचा लाभ घेण्याच्या मार्गावर होता – आणि हा गट मिथॉस नसलेले AI लार्ज लँग्वेज मॉडेल (LLM) वापरत असल्याचे दिसून आले.

अहवालात असेही आढळून आले की गट OpenClaw सह “प्रयोग” करत होते, एक AI साधन जे फेब्रुवारीमध्ये व्हायरल झाले होते जे वापरकर्त्यांना त्यांच्या आयुष्यातील मोठा भाग AI एजंटला रेलिंग नसलेल्या आणि मोठ्या प्रमाणात ईमेल इनबॉक्स डिलीट करण्याची दुर्दैवी प्रवृत्ती प्रदान करण्यासाठी प्रदान करते.

युनिव्हर्सिटी कॉलेज लंडनमधील सुरक्षा अभियांत्रिकीचे प्राध्यापक स्टीव्हन मर्डोक म्हणाले की, एआय टूल सायबर सुरक्षा – तसेच हॅकर्समध्ये बचावात्मक बाजूस मदत करू शकते.

“म्हणूनच मी घाबरत नाही. सर्वसाधारणपणे आम्ही अशा टप्प्यावर पोहोचलो आहोत जिथे बग शोधण्याचा जुना मार्ग निघून गेला आहे, आणि आता हे सर्व एलएलएम-सहाय्यित असेल. याचे परिणाम बाहेर येण्यास थोडा वेळ लागेल,” तो म्हणाला.

तथापि, जर AI महत्वाकांक्षी हॅकर्सना त्यांची उत्पादकता उद्दिष्टे गाठण्यात मदत करत असेल, तर ते व्यापक अर्थव्यवस्थेला चालना देत आहे की नाही याबद्दल शंका आहेत.

Ada Lovelace Institute (ALI) ही एक स्वतंत्र AI संशोधन संस्था आहे, ज्याने AI कडून सार्वजनिक क्षेत्रातील बहु-अब्ज-पाऊंड उत्पादकता वाढीच्या गृहितकांपासून सावध केले आहे. यूके सरकारने डिजीटल टूल्स आणि एआय मधील सार्वजनिक क्षेत्रातील गुंतवणुकीतून बचत आणि उत्पादकता फायद्यांमध्ये £45bn नफा मिळण्याचा अंदाज व्यक्त केला आहे.

सोमवारी प्रकाशित झालेल्या एका अहवालात, ALI ने म्हटले आहे की उत्पादकतेतील AI-संबंधित वाढीच्या बहुतेक अभ्यासांमध्ये वेळेची बचत किंवा खर्च कपातीचा संदर्भ दिला जातो, परंतु चांगल्या सेवा किंवा सुधारित कामगार-कल्याण यासारख्या परिणामांकडे लक्ष दिले जात नाही.

अशा संशोधनाच्या इतर समस्याप्रधान पैलूंमध्ये हे समाविष्ट आहे: कामाच्या ठिकाणी एआय-संबंधित कार्यक्षमतेचे अंदाज वास्तविक जगात खरोखर यशस्वी होतात की नाही; वेगवेगळ्या कामांमध्ये AI वापरण्यासाठी वेगवेगळे परिणाम अस्पष्ट करणारे हेडलाइन आकडे; आणि सार्वजनिक क्षेत्रातील रोजगार आणि सेवा वितरणावरील परिणामाचा लेखाजोखा ठेवण्यात अयशस्वी.

ALI अहवालात म्हटले आहे की, “एआय बद्दलचे प्रमुख सरकारी निर्णय आकार देणारे उत्पादकता अंदाज कधीकधी न तपासलेल्या गृहितकांवर अवलंबून असते आणि अशा पद्धतींवर अवलंबून असते ज्यांच्या मर्यादा जंगलातील आकृत्या वापरणाऱ्यांकडून नेहमीच स्वीकारल्या जात नाहीत,” ALI अहवालात म्हटले आहे.

“परिणाम म्हणजे ज्या आत्मविश्वासाने उत्पादकता दावे सादर केले जातात आणि त्यामागील पुराव्याची ताकद यांच्यातील अंतर आहे.”

अहवालाच्या शिफारशींमध्ये पुढील गोष्टींचा समावेश आहे: तंत्रज्ञानाच्या प्रभावावर अनिश्चितता प्रतिबिंबित करण्यासाठी भविष्यातील अभ्यासांना प्रोत्साहन देणे; “सुरुवातीपासून” AI कार्यक्रमांचा प्रभाव सरकारी विभाग मोजतात याची खात्री करणे; आणि दीर्घ-मुदतीच्या अभ्यासांचे समर्थन करणे जे आठवड्यांऐवजी वर्षांमध्ये उत्पादकता वाढीचे मोजमाप करतात.