एआय जायंटने ‘सिंपल मिस्टेक’मध्ये सोर्स कोडचा पर्दाफाश केला; काय उघड झाले आणि तज्ञ का चिंतित आहेत?

१

एन्थ्रोपिकमधील सुरक्षिततेतील एक मोठी त्रुटी त्याच्या AI कोडिंग असिस्टंटचा सोर्स कोड, क्लॉड कोड, चुकून ऑनलाइन उघड झाल्यानंतर संपूर्ण तंत्रज्ञान जगामध्ये व्यापक वादविवादाला सुरुवात झाली आहे. 31 मार्च रोजी उघडकीस आलेल्या या घटनेने अग्रगण्य कृत्रिम बुद्धिमत्ता कंपन्या देखील मूलभूत ऑपरेशनल त्रुटींचा सामना कसा करू शकतात याबद्दल नवीन चिंता निर्माण केली आहे.

गळती सायबर हल्ल्यामुळे झाली नाही तर पॅकेजिंगच्या एका साध्या चुकीमुळे झाली आहे, ज्यामुळे तज्ञांसाठी ते आणखी चिंताजनक आहे. जसजशी चर्चा तीव्र होत जाते तसतसा हा भाग या वर्षातील एआय उद्योगातील सर्वाधिक चर्चेत असलेला कार्यक्रम बनला आहे.

मानववंशीय क्लॉड कोड लीक: काय झाले?

क्लॉड कोडचा संपूर्ण स्त्रोत कोड सार्वजनिक पॅकेज रेजिस्ट्रीवर प्रकाशित केलेल्या चुकीच्या कॉन्फिगर केलेल्या फाइलद्वारे प्रवेश करण्यायोग्य झाला तेव्हा विवाद सुरू झाला. रिलीझमध्ये समाविष्ट असलेल्या स्त्रोत नकाशा फाइलने विकासकांना संपूर्ण अंतर्गत कोडबेसची पुनर्रचना करण्यास अनुमती दिली.

या प्रदर्शनाचा अर्थ असा होतो की सॉफ्टवेअरचे महत्त्वपूर्ण भाग, जसे की कमांड-लाइन इंटरफेस, अंतर्गत साधने आणि विकास संरचना, प्रवेश असलेल्या कोणालाही दृश्यमान झाले. तथापि, अधिका-यांनी स्पष्ट केले की AI मॉडेलचे वजन आणि वापरकर्ता डेटा यासारखे संवेदनशील घटक लीकचा भाग नाहीत.

एन्थ्रोपिक कोड लीक: क्लॉड कोड लीक कसा झाला?

सॉफ्टवेअर प्रकाशन प्रक्रियेदरम्यान मूलभूत निरीक्षणामुळे गळती झाली. स्रोत नकाशा फाइल, सामान्यत: डीबगिंगसाठी वापरली जाते, सार्वजनिक पॅकेजमध्ये चुकून समाविष्ट केली गेली.

सुरक्षा संशोधकांनी स्पष्ट केले की अशा फायली प्रवेश केल्यावर अंतर्निहित कोड संरचना प्रकट करू शकतात. या प्रकरणात, फाइलने क्लॉड कोडच्या मागे TypeScript कोडची जवळपास-पूर्ण पुनर्रचना करण्यास अनुमती दिली.

या घटनेवर टीका झाली आहे कारण प्रगत AI कंपन्या देखील तैनातीदरम्यान मूलभूत सुरक्षा तपासण्यांकडे कसे दुर्लक्ष करू शकतात यावर प्रकाश टाकतात.

अँथ्रोपिक कोड लीक: अँथ्रोपिक क्लॉड कोड लीक ही एक मोठी डील का आहे?

तज्ञ म्हणतात की प्रभाव फक्त कोड एक्सपोजरच्या पलीकडे जातो. एन्थ्रोपिकने स्वतःला AI सुरक्षितता आणि सुरक्षिततेमध्ये एक नेता म्हणून स्थान दिले आहे, ज्यामुळे ही चूक विशेषतः लक्षणीय आहे.

लीकमुळे ऑपरेशनल शिस्तीबद्दल प्रश्न निर्माण झाले आहेत, विशेषत: एआय सिस्टम अधिक शक्तिशाली आणि प्रभावशाली होत असताना. काही विश्लेषकांचा असा विश्वास आहे की अशा घटनांमुळे नियामक, भागीदार आणि गुंतवणूकदार यांच्यातील विश्वासावर परिणाम होऊ शकतो.

वेळेकडे लक्ष वेधले गेले आहे, कारण कंपनी कथितरित्या मोठ्या आर्थिक टप्पे गाठण्यासाठी तयारी करत आहे, ज्यामुळे प्रतिष्ठेचा प्रभाव आणखी गंभीर होईल.

मानववंशीय क्लॉड कोड लीक: इंटरनेट प्रतिक्रिया

अनेक वापरकर्त्यांनी सुरक्षा-केंद्रित कंपनीने अशी मूलभूत चूक केल्याचे विडंबन दाखवून ऑनलाइन प्रतिक्रिया धक्का बसण्यापासून तीक्ष्ण टीकेपर्यंत होत्या.

एंटरप्राइज एआय आर्किटेक्ट, शक्ती वदक्केपट यांनी लिहिले:
“मोठी गोष्ट अशी आहे की Anthropic ही एक कंपनी आहे जी सुरक्षिततेच्या स्तरावर आणि त्यांच्या ठिकाणी असलेल्या नियंत्रणांवर गर्व करते आणि नंतर ते त्यांच्या npm मध्ये नकाशा फाइल पाठवतात. दुसरी गोष्ट अशी आहे की GitHub वर रेपो तयार करणाऱ्या व्यक्तीवर खटला भरणे त्यांना कठीण जाईल कारण त्याने मूलत: Python ला कोड पोर्ट केला आहे, त्यामुळे DMCA आणि argulic inapplicable असे काहीही होणार नाही. “हॅक” प्रति se;

दुसरा वापरकर्ता जोडला:
“ही तीच कंपनी आहे जिने काँग्रेस AI ला अस्तित्वाचा धोका असल्याचे सांगितले… तीच कंपनी ज्याने 8 अब्ज डॉलर खर्चून ‘पृथ्वीवरील सर्वात सुरक्षितता-केंद्रित प्रयोगशाळा’ तयार केली… त्याच कंपनीला पेंटागॉनने ‘पुरवठा साखळी जोखीम’ म्हणून काळ्या यादीत टाकले कारण ते बहुधा तत्त्वनिष्ठ होते… आणि ते कॉन्फिगरेशन फाइलद्वारे उघड झाले की कोणताही मिड-लेव्हल रिव्ह्यू इंजिनियर,

तिसऱ्या टिप्पणीने विडंबन ठळक केले:
“एआय किती धोकादायक आहे हे जगाला सांगणारी कंपनी… स्वतःच्या कोडचे रक्षण करू शकली नाही. एखाद्या धोक्याच्या चुकीपासून सरकारला सल्ला देणारे हे लोक आहेत. अस्तित्त्वाच्या जोखमीबद्दल साक्ष देतात. आतापर्यंत तयार केलेल्या सर्वात शक्तिशाली तंत्रज्ञानावर विश्वास ठेवणारे बनण्यास सांगत आहेत. आणि त्यांनी नुकतेच त्यांचे स्वतःचे ब्ल्यूप्रिंट लोकांसमोर अपघाताने पाठवले,”

अँथ्रोपिक कोड लीक: क्लॉड कोड लीकवर अँथ्रोपिक काय म्हणाले?

अँथ्रोपिकने ही समस्या मान्य केली आणि स्पष्ट केले की ही घटना उल्लंघन किंवा हॅकिंगच्या प्रयत्नामुळे झाली नाही.

कंपनीच्या प्रवक्त्याने सांगितले, “कोणताही संवेदनशील ग्राहक डेटा किंवा क्रेडेन्शियल्स गुंतलेले नाहीत किंवा उघड झाले नाहीत. ही रिलीझ पॅकेजिंग समस्या मानवी चुकांमुळे झाली आहे, सुरक्षा उल्लंघनामुळे नाही. हे पुन्हा होऊ नये म्हणून आम्ही उपाययोजना करत आहोत.”

कंपनीने या समस्येचे निराकरण करण्यासाठी आणि भविष्यातील प्रकाशनांमध्ये अशाच चुका टाळण्यासाठी पावले उचलली आहेत.

अँथ्रोपिक कोड लीक: क्लॉड कोड लीकमध्ये काय उघड झाले?

उघड झालेल्या डेटामध्ये सॉफ्टवेअरच्या अंतर्गत संरचनेचे प्रमुख भाग समाविष्ट होते. यात कमांड-लाइन टूल्स, एजंट आर्किटेक्चर आणि विकासाधीन काही अप्रकाशित वैशिष्ट्ये समाविष्ट आहेत.

तथापि, तज्ञांनी यावर जोर दिला की मालकीचे एआय मॉडेल आणि वापरकर्ता माहिती यासारखे सर्वात संवेदनशील घटक सुरक्षित राहिले. असे असले तरी, लीक विकासकांना एक प्रमुख AI कोडिंग सहाय्यक कसा तयार केला जातो आणि आंतरिकरित्या कार्य करतो याबद्दल दुर्मिळ अंतर्दृष्टी देते.

एन्थ्रोपिक कोड लीक: विकासक लीकबद्दल उत्साहित का आहेत?

विशेष म्हणजे सर्वच प्रतिक्रिया नकारात्मक होत्या असे नाही. अनेक विकसक आणि संशोधकांनी उघड केलेल्या कोडचे विश्लेषण करण्यात स्वारस्य दाखवले आहे. काहींनी प्रगत AI टूल डिझाइनमध्ये अंतर्दृष्टी देऊन शिकण्याची मौल्यवान संधी म्हणून वर्णन केले.

मंच आणि रेपॉजिटरीजमधील चर्चांनी कंपनीवर टीका करण्याऐवजी आर्किटेक्चर समजून घेण्यावर लक्ष केंद्रित केले आहे. हा संमिश्र प्रतिसाद अशा घटनांच्या दुहेरी स्वरूपावर प्रकाश टाकतो, सुरक्षा चिंता आणि तांत्रिक संधी दोन्ही.

अँथ्रोपिक कोड लीक: क्लॉड कोड लीक झाल्यानंतर पुढे काय होते?

या घटनेमुळे संपूर्ण एआय उद्योगात कडक सुरक्षा पद्धती सुरू होण्याची शक्यता आहे. कंपन्या त्यांच्या रिलीझ पाइपलाइनचे पुनरावलोकन करू शकतात आणि अशाच चुका टाळण्यासाठी सुरक्षा उपाय मजबूत करू शकतात.

नियामक आणि धोरणकर्ते देखील दखल घेऊ शकतात, विशेषत: जागतिक तंत्रज्ञान नियमांना आकार देण्यात AI कंपन्या वाढत्या भूमिका बजावत आहेत. एन्थ्रोपिकसाठी, त्याची प्रणाली ती प्रोत्साहन देत असलेल्या उच्च सुरक्षा मानकांशी जुळते याची खात्री करून आत्मविश्वास पुनर्संचयित करण्यावर लक्ष केंद्रित केले जाईल.