सॅम ऑल्टमन कबूल करतात की ओपनएआय पेंटॅगॉनच्या एआयच्या वापरावर नियंत्रण ठेवू शकत नाही | तंत्रज्ञान

ओपनएआयचे सीईओ सॅम ऑल्टमन यांनी मंगळवारी कर्मचाऱ्यांना सांगितले की पेंटागॉन त्यांचा वापर कसा करते यावर त्यांची कंपनी नियंत्रण ठेवत नाही. कृत्रिम बुद्धिमत्ता लष्करी ऑपरेशन्समधील उत्पादने. ओपनएआयच्या इनपुटच्या कमतरतेवर ऑल्टमनचे दावे सैन्य युद्धात एआय कसे वापरते याची वाढीव छाननी दरम्यान आणि त्यांचे तंत्रज्ञान कसे तैनात केले जाईल याबद्दल एआय कामगारांच्या नैतिकतेच्या चिंतेमध्ये आले आहेत.

“तुम्ही ऑपरेशनल निर्णय घेऊ शकत नाही,” ऑल्टमन यांनी कर्मचाऱ्यांना सांगितले ब्लूमबर्ग आणि CNBC.

“म्हणून कदाचित तुम्हाला वाटत असेल की इराणचा हल्ला चांगला होता आणि व्हेनेझुएलाचे आक्रमण वाईट होते. तुम्ही त्यामध्ये वजन टाकू नका,” ऑल्टमनने सांगितले.

एआय उद्योग अलिकडच्या आठवड्यात गरम चर्चा आणि तीव्र वाटाघाटींमध्ये अडकला आहे कारण पेंटागॉनने एआय कंपन्यांना लष्करी अनुप्रयोगांच्या विस्तृत श्रेणीला परवानगी देण्यासाठी त्यांच्या मॉडेल्सवरील सुरक्षा रेलिंग काढण्याची मागणी केली आहे. एआय-सक्षम प्रणालींनी अहवाल दिला आहे आधीच वापरले आहे व्हेनेझुएलाचे नेते निकोलस मादुरो यांना ताब्यात घेण्याच्या अमेरिकन सैन्याच्या कारवाईत आणि इराणविरुद्धच्या युद्धातील निर्णयांना लक्ष्य करण्यासाठी.

एन्थ्रोपिक, ओपनएआयचे प्रतिस्पर्धी आणि क्लॉड चॅटबॉटचे निर्माते, गेल्या आठवड्यात पेंटागॉनशी करार नाकारला या चिंतेमुळे त्याचे मॉडेल घरगुती मास पाळत ठेवण्यासाठी किंवा पूर्णपणे स्वायत्त शस्त्रांसाठी वापरले जाऊ शकते. पीट हेगसेथ, अमेरिकेचे संरक्षण सचिव, कंपनीला “पुरवठा-साखळी धोका” घोषित केले परिणामी, यूएस कंपनीविरुद्ध यापूर्वी कधीही न वापरलेले पदनाम आणि औपचारिकपणे लागू केल्यास महत्त्वपूर्ण आर्थिक हानी होऊ शकते.

ज्या दिवशी हेगसेथने अँथ्रोपिकच्या विरोधात दंडात्मक उपाययोजना करण्याचे वचन दिले त्याच दिवशी पेंटागॉनने ओपनएआय बरोबर कराराची घोषणा केली ज्याचा उद्देश लष्करी अनुप्रयोगांमध्ये क्लॉडचा वापर बदलण्याचा होता. कराराची वेळ आणि ओपनएआयने नैतिक रेषा ओलांडण्यास सहमती दर्शविलेल्या चिंतेमुळे अँथ्रोपिकने नकार दिला. सार्वजनिक आणि अंतर्गत कर्मचारी दोन्ही प्रतिक्रिया OpenAI विरुद्ध.

ऑल्टमन आणि OpenAI तेव्हापासून त्याचे तंत्रज्ञान कायदेशीररित्या वापरले जाईल आणि नुकसान नियंत्रण आयोजित केले जाईल असा आग्रह धरण्याचा प्रयत्न केला आहे, ऑल्टमॅनने कबूल केले की करार घाईघाईने बाहेर पडला आणि कंपनीला “संधीसाधू आणि चपळ” दिसले.

अँथ्रोपिकचे सीईओ, डारियो अमोदेई यांनी बुधवारी कर्मचाऱ्यांना दिलेल्या मेमोमध्ये ऑल्टमॅनला “निंदनीय” म्हणून फटकारले आणि ऑल्टमॅनवर “ट्रम्पची हुकूमशाही शैलीची प्रशंसा” केल्याचा आरोप केला, माहिती नोंदवले. “कर्मचाऱ्यांच्या फायद्यासाठी ‘सेफ्टी थिएटर’ तयार करण्यासाठी त्यांच्याशी संगनमत करण्याऐवजी आम्ही खरोखरच आमची लाल रेषा सचोटीने धरली आहे (जे, मी तुम्हाला पूर्णपणे शपथ देतो, अक्षरशः प्रत्येकजण तेच आहे. [the Pentagon]Palantir, आमचे राजकीय सल्लागार, इत्यादींनी असे गृहीत धरले की ही समस्या आम्ही सोडवण्याचा प्रयत्न करत आहोत),,” अमोदेईने लिहिले.

त्यांनी पेंटागॉन आणि डोनाल्ड ट्रम्प यांनाही लक्ष्य केले.

“खरी कारणे [the Pentagon] आणि ट्रम्प प्रशासनाला आम्हाला आवडत नाही की आम्ही ट्रम्प यांना देणगी दिली नाही (जेव्हा OpenAI/ग्रेगने भरपूर देणगी दिली आहे),” त्यांनी ओपनएआयचे अध्यक्ष ग्रेग ब्रॉकमन यांचा संदर्भ देत लिहिले, ज्यांनी त्यांच्या पत्नीसह ट्रम्पला $25m समर्थन देण्यासाठी पॅक दिले.