एआय सामग्री सबमिट करणाऱ्या लेखकांवर बंदी घाला “स्वागत आहे परंतु लागू करण्यायोग्य नाही”

ज्या लेखकांच्या कामात जनरेटिव्ह आर्टिफिशियल इंटेलिजेंसने लिहिलेले “भ्रमंत” संदर्भ आहेत अशा लेखकांवर बंदी घालण्याच्या एका प्रमुख वैज्ञानिक भांडाराच्या निर्णयाचे संशोधन अखंडतेच्या प्रचारकांनी स्वागत केले असूनही धोरणाची योग्य प्रकारे अंमलबजावणी कशी करता येईल याविषयी चिंता असूनही.

एका महत्त्वाच्या वाटचालीत, लोकप्रिय प्रीप्रिंट प्लॅटफॉर्म arXiv ने म्हटले आहे की मोठ्या भाषेच्या मॉडेल्सद्वारे लिहिलेल्या सबमिशनमध्ये “अयोग्य भाषा, साहित्यिक सामग्री, पक्षपाती सामग्री, त्रुटी, चुका, चुकीचे संदर्भ किंवा दिशाभूल करणारी सामग्री” असल्याचा “अविवादनीय पुरावा” आढळल्यास ते त्वरित एक वर्षाची बंदी लादतील.

“जर सबमिशनमध्ये विवादास्पद पुरावे असतील की लेखकांनी LLM निर्मितीचे निकाल तपासले नाहीत, तर याचा अर्थ आम्ही पेपरमधील कोणत्याही गोष्टीवर विश्वास ठेवू शकत नाही,” थॉमस डायटेरिच यांनी स्पष्ट केले, जे arXiv च्या संगणकीय विभागाचे अध्यक्ष आहेत. सोशल मीडिया प्लॅटफॉर्म X वर धोरण जाहीर केले.

विवादास्पद पुराव्याच्या उदाहरणांमध्ये “आभासयुक्त संदर्भ” आणि “LLM मधील मेटा-टिप्पण्या” यांचा समावेश असेल,” डायटेरिच पुढे म्हणाले, “येथे 200 शब्दांचा सारांश आहे; मी काही बदल करू इच्छिता?” किंवा “या सारणीतील डेटा स्पष्टीकरणात्मक आहे, तो तुमच्या प्रयोगांमधील वास्तविक संख्येसह भरा.”

arXiv वरील एक वर्षाची बंदी “या आवश्यकतेनुसार असेल की त्यानंतरच्या arXiv सबमिशन्स प्रथम प्रतिष्ठित पीअर-पुनरावलोकन केलेल्या ठिकाणी स्वीकारल्या जाव्यात,” असे डायटेरिच म्हणाले, येथील एमेरिटस प्राध्यापक ओरेगॉन राज्य विद्यापीठ ज्यांचे संशोधन मशीन लर्निंग आणि AI वर केंद्रित आहे.

गणित, भौतिकशास्त्र आणि संगणनासाठी प्रीप्रिंट सर्व्हरवर एआय-सहाय्यित सबमिशनची वाढती संख्या रोखण्याचा प्रयत्न म्हणून नवीन धोरणाकडे व्यापकपणे पाहिले जाते, जे मार्चमध्ये प्रथमच 30,000 हून अधिक सबमिशन प्राप्त झाले– 2020 मध्ये प्राप्त झालेल्या 15,000 पेपरच्या दुप्पट आणि 2015 मध्ये प्राप्त झालेल्या 5,000 पेपरच्या सहा पट.

काही विद्वानांनी असे सुचवले आहे की पहिल्या गुन्ह्यासाठी एक वर्षाची बंदी खूप कठोर आहे, संशोधन सचोटी प्रचारक अण्णा अबालकिना, येथे आधारित बर्लिन मुक्त विद्यापीठ“पेपर-मिल सबमिशन आणि कमी-गुणवत्तेची हस्तलिखिते यांच्या विरुद्धच्या प्रतिकाराचे” स्वागत केले.

“आमच्याकडे बरेच नियम आहेत परंतु अंमलबजावणीची अनेक यंत्रणा नाहीत,” अबल्किना यांनी बंदीच्या निर्णायक स्वरूपावर सांगितले.

“मी या उपायाचे स्वागत करते कारण हे मुख्यत्वे कायदेशीर लेखकांऐवजी पेपर मिल्सवर उद्दिष्ट आहे. तरीही, लेखकांना अजूनही आवाहन करण्याची संधी आहे,” ती पुढे म्हणाली.

अबल्किनाच्या स्वतःच्या संशोधनाने “प्रीप्रिंट सर्व्हरवर सबमिशनमध्ये वाढ दर्शविली आहे जी उद्धरणे वाढविण्यासाठी देखील केली गेली होती,” तिने स्पष्ट केले. अलीकडील प्रीप्रिंट हे दर्शविते की वैज्ञानिक परिषदांमध्ये सादर केलेले बरेच पेपर पेपर मिल्सने यापूर्वी विक्रीसाठी ऑफर केले होते.

रीझ रिचर्डसन, पोस्टडॉक्टरल रिसर्च फेलो नॉर्थवेस्टर्न विद्यापीठच्या सेंटर फॉर सायन्स ऑफ सायन्स अँड इनोव्हेशन जे संशोधनाच्या अखंडतेवर लक्ष केंद्रित करते, म्हणाले की धोरणातील बदल “निःसंशयपणे अनुसरण करतो” अलीकडील अभ्यास झेन्यू झाओ आणि इतरांनी, ज्यात arXiv चे संस्थापक पॉल जिन्सपार्ग यांचा समावेश आहे, ज्यात असे आढळून आले की केवळ 2025 मध्ये चार प्रीप्रिंट्सवर पोस्ट केलेल्या कागदपत्रांमध्ये जवळपास 150,000 “भ्रमंत” संदर्भ उपस्थित होते.

“एआय-व्युत्पन्न बुलशिट सबमिट करण्यापासून परावृत्त करण्याच्या प्रीप्रिंटच्या प्रयत्नांची त्यांनी प्रशंसा केली असली तरी,” रिचर्डसन यांनी संशयास्पद सबमिशनच्या प्रमाणात हे दंडात्मक उपाय कार्य करतील का असा प्रश्न केला.

“झाओ आणि इतर. असा अंदाज आहे की दरवर्षी arXiv वर भ्रमित संदर्भ असलेली हजारो हस्तलिखिते पोस्ट केली जातील. arXiv ने या सर्व सबमिशनसाठी बंदी लागू करण्याची योजना आखली आहे का? या बंदी जारी करण्यासाठी arXiv कर्मचाऱ्यांना प्रत्येक प्रकरणाचा न्यायनिवाडा करणे तसेच अपीलांना प्रतिसाद देणे आवश्यक आहे, ज्याची मला कल्पना आहे की ते केवळ एक लहान प्रकरणे संपुष्टात आणले तरीही ते संपुष्टात येतील.” तो म्हणाला.

“जर arXiv ने केवळ निवडकपणे या धोरणाची अंमलबजावणी केली, तर ते निर्णय आणि अंमलबजावणीवर संसाधने वाचवू शकतात. तथापि, जर तुम्हाला पकडले गेले तरीही शिक्षा होण्याचा धोका खूप कमी असेल तर, असत्यापित संदर्भांसह सामग्री सबमिट करणे सुरू ठेवणाऱ्या लेखकांविरुद्ध थोडेसे प्रोत्साहन नाही,” रिचर्डसन जोडले.

arXiv कर्मचारी खोटेपणा, साहित्यिक चोरी आणि निरर्थक सामग्रीसह सबमिशनवर कसे कडक कारवाई करतील याबद्दल समान चिंता आहेत, रिचर्डसन म्हणाले. “आम्ही सर्वांना खूप कमी बुलशिट पहायचे असताना, स्केलेबिलिटीबद्दल समान चिंता लागू होतात.”

नवीन धोरणाने, तथापि, वैज्ञानिक साहित्यातील प्रीप्रिंट्सच्या विकसित भूमिकेबद्दल देखील प्रश्न उपस्थित केले आहेत, ते पुढे म्हणाले की “arXiv कठीण परिस्थितीत आहे” कारण त्यांचे उद्दिष्ट “संशोधन पेपर सामायिक करणे आणि वैज्ञानिक शोध जलद आणि मुक्तपणे सुलभ करणे” हे त्यांच्या गुणवत्ता तपासण्याऐवजी आहे.

“माहिती इकोसिस्टममध्ये त्याची गृहित भूमिका म्हणजे औपचारिक समवयस्क पुनरावलोकन आणि प्रकाशनासाठी संपादकीय स्वीकृती यासारख्या पारंपारिक गेटकीपिंग प्रक्रियेतून गेलेल्या नसलेल्या वैज्ञानिक कार्यांचे आयोजन करणे,” त्यांनी स्पष्ट केले.

“तथापि, संगणक विज्ञान किंवा AI सारख्या विशिष्ट क्षेत्रांमध्ये, arXiv जर्नल्स आणि कॉन्फरन्स सारख्या स्पर्धात्मक आउटलेट्सद्वारे पारंपारिकपणे व्यापलेल्या भूमिकेला विस्थापित करत आहे, जसे की arXiv वर संपूर्ण पेपर असणे ही एक दर्जा देणारी सिद्धी असू शकते,” तो म्हणाला.

“आता त्यांच्या चौथ्या दशकात ठामपणे असूनही, arXiv सारखे प्रीप्रिंट प्लॅटफॉर्म हे विद्वत्तापूर्ण संप्रेषणातील एक सतत प्रयोग राहिलेले आहेत. हा प्रयोग सुरू असताना, या मिशनमध्ये पडताळणी आणि गेटकीपिंगचा घटक कसा असावा हा चर्चेचा विषय राहील,” रिचर्डसन म्हणाले.