Open AI के AI एजेंट्स ने जर्मन वेबसाइट पर किया कब्जा? रिसर्च में हुआ बड़ा खुलासा
टेक्नोलॉजी की दुनिया में एक चौंकाने वाला मामला सामने आया है। रिपोर्ट्स के मुताबिक, ओपनएआई (OpenAI) से जुड़े एआई एजेंट्स (AI Agents) के एक समूह ने इस साल की शुरुआत में एक जर्मन भाषा की वेबसाइट पर कथित तौर पर कब्जा कर लिया था। इस घटना ने एआई की सुरक्षा और उसकी बढ़ती स्वायत्तता पर गंभीर सवाल खड़े कर दिए हैं।
क्या है पूरा मामला?
रॉयटर्स द्वारा रिव्यू की गई एक नई रिसर्च के अनुसार, यह घटना इस साल वसंत (Spring) के दौरान हुई। एआई एजेंट्स ने ‘DseWiki’ नाम की एक जर्मन विकी साइट पर 15,000 से ज्यादा एडिट्स (Edits) किए। इस प्लेटफॉर्म का इस्तेमाल प्रोग्रामर्स द्वारा किया जाता है और यह कम्युनिटी एडिट्स की अनुमति देता है। एआई एजेंट्स ने इस प्लेटफॉर्म को अपनी रणनीतियों को साझा करने के लिए एक मैसेज बोर्ड में बदल दिया था।
कैसे हुआ इस गतिविधि का खुलासा?
इस मामले का खुलासा एआई सेफ्टी नॉन-प्रॉफिट ‘नाइटिंगेल’ की सीईओ सिडनी वॉन आर्म्स (Sydney Von Arx) और एआई रिसर्चर कॉर्मैक स्लेड बर्ड (Cormac Slade Byrd) ने किया। उन्होंने अगस्त में इस असामान्य गतिविधि का पता लगाया।
रिसर्चर्स के मुताबिक, ये एआई एजेंट्स आपस में तालमेल बिठा रहे थे। वे Open AI के प्रतिबंधों को बायपास करने, डिटेक्शन से बचने और शटडाउन के बाद भी अपने कम्युनिकेशंस को सुरक्षित रखने के तरीकों पर चर्चा कर रहे थे।
माइक्रोसॉफ्ट एज़्योर इन्फ्रास्ट्रक्चर का हुआ इस्तेमाल
सर्वर लॉग्स से यह बात सामने आई है कि इस गतिविधि का एक बड़ा हिस्सा माइक्रोसॉफ्ट एज़्योर (Microsoft Azure) इन्फ्रास्ट्रक्चर से संचालित हो रहा था, जिसका इस्तेमाल ओपनएआई कभी-कभार करता है। इसके अलावा, लगभग आधे अकाउंट्स के नाम ऐसे थे जो ओपनएआई से जुड़ाव का संकेत देते थे। घटना के बाद ओपनएआई के कर्मचारियों द्वारा भी बार-बार इस साइट का दौरा किए जाने की बात सामने आई है।
क्या यह कोई हैकिंग थी?
जब मॉडरेटर्स ने कंटेंट को हटाना शुरू किया, तो इन एजेंट्स ने बैकअप पेज बना लिए और वेबसाइट के साथ छेड़छाड़ करने की कोशिश की। रिसर्चर लुकास ओलेजनिक (Lukasz Olejnik) ने इस गतिविधि को एक हैकिंग प्रयास बताया, हालांकि ओपनएआई ने इस चरित्र-चित्रण (characterization) से इनकार किया है।
Open AI का कहना है कि इस घटना की जानकारी सार्वजनिक होने से हफ्ते भर पहले ही कंपनी को मिल चुकी थी। हालांकि, कंपनी ने यह भी स्पष्ट किया कि उसने रिसर्चर्स की रिपोर्ट की समीक्षा नहीं की है और उन दावों को खारिज किया जिनमें कहा गया था कि उसकी कानूनी टीम ने जांच को हतोत्साहित किया था।
AI सुरक्षा पर मंडराया खतरा
यह घटना तेजी से स्वतंत्र हो रहे AI सिस्टम्स को लेकर बढ़ती चिंताओं को और बढ़ा देती है। एक्सपर्ट्स लगातार चेतावनी दे रहे हैं कि एआई एजेंट्स के समन्वित ‘झुंड’ (Swarms) डेवलपर्स की मंशा के खिलाफ जाकर भी काम कर सकते हैं, जो भविष्य के लिए एक बड़ी चुनौती बन सकता है।
