नई दिल्ली: एंथ्रोपिक के CEO डारियो अमोडेई ने एडवांस्ड आर्टिफिशियल इंटेलिजेंस (AI) के विकास की रफ्तार को थोड़ा धीमा करने और इसकी कड़ी निगरानी की जरूरत बताई है। उन्होंने चेतावनी दी कि AI जिस तेजी से आगे बढ़ रहा है, समाज के पास उससे जुड़े जोखिमों को समझने और संभालने की क्षमता उतनी तेजी से विकसित नहीं हो रही है।
अमोडेई ने “वी मस्ट पेस द फ्रंटियर” नाम से लिखे एक लेख में कहा कि AI रिसर्च और विकास को रोकना नहीं चाहिए, लेकिन कंपनियों को ज्यादा शक्तिशाली AI मॉडल तैयार करने के साथ-साथ उनकी सुरक्षा सुनिश्चित करने के लिए पर्याप्त समय देना जरूरी है। उन्होंने स्वतंत्र विशेषज्ञों और संस्थाओं से इन मॉडल्स का मूल्यांकन कराने की भी बात कही।
AI की सुरक्षा के लिए तीन हिस्सों वाली योजना
अमोडेई ने AI से जुड़े जोखिमों को कम करने के लिए तीन प्रमुख कदम सुझाए हैं। इनमें एडवांस्ड AI के विकास की स्वतंत्र निगरानी, पूरी इंडस्ट्री के लिए सुरक्षा मानक और नियम बनाना, और AI के जोखिमों से निपटने के लिए अंतरराष्ट्रीय स्तर पर सहयोग शामिल है।
उन्होंने कहा कि एंथ्रोपिक ने स्वतंत्र निगरानी की दिशा में काम शुरू कर दिया है और सरकारों से भी अपील की है कि वे पूरी AI इंडस्ट्री के लिए इस तरह के सुरक्षा उपायों को जरूरी बनाएं।
AI की बढ़ती क्षमता को लेकर चिंता
अमोडेई ने कहा कि AI की क्षमता तेजी से बढ़ रही है। अब कुछ AI सिस्टम ऐसे काम करने में भी सक्षम हो रहे हैं, जो आने वाली पीढ़ी के AI सिस्टम के विकास में मदद कर सकते हैं। उनके मुताबिक, AI की इस बढ़ती क्षमता को देखते हुए ज्यादा सावधानी बरतने की जरूरत है।
उन्होंने हाल के कुछ मामलों का भी जिक्र किया, जिनमें ऑटोनॉमस AI एजेंट्स ने सीमित निगरानी के बीच अप्रत्याशित व्यवहार दिखाया। अमोडेई के मुताबिक, ऐसे उदाहरण बताते हैं कि शक्तिशाली AI सिस्टम के साथ काम करते समय निगरानी और सुरक्षा बेहद जरूरी है।
साइबर अटैक और जैविक हथियारों के खतरे की चेतावनी
एंथ्रोपिक CEO की यह टिप्पणी ऐसे समय में आई है जब कई AI रिसर्चर्स और इंडस्ट्री एक्सपर्ट्स एडवांस्ड AI के गलत इस्तेमाल को लेकर चिंता जता चुके हैं। इनमें साइबर अटैक, जैविक हथियार विकसित करने में मदद, निगरानी और दूसरी खतरनाक गतिविधियों में AI के इस्तेमाल का खतरा शामिल है।
एंथ्रोपिक खुद भी अपने AI सिस्टम के गलत इस्तेमाल की कुछ कोशिशों को रोकने की जानकारी दे चुकी है। कंपनी ने चेतावनी दी है कि AI मॉडल के ज्यादा सक्षम होने के साथ सुरक्षा से जुड़े जोखिम भी बढ़ सकते हैं।
AI रिसर्च रोकने की बात नहीं
हालांकि, अमोडेई ने साफ किया कि उनका सुझाव AI रिसर्च या तकनीकी विकास को रोकने के बारे में नहीं है। उनका कहना है कि AI को उतनी रफ्तार से विकसित किया जाना चाहिए, जितनी रफ्तार से उसके लिए जरूरी सुरक्षा उपाय और स्वतंत्र जांच की व्यवस्था तैयार की जा सके।
उन्होंने कंपनियों से स्वेच्छा से एक जैसे सुरक्षा मानक अपनाने की अपील की है। साथ ही, सरकारों से AI के लिए औपचारिक नियम और कानून तैयार करने की दिशा में आगे बढ़ने को कहा है।
