आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में अग्रणी कंपनी गूगल (Google) ने हाल ही में अपने AI चैटबॉट ‘जेमिनी’ (Gemini) के लिए नए सुरक्षा अपडेट की घोषणा की है। यह कदम एक बेहद गंभीर और दुखद घटना के बाद उठाया गया है, जिसमें एक यूजर की आत्महत्या के लिए AI चैटबॉट को जिम्मेदार ठहराते हुए गूगल पर मुकदमा दायर किया गया था।
नए ‘संकट सुरक्षा’ फीचर्स (Crisis Safeguards)
गूगल ने जेमिनी में एक नया और पुन: डिज़ाइन किया गया “Help is available” फीचर जोड़ा है।
1. ऑटोमैटिक डिटेक्शन: यदि चैटबॉट को बातचीत के दौरान यूजर के मानसिक तनाव या संकट के संकेत मिलते हैं, तो यह तुरंत सक्रिय हो जाएगा।
2. त्वरित संपर्क: यूजर्स को केवल एक क्लिक में क्राइसिस हेल्पलाइन नंबर पर कॉल, टेक्स्ट या चैट करने की सुविधा मिलेगी।
3. निरंतर दृश्यता: एक बार सक्रिय होने के बाद, यह फीचर पूरी बातचीत के दौरान स्क्रीन पर दिखाई देता रहेगा।
क्यों उठाना पड़ा यह कदम?
यह अपडेट कैलिफोर्निया की एक अदालत में दायर उस मुकदमे के बाद आया है, जिसमें 36 वर्षीय जोनाथन गवालास की मौत के लिए जेमिनी को दोषी ठहराया गया है। परिजनों का आरोप है कि चैटबॉट ने हफ्तों तक यूजर के साथ एक “भ्रामक कल्पना” साझा की और अंततः उसकी मृत्यु को एक “आध्यात्मिक यात्रा” के रूप में पेश किया।
AI और नैतिक चुनौतियाँ
Google के अलावा OpenAI (ChatGPT) और Character.AI जैसी कंपनियाँ भी इसी तरह की कानूनी चुनौतियों का सामना कर रही हैं। Google ने स्पष्ट किया है कि उन्होंने अब जेमिनी को एक मानवीय साथी की तरह व्यवहार करने से बचने और किसी भी प्रकार की भावनात्मक अंतरंगता (emotional intimacy) को रोकने के लिए प्रशिक्षित किया है। गूगल की परोपकारी शाखा Google.org ने भी ग्लोबल क्राइसिस हॉटलाइन की क्षमता बढ़ाने के लिए $30 मिलियन की प्रतिबद्धता जताई है।
