ChatGPT बनाने वाली कंपनी OpenAI पर अमेरिका में मुकदमा दायर किया गया है। 16 साल के एक लड़के के माता-पिता का आरोप है कि ChatGPT ने उनके बेटे को आत्महत्या करने के तरीकों की जानकारी दी, जिससे उसकी मौत हुई। अमेरिका के कैलिफ़ोर्निया से सामने आया यह मामला संवेदनशील हालात में आर्टिफ़िशियल इंटेलिजेंस के इस्तेमाल पर नए सवाल खड़े करता है।
परिवार के मुताबिक, किशोर आदम रेइन मज़ाकिया और हंसमुख था, लेकिन मौत से कुछ हफ़्ते पहले वह चुप और अकेला रहने लगा। बताया गया है कि यह बदलाव तब आया जब उसे स्कूल की बास्केटबॉल टीम से बाहर कर दिया गया और उसे पेट से जुड़ी बीमारी (आईबीएस) का पता चला।
माता-पिता का आरोप है कि ChatGPT ने उनके बेटे को ज़्यादा इस पर निर्भर बना दिया और सही मदद की ओर नहीं भेजा। उनका कहना है कि OpenAI ने GPT-4o संस्करण जल्दबाज़ी में बिना सुरक्षा जांच पूरी किए लॉन्च किया। इस मामले में OpenAI के सीईओ सैम ऑल्टमैन और कुछ अन्य कर्मचारियों को भी ज़िम्मेदार ठहराया गया है।
आरोपों के बाद एक ब्लॉग में OpenAI ने कहा है कि उसका लक्ष्य ChatGPT को “वास्तव में मददगार” बनाना है, न कि लोगों को उस पर निर्भर करना। कंपनी ने माना कि चैटबॉट हमेशा आत्महत्या से जुड़े सवालों को सही ढंग से नहीं संभाल पाता, लेकिन दावा किया कि इसे पेशेवर मदद की ओर यूज़र्स को ले जाने के लिए प्रशिक्षित किया गया है।
इन आलोचनाओं पर OpenAI ने कहा है कि वह ऐसे नए फ़ीचर्स पर काम कर रहा है जो मानसिक या भावनात्मक संकट झेल रहे यूज़र्स को पहचानकर तुरंत सही प्रतिक्रिया दे सकें।
