ChatGPT के AI कंटेंट की होगी पहचान, OpenAI शुरू करेगा अदृश्य वॉटरमार्क

OpenAI अब अपने AI मॉडल से तैयार किए गए टेक्स्ट की पहचान आसान बनाने के लिए अदृश्य वॉटरमार्क शुरू करने जा रहा है। कंपनी के मुताबिक, आने वाले हफ्तों में यूरोपीय संघ (EU) में ChatGPT और Codex से तैयार किए गए योग्य टेक्स्ट में यह वॉटरमार्क जोड़ा जाएगा। यह कदम EU AI Act के तहत AI से बनाए गए कंटेंट की पहचान सुनिश्चित करने के लिए उठाया जा रहा है।
OpenAI की इस तकनीक का नाम textGrain है। यह टेक्स्ट में कोई दिखाई देने वाला निशान नहीं लगाएगी, बल्कि AI द्वारा शब्द चुनने के तरीके में एक खास सांख्यिकीय पैटर्न जोड़ेगी। एक डिटेक्टर इस पैटर्न को पहचानकर यह पता लगाने की कोशिश करेगा कि टेक्स्ट में OpenAI का वॉटरमार्क मौजूद है या नहीं। कंपनी ने बताया कि API ग्राहकों के लिए चुनिंदा मॉडल में यह सुविधा दुनियाभर में ऑप्ट-इन के तौर पर उपलब्ध होगी और डिफॉल्ट रूप से बंद रहेगी।
हालांकि, OpenAI ने साफ किया है कि यह वॉटरमार्क पूरी तरह सटीक नहीं होगा। टेक्स्ट को एडिट करने, छोटे करने या बड़े स्तर पर दोबारा लिखने से इसकी पहचान मुश्किल हो सकती है। कंपनी के टेस्ट में 200 टोकन वाले कुछ टेक्स्ट में करीब 80 प्रतिशत वॉटरमार्क पहचाने गए, जबकि 400 टोकन वाले टेक्स्ट में यह आंकड़ा करीब 95 प्रतिशत तक पहुंचा। गणित जैसे विषयों में डिटेक्शन की क्षमता कम रही।
OpenAI के मुताबिक, वॉटरमार्क यह नहीं बताएगा कि टेक्स्ट में इंसान का कितना योगदान रहा है, कंटेंट का मालिक कौन है या टेक्स्ट सही है या गलत। यह सिर्फ इतना संकेत दे सकता है कि टेक्स्ट तैयार करने या प्रोसेस करने में OpenAI के सिस्टम का इस्तेमाल हुआ हो सकता है। वहीं, अगर वॉटरमार्क नहीं मिलता है तो इसका मतलब यह भी नहीं होगा कि टेक्स्ट इंसान ने ही लिखा है।
ChatGPT में इमेज के साथ दिखेंगे नए विज्ञापन
इसके अलावा OpenAI ने ChatGPT में एक नए विजुअल ऐड फॉर्मेट की भी घोषणा की है। कंपनी इस फॉर्मेट की टेस्टिंग इस महीने के आखिर में अमेरिका में शुरू करेगी। शुरुआत में विज्ञापन उन जगहों पर दिखाए जाएंगे जहां यूजर्स ChatGPT में इमेज जनरेट कर रहे होंगे।
OpenAI के मुताबिक, विज्ञापन में किसी प्रोडक्ट, उसके इस्तेमाल या उससे जुड़े अनुभव की तस्वीरें दिखाई जा सकती हैं। इन्हें साफ तौर पर विज्ञापन के रूप में लेबल किया जाएगा और ये यूजर द्वारा बनाई जा रही इमेज से अलग रहेंगे। कंपनी ने कहा है कि विज्ञापन ChatGPT के जवाबों को प्रभावित नहीं करेंगे। नए फॉर्मेट के जरिए कंपनियों को अपने प्रोडक्ट और सर्विस को विजुअल तरीके से यूजर्स तक पहुंचाने का मौका मिलेगा।




