ओपन-सोर्स मॉडल द्वारा उत्पन्न टेक्स्ट को उससे विश्वसनीय रूप से क्यों नहीं जोड़ा जा सकता?

क्लोज़्ड-मॉडल प्रदाता इन्फरेंस के समय जनरेट किए गए टेक्स्ट में सांख्यिकीय वॉटरमार्क एम्बेड कर सकते हैं, जिससे बाद में कंटेंट को किसी विशेष मॉडल से जोड़ा जा सकता है। ओपन-सोर्स मॉडल उपयोगकर्ताओं को डिकोडिंग प्रक्रिया तक पूरी पहुँच देते हैं, इसलिए सैंपलिंग कोड की कुछ पंक्तियाँ बदलकर किसी भी जनरेशन-टाइम वॉटरमार्क को हटाया जा सकता है। पहले से जनरेट किए गए टेक्स्ट पर बाद में किया गया वॉटरमार्किंग पैराफ्रेज़ हमलों में टूट जाता है। मॉडल वेट्स में मार्कर एम्बेड करना कुछ हमलों से बचा रहता है, लेकिन फाइन-ट्यूनिंग से नहीं, जिसे लोकल वेट्स चलाने वाला कोई भी व्यक्ति एक दोपहर में लागू कर सकता है। 2025 के अंत तक, कोई भी तरीका ओपन-वेट्स मॉडलों के आउटपुट के लिए व्यावहारिक, हटाने-प्रतिरोधी प्रोवेनेंस मार्किंग प्रदान नहीं करता, और शोध समुदाय स्वीकार करता है कि यह समस्या अभी भी खुली है।