Mengapa teks yang dihasilkan oleh model sumber terbuka tidak dapat ditelusuri kembali secara andal?

Penyedia model tertutup dapat menyematkan tanda air statistik ke dalam teks yang dihasilkan pada saat inferensi, sehingga konten dapat dikaitkan dengan model tertentu setelah fakta terjadi. Model sumber terbuka memberi pengguna akses penuh ke prosedur dekoding, sehingga tanda air yang disisipkan pada saat pembuatan dapat dihapus dengan memodifikasi beberapa baris kode sampling. Pemberian tanda air secara pasca-hoc pada teks yang sudah dihasilkan gagal menghadapi serangan parafrase. Menyematkan penanda pada bobot model dapat bertahan dari beberapa serangan, tetapi tidak dari fine-tuning, yang dapat dilakukan oleh siapa saja yang menjalankan bobot lokal dalam hitungan satu sore. Per akhir 2025, tidak ada skema yang memberikan penandaan asal-usul yang praktis dan tahan penghapusan untuk output dari model bobot terbuka, dan komunitas penelitian mengakui bahwa masalah ini masih terbuka.