オープンソースモデルによって生成されたテキストを、そのモデルに確実に追跡することができないのはなぜでしょうか?

クローズドモデルのプロバイダーは、推論時に生成テキストへ統計的透かしを埋め込むことができ、後からコンテンツを特定のモデルに帰属させることが可能です。オープンソースモデルはデコード手順への完全なアクセスをユーザーに与えるため、サンプリングコードを数行変更するだけで生成時の透かしを除去できます。すでに生成されたテキストへの事後透かしはパラフレーズ攻撃に対して脆弱です。モデルの重みにマーカーを埋め込む手法は一部の攻撃には耐えられますが、ファインチューニングには耐えられません。ローカルの重みを使用している人なら誰でも午後一日あれば適用できます。2025年末時点で、オープンウェイトモデルの出力に対して実用的かつ除去耐性のある出所マーキングを提供するスキームは存在せず、研究コミュニティはこの問題が未解決であることを認めています。