モデルが正しく実行されたことを証明することが、実際に実行することよりも今なお時間がかかるのはなぜか？

MLインファレンスのゼロ知識証明は、ウェイトを明かすことなく、モデルが与えられた入力から特定の出力を生成したことを検証できる。これにより、暗号アプリケーションはTEEや運用者の評判に頼ることなく、AIの出力をトラストレスに利用できるようになる。問題はパフォーマンスだ。GPT-2スケールのモデルのZK証明の生成には数十分かかり、GPT-3スケールでは数時間単位となる。トランスフォーマーの浮動小数点演算は算術回路へのコンパイルが非効率であり、アテンション機構は特に証明コストが高い。TEEベースの認証はこのギャップを一時的に解消するが、数学ではなくハードウェアベンダーのファームウェアを信頼することが求められる。証明の生成速度が2〜3桁向上するまで、暗号における検証可能なAIのプリミティブはすべて、ある信頼の前提を別の前提と交換しているに過ぎない。