AI
なぜ暗号化されたLLMのトラフィックを傍受している者でも、私が何を尋ねたかを推測できるのか？
79
機会
2025年末に公開されたWhisper Leakは、暗号化されたストリーミングLLMレスポンスのパケットタイミングとサイズパターンを分析することで、28の主要プロバイダーにわたって98%以上の精度でプロンプトのトピックを分類できることを実証した。OpenAIやMistralを含む一部のプロバイダーは修正を展開したが、それらの緩和策はトークン長パターンにのみ対処している。別の攻撃は投機的デコーディングを悪用する。デコーディングステップごとに受け入れられるトークン数は出力内容によって異なり、そのシグナルはパディングされた接続越しでも漏洩する。パディングは受け入れ率の変動を排除しないからだ。トークンバッチングなどの提案された防御策は攻撃精度を50%低下させるが排除はできず、ランダムパディングは残留漏洩を伴いながらも最大8.7倍のペイロードオーバーヘッドを課す。投機的デコーディングバリアントに対して完全な緩和策を出荷したプロバイダーはいない。
重要な理由
トラフィックをログに記録するネットワーク経由でストリーミングLLMにクエリを送信するユーザーは、TLS暗号化の有無にかかわらず、医療・法律・金融アシスタントとプライベートにやり取りしていると思っているユーザーも含め、クエリのトピックを漏洩させている。
機会をどう評価するか
Opportunity Scoreは測定値ではなく、私自身の見解です。どれほど痛みを伴うか、どれほど頻繁に影響を与えるか、そして今日時点で解決策がいかに少ないか。スコアが高いほど、構築する価値が高いと私は考えています。
深刻度8/10
それが現れたときにどれほどの痛みをもたらすか。
頻度8/10
実際にどれほど頻繁に人々がそれに直面するか。
ホワイトスペース8/10
今日時点で、それに対する優れたツールがいかに少ないか。