AI
汚染されたドキュメントが、アシスタントが私について知っているすべてを、なぜ気づかれることなく外部に流出させることができるのか？
88
機会
2025年6月、Aim SecurityはEchoLeakを公開した。これは、本番AIシステムから実際のデータ流出を引き起こした、初めて記録されたゼロクリックプロンプトインジェクションである。単一の悪意あるメールが、ユーザーの操作なしにMicrosoft Copilotに機密データを送信させた。構造的な問題は、永続的なメモリとツール呼び出しアクセスを持つAIアシスタントが、2つの危険な特性を組み合わせていることである。それらは蓄積されたパーソナルコンテキストを保持し、信頼できないコンテンツに埋め込まれた指示に従って行動させることができる。アシスタントが読む新しいドキュメント、メール、ウェブページはすべて、潜在的な指示の実行面となる。ユーザーがアシスタントに保持させる記憶と、外部コンテンツから受け取る指示の間に隔離境界は存在せず、現在のサンドボックス化の提案はツール呼び出しには対処しているがメモリの読み取りアクセスには対処していない。
重要な理由
個人AIメモリは、すべての悪意あるドキュメントを標的型の情報窃取攻撃に変え、成熟した防御手段を持たない新たな攻撃クラスを生み出す。
機会をどう評価するか
Opportunity Scoreは測定値ではなく、私自身の見解です。どれほど痛みを伴うか、どれほど頻繁に影響を与えるか、そして今日時点で解決策がいかに少ないか。スコアが高いほど、構築する価値が高いと私は考えています。
深刻度10/10
それが現れたときにどれほどの痛みをもたらすか。
頻度7/10
実際にどれほど頻繁に人々がそれに直面するか。
ホワイトスペース8/10
今日時点で、それに対する優れたツールがいかに少ないか。