AI
アシスタントが自分について記憶していることを正確に確認したり削除したりできないのはなぜでしょうか?
85
機会
永続的なメモリを持つすべての主要AIアシスタントはセッションをまたいでユーザーに関する情報を保存していますが、ユーザー向けインターフェースは薄いサマリーのリストにすぎず、監査可能なログではありません。どの特定の主張が推論されたか、いつ書き込まれたか、何がトリガーとなったか、あるいは検索パイプラインと共有されたかどうかを検査する標準的な方法はありません。ユーザーがアシスタントに何かを忘れるよう求めた場合、その削除操作は不透明です。基礎となるベクトルストアはエンベディングを保持している可能性があり、会話ログは召喚令状によって提出される可能性があり、削除が完了したことを示す暗号的な証明も存在しません。IAPPとEU AI Actはいずれも、呼び出し可能な削除証拠を備えた監査可能なメモリを求めていますが、現在それを実現した製品はありません。
重要な理由
検証可能な監査証跡がなければ、ユーザーが制御するメモリは見せかけにすぎません。ユーザーは観察できない権利を行使することができないからです。
機会をどう評価するか
Opportunity Scoreは測定値ではなく、私自身の見解です。どれほど痛みを伴うか、どれほど頻繁に影響を与えるか、そして今日時点で解決策がいかに少ないか。スコアが高いほど、構築する価値が高いと私は考えています。
深刻度8/10
それが現れたときにどれほどの痛みをもたらすか。
頻度9/10
実際にどれほど頻繁に人々がそれに直面するか。
ホワイトスペース8/10
今日時点で、それに対する優れたツールがいかに少ないか。