AI
为什么监听我加密 LLM 流量的人仍然能推断出我问了什么？
79
机会
2025 年底披露的 Whisper Leak 攻击表明，通过分析加密流式 LLM 响应中的数据包时序和大小模式，可以在 28 家主要服务商中以超过 98% 的精度对提示词主题进行分类。包括 OpenAI 和 Mistral 在内的部分服务商已部署修复措施，但这些缓解方案仅针对令牌长度模式。另一种攻击则利用推测解码：每个解码步骤接受的令牌数量随输出内容而变化，即便是填充连接也无法消除这一信号泄漏，因为填充无法消除接受率的波动。提议中的防御措施（如令牌批处理）可将攻击精度降低 50%，但无法彻底消除威胁，而随机填充会带来高达 8.7 倍的载荷开销且仍有残余泄漏。目前没有任何服务商为推测解码变体发布完整的缓解方案。
为什么重要
任何通过记录流量的网络向流式 LLM 发送查询的用户，无论是否使用 TLS 加密，都会泄露其查询主题，包括那些认为自己在与医疗、法律或金融助手私密通信的用户。
我如何评估机会
机会评分是我的个人判断，而非量化指标：痛苦程度、发生频率，以及当前解决方案的匮乏程度。分数越高，意味着我认为越值得去构建。
严重性8/10
出现时造成的痛苦程度。
频率8/10
人们实际遇到它的频率。
空白空间8/10
当前针对它的优质工具有多匮乏。