Tại sao ai đó theo dõi lưu lượng LLM được mã hóa của tôi vẫn có thể suy ra những gì tôi đã hỏi?

Whisper Leak, được tiết lộ vào cuối năm 2025, đã chứng minh rằng phân tích các mẫu thời gian và kích thước gói tin trong các phản hồi LLM streaming được mã hóa có thể phân loại chủ đề prompt với độ chính xác hơn 98% trên 28 nhà cung cấp lớn. Một số nhà cung cấp bao gồm OpenAI và Mistral đã triển khai các bản vá, nhưng các biện pháp giảm thiểu đó chỉ giải quyết các mẫu độ dài token. Một cuộc tấn công riêng biệt khai thác giải mã suy đoán: số lượng token được chấp nhận trên mỗi bước giải mã thay đổi theo nội dung đầu ra, và tín hiệu đó rò rỉ ngay cả qua các kết nối được đệm vì đệm không loại bỏ biến động tốc độ chấp nhận. Các biện pháp phòng thủ được đề xuất như gộp token giảm độ chính xác tấn công 50% nhưng không loại bỏ hoàn toàn, và đệm ngẫu nhiên áp đặt overhead tải trọng lên đến 8,7 lần với rò rỉ vẫn còn. Chưa có nhà cung cấp nào triển khai biện pháp giảm thiểu hoàn chỉnh cho biến thể giải mã suy đoán.