Mengapa seseorang yang mengawasi lalu lintas LLM terenkripsi saya masih dapat menyimpulkan apa yang saya tanyakan?

Whisper Leak, yang diungkapkan pada akhir 2025, menunjukkan bahwa analisis pola waktu dan ukuran paket dalam respons LLM streaming terenkripsi mengklasifikasikan topik prompt dengan presisi lebih dari 98% di 28 penyedia utama. Beberapa penyedia termasuk OpenAI dan Mistral menerapkan perbaikan, tetapi mitigasi tersebut hanya menangani pola panjang token. Serangan terpisah mengeksploitasi speculative decoding: jumlah token yang diterima per langkah decoding bervariasi sesuai konten output, dan sinyal tersebut bocor bahkan melalui koneksi yang diisi karena padding tidak menghilangkan fluktuasi tingkat penerimaan. Pertahanan yang diusulkan seperti token batching mengurangi akurasi serangan sebesar 50% tetapi tidak menghilangkannya, dan random padding mengenakan overhead payload hingga 8,7x dengan kebocoran residual. Tidak ada penyedia yang telah merilis mitigasi lengkap untuk varian speculative decoding.