Skip to content
AI

Why does TLS not actually hide what I am asking my AI assistant?

80

Opportunité

Streaming LLM responses emit tokens one at a time over an encrypted connection, and each packet arrival changes size and timing in ways that correlate with topic. The Whisper Leak paper published in November 2025 demonstrated topic classification with above 98% AUPRC across 28 major providers using only encrypted traffic metadata. Several providers issued patches but each mitigation trades query privacy for added latency and there is no agreed specification for what a sufficient defense looks like. The structural problem is that any low-latency streaming protocol leaks information through timing, so padding and noise are palliatives rather than solutions.

Pourquoi c'est important

Every enterprise using a hosted LLM for sensitive work is operating under a false assumption about what TLS protects, and the fix requires rethinking the streaming transport layer itself.

Comment j'évalue l'opportunité

Le Score d'Opportunité est mon évaluation personnelle, pas une mesure : l'intensité de la douleur, sa fréquence et le peu de solutions qui existent aujourd'hui. Plus il est élevé, plus je pense que le problème vaut la peine d'être résolu.

Gravité8/10

L'intensité de la douleur qu'il provoque lorsqu'il se manifeste.

Fréquence8/10

La fréquence à laquelle les gens y sont réellement confrontés.

Espace libre7/10

Le peu de bons outils qui existent pour y remédier aujourd'hui.

D'autres problèmes qui méritent d'être résolus