Waarom kan iemand die mijn versleuteld LLM-verkeer afluistert nog steeds afleiden wat ik vroeg?
Kans
Whisper Leak, onthuld eind 2025, toonde aan dat het analyseren van pakkettiming- en groottepatronen in versleutelde streaming LLM-antwoorden promptonderwerpen classificeert met meer dan 98% precisie bij 28 grote aanbieders. Sommige aanbieders, waaronder OpenAI en Mistral, implementeerden oplossingen, maar die mitigaties richten zich alleen op token-lengtepatronen. Een afzonderlijke aanval maakt gebruik van speculatieve decodering: het aantal tokens dat per decoderingstap wordt geaccepteerd, varieert met de uitvoerinhoud, en dat signaal lekt door zelfs opgevulde verbindingen heen omdat opvulling de fluctuatie in de acceptatiesnelheid niet elimineert. Voorgestelde verdedigingen zoals tokenbatching verminderen de aanvalsnauwkeurigheid met 50%, maar elimineren het niet, en willekeurige opvulling legt tot 8,7x payload-overhead op met resterende lekkage. Geen enkele aanbieder heeft een volledige mitigatie voor de speculatieve decoderingsvariant uitgebracht.
Waarom het belangrijk is
Elke gebruiker die een streaming LLM benadert via een netwerk dat verkeer registreert, lekt het onderwerp van zijn zoekopdracht ongeacht TLS-versleuteling, inclusief gebruikers die denken privé te communiceren met een medische, juridische of financiële assistent.
Hoe ik de kans beoordeel
De Opportunity Score is mijn eigen inschatting, geen meting: hoe ernstig het pijn doet, hoe vaak het toeslaat, en hoe weinig er vandaag de dag bestaat om het op te lossen. Hoger betekent dat ik denk dat het meer de moeite waard is om te bouwen.
Hoeveel pijn het veroorzaakt wanneer het zich voordoet.
Hoe vaak mensen er daadwerkelijk tegenaan lopen.
Hoe weinig goede tools er vandaag de dag voor bestaan.
Meer problemen die het oplossen waard zijn
Waarom vergeet elke AI-app mij op het moment dat ik het tabblad sluit?
AIWaarom is het leren van een nieuw vakgebied nog steeds afhankelijk van weten wat je moet vragen?
AIWaarom kan een niet-expert niet verifiëren wat een AI hem zojuist heeft verteld?
AIWaarom testen we modellen op benchmarks maar brengen we ze op de markt op gevoel?
AIWaarom hebben AI-agenten geen geheugen voor hun eigen fouten?
AIWaarom kan ik niet controleren waarop een model daadwerkelijk is getraind?