Warum kann jemand, der meinen verschlüsselten LLM-Datenverkehr beobachtet, trotzdem schlussfolgern, was ich gefragt habe?
Möglichkeit
Whisper Leak, Ende 2025 offengelegt, zeigte, dass die Analyse von Paketzeitpunkt- und Größenmustern in verschlüsselten Streaming-LLM-Antworten Prompt-Themen mit über 98% Präzision bei 28 großen Anbietern klassifiziert. Einige Anbieter, darunter OpenAI und Mistral, haben Fixes bereitgestellt, doch diese Gegenmaßnahmen adressieren nur Token-Längenmuster. Ein separater Angriff nutzt spekulatives Decoding aus: Die Anzahl der pro Decoding-Schritt akzeptierten Tokens variiert mit dem Ausgabeinhalt, und dieses Signal sickert sogar durch aufgefüllte Verbindungen durch, da Padding die Schwankung der Akzeptanzrate nicht eliminiert. Vorgeschlagene Abwehrmaßnahmen wie Token-Batching reduzieren die Angriffspräzision um 50%, eliminieren sie jedoch nicht, und zufälliges Padding verursacht bis zu 8,7-fachen Payload-Overhead mit verbleibenden Lecks. Kein Anbieter hat eine vollständige Gegenmaßnahme für die spekulative Decoding-Variante bereitgestellt.
Warum es wichtig ist
Jeder Nutzer, der ein Streaming-LLM über ein Netzwerk abfragt, das den Datenverkehr protokolliert, gibt das Thema seiner Anfrage preis – unabhängig von TLS-Verschlüsselung – einschließlich Nutzern, die davon überzeugt sind, privat mit einem medizinischen, rechtlichen oder finanziellen Assistenten zu kommunizieren.
Wie ich die Chance bewerte
Der Opportunity Score ist meine persönliche Einschätzung, keine Messung: wie stark es schmerzt, wie oft es auftritt und wie wenig heute existiert, um es zu lösen. Ein höherer Wert bedeutet, dass ich es für lohnender halte, es umzusetzen.
Wie viel Schmerz es verursacht, wenn es auftritt.
Wie oft Menschen tatsächlich darauf stoßen.
Wie wenig gute Werkzeuge dafür heute existieren.
Weitere lösungswürdige Probleme
Warum vergisst mich jede KI-App in dem Moment, in dem ich den Tab schließe?
AIWarum setzt das Erlernen eines neuen Fachgebiets immer noch voraus, die richtigen Fragen zu kennen?
AIWarum kann eine fachfremde Person nicht überprüfen, was eine KI ihr gerade gesagt hat?
AIWarum testen wir Modelle an Benchmarks, aber bringen sie nach Bauchgefühl in die Produktion?
AIWarum haben KI-Agenten kein Gedächtnis für ihre eigenen Fehler?
AIWarum kann ich nicht nachprüfen, womit ein Modell tatsächlich trainiert wurde?