Почему кто-то, наблюдающий за моим зашифрованным трафиком LLM, всё равно может определить, о чём я спрашивал?
Возможность
Whisper Leak, раскрытый в конце 2025 года, продемонстрировал, что анализ паттернов времени и размеров пакетов в зашифрованных потоковых ответах LLM позволяет классифицировать темы промптов с точностью выше 98% у 28 крупных провайдеров. Некоторые провайдеры, включая OpenAI и Mistral, выпустили исправления, однако эти меры затрагивают только паттерны длины токенов. Отдельная атака эксплуатирует спекулятивное декодирование: количество токенов, принятых за один шаг декодирования, зависит от содержимого вывода, и этот сигнал утекает даже через дополненные соединения, поскольку дополнение не устраняет колебания скорости принятия. Предлагаемые средства защиты, такие как пакетирование токенов, снижают точность атаки на 50%, но не устраняют её полностью, а случайное дополнение создаёт накладные расходы до 8,7x при остаточными утечками. Ни один провайдер не выпустил полного митигирования для варианта атаки через спекулятивное декодирование.
Почему это важно
Любой пользователь, отправляющий запросы к потоковой LLM через сеть, которая ведёт журнал трафика, раскрывает тему своего запроса независимо от TLS-шифрования, включая пользователей, которые считают, что общаются конфиденциально с медицинским, юридическим или финансовым ассистентом.
Как я оцениваю возможность
Оценка возможности отражает моё личное суждение, а не точное измерение: насколько проблема болезненна, как часто она встречается и насколько мало существует решений сегодня. Чем выше оценка, тем более достойной реализации я считаю эту задачу.
Насколько серьёзные проблемы это создаёт.
Как часто люди с этим сталкиваются.
Насколько мало хороших инструментов для этого существует сегодня.
Ещё задачи, достойные решения
Почему каждое приложение ИИ забывает меня, как только я закрываю вкладку?
AIПочему освоение новой области по-прежнему упирается в умение задавать правильные вопросы?
AIПочему неспециалист не может проверить то, что только что сказал ему ИИ?
AIПочему мы тестируем модели на бенчмарках, а выпускаем их на интуиции?
AIПочему у ИИ-агентов нет памяти о собственных ошибках?
AIПочему я не могу проверить, на каких данных на самом деле обучалась модель?