Skip to content
AI

Почему кто-то, наблюдающий за моим зашифрованным трафиком LLM, всё равно может определить, о чём я спрашивал?

79

Возможность

Whisper Leak, раскрытый в конце 2025 года, продемонстрировал, что анализ паттернов времени и размеров пакетов в зашифрованных потоковых ответах LLM позволяет классифицировать темы промптов с точностью выше 98% у 28 крупных провайдеров. Некоторые провайдеры, включая OpenAI и Mistral, выпустили исправления, однако эти меры затрагивают только паттерны длины токенов. Отдельная атака эксплуатирует спекулятивное декодирование: количество токенов, принятых за один шаг декодирования, зависит от содержимого вывода, и этот сигнал утекает даже через дополненные соединения, поскольку дополнение не устраняет колебания скорости принятия. Предлагаемые средства защиты, такие как пакетирование токенов, снижают точность атаки на 50%, но не устраняют её полностью, а случайное дополнение создаёт накладные расходы до 8,7x при остаточными утечками. Ни один провайдер не выпустил полного митигирования для варианта атаки через спекулятивное декодирование.

Почему это важно

Любой пользователь, отправляющий запросы к потоковой LLM через сеть, которая ведёт журнал трафика, раскрывает тему своего запроса независимо от TLS-шифрования, включая пользователей, которые считают, что общаются конфиденциально с медицинским, юридическим или финансовым ассистентом.

Как я оцениваю возможность

Оценка возможности отражает моё личное суждение, а не точное измерение: насколько проблема болезненна, как часто она встречается и насколько мало существует решений сегодня. Чем выше оценка, тем более достойной реализации я считаю эту задачу.

Серьёзность8/10

Насколько серьёзные проблемы это создаёт.

Частота8/10

Как часто люди с этим сталкиваются.

Пробелы8/10

Насколько мало хороших инструментов для этого существует сегодня.

Ещё задачи, достойные решения