AI
암호화된 LLM 트래픽을 감시하는 사람이 왜 내가 무엇을 질문했는지 추론할 수 있는 걸까요?
79
기회
2025년 말에 공개된 Whisper Leak은 암호화된 스트리밍 LLM 응답의 패킷 타이밍 및 크기 패턴 분석이 28개 주요 공급자 전반에 걸쳐 98% 이상의 정밀도로 프롬프트 주제를 분류함을 증명했습니다. OpenAI와 Mistral을 포함한 일부 공급자는 수정 사항을 배포했지만, 이러한 완화 조치는 토큰 길이 패턴만을 다룹니다. 별도의 공격은 투기적 디코딩을 악용합니다. 디코딩 단계별로 수용된 토큰 수가 출력 내용에 따라 달라지며, 이 신호는 패딩이 수용률 변동을 제거하지 못하기 때문에 패딩된 연결에서도 누출됩니다. 토큰 배칭과 같은 제안된 방어책은 공격 정확도를 50% 낮추지만 완전히 제거하지는 못하며, 무작위 패딩은 잔여 누출과 함께 최대 8.7배의 페이로드 오버헤드를 부과합니다. 어떤 공급자도 투기적 디코딩 변종에 대한 완전한 완화책을 출시하지 않았습니다.
왜 중요한가
트래픽을 기록하는 네트워크에서 스트리밍 LLM에 질의하는 사용자는 TLS 암호화 여부와 관계없이 쿼리의 주제가 노출되며, 이는 의료, 법률 또는 금융 어시스턴트와 비공개로 소통하고 있다고 믿는 사용자도 예외가 아닙니다.
기회 평가 방식
기회 점수는 측정값이 아닌 제 주관적 평가입니다. 얼마나 불편한지, 얼마나 자주 발생하는지, 현재 해결책이 얼마나 부족한지를 반영합니다. 점수가 높을수록 만들 가치가 더 높다고 생각합니다.
심각도8/10
발생했을 때 얼마나 큰 불편을 초래하는지.
빈도8/10
실제로 얼마나 자주 접하게 되는지.
공백 영역8/10
현재 이를 해결할 만한 도구가 얼마나 부족한지.