Şifreli LLM trafiğimi izleyen biri ne sorduğumu neden hâlâ çıkarabilir?
Fırsat
2025'in sonlarında açıklanan Whisper Leak, şifreli akış LLM yanıtlarındaki paket zamanlama ve boyut kalıplarının analiz edilmesinin, 28 büyük sağlayıcıda yüzde 98'den fazla hassasiyetle istem konularını sınıflandırdığını ortaya koymuştur. OpenAI ve Mistral dahil bazı sağlayıcılar düzeltmeler yayımlamış; ancak bu hafifletme önlemleri yalnızca jeton uzunluğu kalıplarını ele almaktadır. Ayrı bir saldırı tahminsel kod çözmeyi istismar eder: kod çözme adımı başına kabul edilen jeton sayısı çıktı içeriğiyle değişir ve bu sinyal, dolgu kabul oranı dalgalanmasını ortadan kaldırmadığından doldurulmuş bağlantılardan dahi sızar. Jeton gruplandırması gibi önerilen savunmalar saldırı doğruluğunu yüzde 50 oranında düşürür ancak tamamen ortadan kaldırmaz; rastgele dolgu ise artık sızıntıyla birlikte 8,7 kata varan yük fazlalığı yaratır. Hiçbir sağlayıcı, tahminsel kod çözme varyantı için eksiksiz bir hafifletme önlemi yayımlamamıştır.
Neden önemli
Trafiği kaydeden bir ağdan akış LLM'si sorgulayan her kullanıcı, TLS şifrelemesinden bağımsız olarak sorgusunun konusunu sızdırmaktadır; bu durum, tıbbi, hukuki veya finansal bir asistanla özel iletişim kurduğuna inanan kullanıcıları da kapsamaktadır.
Fırsatı nasıl puanlıyorum
Fırsat Puanı benim kendi değerlendirmem, bir ölçüm değil: ne kadar acı verdiği, ne sıklıkla etkisi olduğu ve bugün için ne kadar az çözüm bulunduğu. Daha yüksek puan, inşa etmeye daha değer olduğunu düşündüğüm anlamına gelir.
Ortaya çıktığında ne kadar sorun yarattığı.
İnsanların bununla gerçekte ne sıklıkla karşılaştığı.
Bugün bunun için ne kadar az iyi araç bulunduğu.
Çözmeye değer daha fazla sorun
Neden her yapay zeka uygulaması sekmeyi kapattığım anda beni unutuyor?
AINeden yeni bir alanı öğrenmek hâlâ ne soracağını bilmekle sınırlı?
AIUzman olmayan biri, yapay zekanın söylediklerini neden doğrulayamıyor?
AIModelleri kıyaslamalarda test edip neden sezgiyle yayımlıyoruz?
AIYapay zeka ajanları neden kendi hatalarını hatırlamıyor?
AIBir modelin gerçekte neyle eğitildiğini neden denetleyemiyorum?