چرا کسی که ترافیک رمزگذاری‌شده LLM من را رصد می‌کند همچنان می‌تواند محتوای سوالم را استنباط کند؟
فرصت
Whisper Leak که در اواخر سال ۲۰۲۵ افشا شد، نشان داد که تحلیل الگوهای زمان‌بندی و اندازه بسته‌های داده در پاسخ‌های جریانی رمزنگاری‌شده LLM، موضوع پرامپت را با دقتی بیش از ۹۸٪ در میان ۲۸ ارائه‌دهنده بزرگ طبقه‌بندی می‌کند. برخی ارائه‌دهندگان از جمله OpenAI و Mistral اصلاحاتی اعمال کردند، اما این راه‌حل‌ها تنها الگوهای طول توکن را پوشش می‌دهند. حمله‌ای جداگانه از رمزگشایی احتمالی سوءاستفاده می‌کند: تعداد توکن‌های پذیرفته‌شده در هر مرحله رمزگشایی با محتوای خروجی متفاوت است و این سیگنال حتی از اتصالات دارای padding هم نشت می‌کند، زیرا padding نوسانات نرخ پذیرش را از بین نمی‌برد. راه‌حل‌های پیشنهادی مانند دسته‌بندی توکن‌ها دقت حمله را تا ۵۰٪ کاهش می‌دهند اما آن را حذف نمی‌کنند، و padding تصادفی تا ۸.۷ برابر سربار payload ایجاد می‌کند و نشت باقیمانده دارد. هیچ ارائه‌دهنده‌ای راه‌حل کاملی برای نوع رمزگشایی احتمالی عرضه نکرده است.
چرا اهمیت دارد
هر کاربری که از شبکه‌ای با ثبت ترافیک با یک LLM جریانی ارتباط برقرار می‌کند، موضوع جستجوی خود را صرف نظر از رمزنگاری TLS افشا می‌کند، از جمله کاربرانی که تصور می‌کنند با یک دستیار پزشکی، حقوقی یا مالی به صورت خصوصی در ارتباط هستند.
نحوه امتیازدهی به فرصت
امتیاز فرصت برداشت شخصی من است، نه یک سنجش دقیق: چقدر درد ایجاد می‌کند، چند بار گریبان می‌گیرد، و چقدر راه‌حل کمی برای آن وجود دارد. امتیاز بالاتر یعنی فکر می‌کنم ساختنش بیشتر ارزش دارد.
چقدر وقتی ظاهر می‌شود دردسر ایجاد می‌کند.
چند بار مردم واقعاً با آن مواجه می‌شوند.
چقدر ابزار مناسب برای آن امروز کمیاب است.
مشکلات بیشتری که ارزش حل کردن دارند
چرا هر اپلیکیشن هوش مصنوعی لحظه‌ای که تب را می‌بندم مرا فراموش می‌کند؟
AIچرا یادگیری یک حوزه جدید هنوز به دانستن اینکه چه بپرسی وابسته است؟
AIچرا یک غیرمتخصص نمی‌تواند آنچه هوش مصنوعی به تازگی به او گفته را تأیید کند؟
AIچرا مدل‌ها را روی معیارهای استاندارد آزمایش می‌کنیم اما بر اساس حدس و احساس راهی تولید می‌کنیم؟
AIچرا عامل‌های هوش مصنوعی هیچ خاطره‌ای از اشتباهات خودشان ندارند؟
AIچرا نمی‌توانم آنچه را که مدل واقعاً روی آن آموزش دیده بررسی کنم؟