لماذا يستطيع من يراقب حركة LLM المشفرة الخاصة بي استنتاج ما سألت عنه؟
الفرصة
كشف Whisper Leak، الذي أُفصح عنه في أواخر 2025، أن تحليل أنماط توقيت الحزم وحجمها في استجابات LLM المُشفَّرة المتدفقة يصنّف موضوعات الأوامر بدقة تتجاوز 98% عبر 28 مزوداً رئيسياً. نشر بعض المزودين بما فيهم OpenAI وMistral إصلاحات، لكن تلك التخفيفات تعالج أنماط طول الرموز فحسب. هجوم منفصل يستغل فك الترميز التخميني: يتفاوت عدد الرموز المقبولة في كل خطوة فك ترميز تبعاً لمحتوى المخرجات، وهذه الإشارة تتسرب حتى عبر الاتصالات المحشوّة لأن الحشو لا يُلغي تذبذب معدل القبول. تُخفّض الدفاعات المقترحة كتجميع الرموز دقة الهجوم بنسبة 50% دون أن تُلغيه، ويفرض الحشو العشوائي حمولة زائدة تصل إلى 8.7 ضعفاً مع تسرب متبقٍّ. لم يُطلق أي مزود تخفيفاً كاملاً لنوع الهجوم المعتمد على فك الترميز التخميني.
لماذا تهم
أي مستخدم يُرسل استعلامات إلى نموذج لغوي كبير يعمل بالبث عبر شبكة تسجّل حركة المرور يكشف عن موضوع استعلامه بصرف النظر عن تشفير TLS، بما في ذلك المستخدمون الذين يظنون أنهم يتواصلون بخصوصية تامة مع مساعد طبي أو قانوني أو مالي.
كيف أقيّم الفرصة
نقاط الفرصة هي قراءتي الشخصية لا قياس دقيق: مدى تأثير المشكلة، وتكرار مواجهتها، وشُح الحلول المتاحة لها اليوم. كلما ارتفعت النقاط، كان البناء في رأيي أجدر بالاهتمام.
مقدار الألم الذي تسببه حين تظهر.
مدى تكرار مواجهة الناس لها فعلياً.
مدى شُح الأدوات الجيدة المتاحة لها اليوم.
مزيد من المشكلات التي تستحق الحل
لماذا تنساني كل تطبيقات الذكاء الاصطناعي في اللحظة التي أغلق فيها التبويب؟
AIلماذا لا يزال تعلم مجال جديد رهيناً بمعرفة الأسئلة الصحيحة؟
AIلماذا لا يستطيع غير المتخصص التحقق مما أخبره به الذكاء الاصطناعي للتو؟
AIلماذا نختبر النماذج على المعايير القياسية ثم نطلقها بناءً على الحدس؟
AIلماذا لا تملك وكلاء الذكاء الاصطناعي ذاكرة لأخطائها الخاصة؟
AIلماذا لا يمكنني مراجعة ما تدرّب عليه النموذج فعلاً؟