لماذا يمكن لمستند مخترق أن يسرّب بصمت كل ما يعرفه مساعدي عني؟
الفرصة
في يونيو 2025، كشفت شركة Aim Security عن EchoLeak، أول حقن موجّه موثّق بدون نقرة تسبّب في تسريب بيانات حقيقية من نظام ذكاء اصطناعي في بيئة إنتاجية. أدّى بريد إلكتروني خبيث واحد إلى قيام Microsoft Copilot بإرسال بيانات حساسة بصمت دون أي تفاعل من المستخدم. المشكلة الهيكلية هي أن مساعدي الذكاء الاصطناعي الذين يتمتعون بذاكرة مستمرة وصلاحية استدعاء الأدوات يجمعون بين خاصيتين خطيرتين: فهم يحتفظون بسياق شخصي متراكم، ويمكن حملهم على تنفيذ تعليمات مضمّنة في محتوى غير موثوق. كل مستند أو بريد إلكتروني أو صفحة ويب يقرأها المساعد يمثّل سطحاً محتملاً للتعليمات. لا يوجد حاجز عزل بين الذاكرة التي يأتمن المستخدمُ المساعدَ على حفظها والتعليماتِ التي يتبعها من المحتوى الخارجي، وتتناول مقترحات الحماية الحالية استدعاءات الأدوات دون أن تعالج وصول قراءة الذاكرة.
لماذا تهم
تحوّل ذاكرة الذكاء الاصطناعي الشخصية كل مستند خبيث إلى هجوم موجّه لسرقة الملفات الشخصية، وهو نوع جديد من الهجمات لا يوجد له دفاع ناضج بعد.
كيف أقيّم الفرصة
نقاط الفرصة هي قراءتي الشخصية لا قياس دقيق: مدى تأثير المشكلة، وتكرار مواجهتها، وشُح الحلول المتاحة لها اليوم. كلما ارتفعت النقاط، كان البناء في رأيي أجدر بالاهتمام.
مقدار الألم الذي تسببه حين تظهر.
مدى تكرار مواجهة الناس لها فعلياً.
مدى شُح الأدوات الجيدة المتاحة لها اليوم.
مزيد من المشكلات التي تستحق الحل
لماذا تنساني كل تطبيقات الذكاء الاصطناعي في اللحظة التي أغلق فيها التبويب؟
AIلماذا لا يزال تعلم مجال جديد رهيناً بمعرفة الأسئلة الصحيحة؟
AIلماذا لا يستطيع غير المتخصص التحقق مما أخبره به الذكاء الاصطناعي للتو؟
AIلماذا نختبر النماذج على المعايير القياسية ثم نطلقها بناءً على الحدس؟
AIلماذا لا تملك وكلاء الذكاء الاصطناعي ذاكرة لأخطائها الخاصة؟
AIلماذا لا يمكنني مراجعة ما تدرّب عليه النموذج فعلاً؟