لماذا لا أستطيع رؤية أو حذف ما يتذكره مساعدي عني بالضبط؟
الفرصة
كل مساعد ذكاء اصطناعي رئيسي بذاكرة مستمرة يخزن حقائق عن المستخدمين عبر الجلسات، لكن الواجهة التي يراها المستخدم مجرد قائمة رفيعة من الملخصات لا سجل قابل للتدقيق. لا توجد طريقة قياسية للتحقق من أي ادعاء محدد تم استنتاجه، ومتى كُتب، وما الذي أثاره، وما إذا كان قد شُورك مع خطوط أنابيب الاسترداد. حين يطلب المستخدم من المساعد نسيان شيء ما، تظل عملية الحذف غامضة. قد يحتفظ مخزن المتجهات الأساسي بالتضمينات، وقد يُستدعى سجل المحادثة قانونياً، ولا يوجد دليل تشفيري على اكتمال الحذف. يطالب كل من IAPP وقانون الذكاء الاصطناعي الأوروبي بذاكرة قابلة للتدقيق مع أدلة حذف قابلة للاستدعاء، لكن لا منتج يوفر ذلك اليوم.
لماذا تهم
بدون مسار تدقيق قابل للتحقق، تصبح الذاكرة التي يتحكم فيها المستخدم مجرد مسرحية، لأن المستخدمين لا يستطيعون ممارسة حقوق لا يمكنهم رؤيتها.
كيف أقيّم الفرصة
نقاط الفرصة هي قراءتي الشخصية لا قياس دقيق: مدى تأثير المشكلة، وتكرار مواجهتها، وشُح الحلول المتاحة لها اليوم. كلما ارتفعت النقاط، كان البناء في رأيي أجدر بالاهتمام.
مقدار الألم الذي تسببه حين تظهر.
مدى تكرار مواجهة الناس لها فعلياً.
مدى شُح الأدوات الجيدة المتاحة لها اليوم.
مزيد من المشكلات التي تستحق الحل
لماذا تنساني كل تطبيقات الذكاء الاصطناعي في اللحظة التي أغلق فيها التبويب؟
AIلماذا لا يزال تعلم مجال جديد رهيناً بمعرفة الأسئلة الصحيحة؟
AIلماذا لا يستطيع غير المتخصص التحقق مما أخبره به الذكاء الاصطناعي للتو؟
AIلماذا نختبر النماذج على المعايير القياسية ثم نطلقها بناءً على الحدس؟
AIلماذا لا تملك وكلاء الذكاء الاصطناعي ذاكرة لأخطائها الخاصة؟
AIلماذا لا يمكنني مراجعة ما تدرّب عليه النموذج فعلاً؟