لماذا لا يمكنني مراجعة ما تدرّب عليه النموذج فعلاً؟
الفرصة
تستوعب النماذج الإنترنت بأكمله ثم تجيب دون أي وسيلة لتتبع مصدر ادعاء أو سلوك معين. فيما يخص أي شيء خاضع للتنظيم، أو أي نزاع حول حقوق النشر أو التحيز، تبقى مجموعة بيانات التدريب صندوقاً أسود. لا توجد طريقة عملية للسؤال عما تعلمه النموذج والحصول على إجابة صادقة.
لماذا تهم
لا يمكنك إدارة نظام تكون مدخلاته غير مرئية أو الوثوق به تماماً.
كيف أقيّم الفرصة
نقاط الفرصة هي قراءتي الشخصية لا قياس دقيق: مدى تأثير المشكلة، وتكرار مواجهتها، وشُح الحلول المتاحة لها اليوم. كلما ارتفعت النقاط، كان البناء في رأيي أجدر بالاهتمام.
مقدار الألم الذي تسببه حين تظهر.
مدى تكرار مواجهة الناس لها فعلياً.
مدى شُح الأدوات الجيدة المتاحة لها اليوم.
مزيد من المشكلات التي تستحق الحل
لماذا تنساني كل تطبيقات الذكاء الاصطناعي في اللحظة التي أغلق فيها التبويب؟
AIلماذا لا يزال تعلم مجال جديد رهيناً بمعرفة الأسئلة الصحيحة؟
AIلماذا لا يستطيع غير المتخصص التحقق مما أخبره به الذكاء الاصطناعي للتو؟
AIلماذا نختبر النماذج على المعايير القياسية ثم نطلقها بناءً على الحدس؟
AIلماذا لا تملك وكلاء الذكاء الاصطناعي ذاكرة لأخطائها الخاصة؟
AIلماذا يمكن لمستند مخترق أن يسرّب بصمت كل ما يعرفه مساعدي عني؟