چرا نمی‌توانم آنچه را که مدل واقعاً روی آن آموزش دیده بررسی کنم؟
فرصت
مدل‌ها کل اینترنت را جذب می‌کنند و بعد پاسخ می‌دهند بدون هیچ راهی برای ردیابی اینکه یک ادعا یا رفتار از کجا آمده. برای هر چیز تنظیم‌شده، یا هر اختلافی درباره حق مؤلف یا تعصب، مجموعه آموزشی یک جعبه سیاه است. هیچ راه عملی وجود ندارد که از مدل بپرسی از چه چیزی یاد گرفته و پاسخ صادقانه‌ای دریافت کنی.
چرا اهمیت دارد
نمی‌توانی سیستمی را که ورودی‌هایش نامرئی هستند، اداره کنی یا به‌طور کامل به آن اعتماد کنی.
نحوه امتیازدهی به فرصت
امتیاز فرصت برداشت شخصی من است، نه یک سنجش دقیق: چقدر درد ایجاد می‌کند، چند بار گریبان می‌گیرد، و چقدر راه‌حل کمی برای آن وجود دارد. امتیاز بالاتر یعنی فکر می‌کنم ساختنش بیشتر ارزش دارد.
چقدر وقتی ظاهر می‌شود دردسر ایجاد می‌کند.
چند بار مردم واقعاً با آن مواجه می‌شوند.
چقدر ابزار مناسب برای آن امروز کمیاب است.
مشکلات بیشتری که ارزش حل کردن دارند
چرا هر اپلیکیشن هوش مصنوعی لحظه‌ای که تب را می‌بندم مرا فراموش می‌کند؟
AIچرا یادگیری یک حوزه جدید هنوز به دانستن اینکه چه بپرسی وابسته است؟
AIچرا یک غیرمتخصص نمی‌تواند آنچه هوش مصنوعی به تازگی به او گفته را تأیید کند؟
AIچرا مدل‌ها را روی معیارهای استاندارد آزمایش می‌کنیم اما بر اساس حدس و احساس راهی تولید می‌کنیم؟
AIچرا عامل‌های هوش مصنوعی هیچ خاطره‌ای از اشتباهات خودشان ندارند؟
AIچرا یک همسایه در خوشه استنتاج من می‌تواند آنچه از مدل پرسیدم را بازسازی کند؟