چرا نمی‌توانم دقیقاً ببینم یا حذف کنم که دستیارم درباره من چه چیزی به خاطر دارد؟
فرصت
هر دستیار هوش مصنوعی بزرگ با حافظه پایدار، اطلاعاتی درباره کاربران در طول نشست‌ها ذخیره می‌کند، اما رابط کاربری‌رو به رو فقط فهرستی نازک از خلاصه‌هاست نه یک گزارش قابل ممیزی. هیچ روش استانداردی برای بررسی اینکه کدام ادعای خاصی استنتاج شده، چه زمانی نوشته شده، چه چیزی آن را برانگیخته یا آیا با خطوط لوله بازیابی به اشتراک گذاشته شده وجود ندارد. وقتی کاربری از دستیار می‌خواهد چیزی را فراموش کند، عملیات حذف غیرشفاف است. ذخیره‌گاه برداری زیرین ممکن است جاسازی‌ها را نگه دارد، گزارش مکالمه ممکن است احضار شود و هیچ اثبات رمزنگاری‌شده‌ای مبنی بر کامل بودن حذف وجود ندارد. IAPP و قانون هوش مصنوعی اتحادیه اروپا هر دو خواستار حافظه قابل ممیزی با شواهد حذف قابل فراخوانی هستند، اما هیچ محصولی امروز این را عرضه نمی‌کند.
چرا اهمیت دارد
بدون یک مسیر ممیزی قابل تأیید، حافظه تحت کنترل کاربر نمایشی توخالی است، زیرا کاربران نمی‌توانند از حقوقی که قادر به مشاهده آن‌ها نیستند استفاده کنند.
نحوه امتیازدهی به فرصت
امتیاز فرصت برداشت شخصی من است، نه یک سنجش دقیق: چقدر درد ایجاد می‌کند، چند بار گریبان می‌گیرد، و چقدر راه‌حل کمی برای آن وجود دارد. امتیاز بالاتر یعنی فکر می‌کنم ساختنش بیشتر ارزش دارد.
چقدر وقتی ظاهر می‌شود دردسر ایجاد می‌کند.
چند بار مردم واقعاً با آن مواجه می‌شوند.
چقدر ابزار مناسب برای آن امروز کمیاب است.
مشکلات بیشتری که ارزش حل کردن دارند
چرا هر اپلیکیشن هوش مصنوعی لحظه‌ای که تب را می‌بندم مرا فراموش می‌کند؟
AIچرا یادگیری یک حوزه جدید هنوز به دانستن اینکه چه بپرسی وابسته است؟
AIچرا یک غیرمتخصص نمی‌تواند آنچه هوش مصنوعی به تازگی به او گفته را تأیید کند؟
AIچرا مدل‌ها را روی معیارهای استاندارد آزمایش می‌کنیم اما بر اساس حدس و احساس راهی تولید می‌کنیم؟
AIچرا عامل‌های هوش مصنوعی هیچ خاطره‌ای از اشتباهات خودشان ندارند؟
AIچرا نمی‌توانم آنچه را که مدل واقعاً روی آن آموزش دیده بررسی کنم؟