Asistanımın benim hakkımda tam olarak neyi hatırladığını neden göremiyorum veya silemiyorum?
Fırsat
Kalıcı belleğe sahip her büyük yapay zeka asistanı, oturumlar arasında kullanıcılara ilişkin bilgileri depolar; ancak kullanıcıya sunulan arayüz, denetlenebilir bir kayıt defteri değil, yalnızca ince bir özet listesidir. Hangi çıkarımın yapıldığını, ne zaman yazıldığını, neyin tetiklediğini ya da alma hatlarıyla paylaşılıp paylaşılmadığını incelemenin standart bir yolu yoktur. Kullanıcı asistandan bir şeyi unutmasını istediğinde, silme işlemi opaktır. Altta yatan vektör deposu gömmeleri saklıyor olabilir, konuşma günlüğü mahkeme celbiyle istenebilir ve silmenin tamamlandığına dair kriptografik bir kanıt yoktur. IAPP ve AB Yapay Zeka Yasası, silinme kanıtı sunulabilen denetlenebilir bellek sistemleri çağrısında bulunmaktadır; ancak bugün bunu gerçekleştiren hiçbir ürün piyasada yoktur.
Neden önemli
Doğrulanabilir bir denetim izi olmadan kullanıcı kontrollü bellek bir gösteriden ibarettir; çünkü kullanıcılar gözlemleyemedikleri haklarını kullanamaz.
Fırsatı nasıl puanlıyorum
Fırsat Puanı benim kendi değerlendirmem, bir ölçüm değil: ne kadar acı verdiği, ne sıklıkla etkisi olduğu ve bugün için ne kadar az çözüm bulunduğu. Daha yüksek puan, inşa etmeye daha değer olduğunu düşündüğüm anlamına gelir.
Ortaya çıktığında ne kadar sorun yarattığı.
İnsanların bununla gerçekte ne sıklıkla karşılaştığı.
Bugün bunun için ne kadar az iyi araç bulunduğu.
Çözmeye değer daha fazla sorun
Neden her yapay zeka uygulaması sekmeyi kapattığım anda beni unutuyor?
AINeden yeni bir alanı öğrenmek hâlâ ne soracağını bilmekle sınırlı?
AIUzman olmayan biri, yapay zekanın söylediklerini neden doğrulayamıyor?
AIModelleri kıyaslamalarda test edip neden sezgiyle yayımlıyoruz?
AIYapay zeka ajanları neden kendi hatalarını hatırlamıyor?
AIBir modelin gerçekte neyle eğitildiğini neden denetleyemiyorum?