Bir modelin gerçekte neyle eğitildiğini neden denetleyemiyorum?
Fırsat
Modeller tüm interneti özümser ve ardından bir iddia ya da davranışın nereden geldiğini izlemenin hiçbir yolu olmadan yanıt verir. Düzenlemeye tabi herhangi bir konu veya telif hakkı ya da önyargıya ilişkin herhangi bir anlaşmazlık için eğitim seti kara bir kutudur. Bir modele neyi öğrendiğini sorup dürüst bir yanıt almanın pratik bir yolu yoktur.
Neden önemli
Girdileri görünmez olan bir sistemi yönetemez ya da ona tam olarak güvenemezsiniz.
Fırsatı nasıl puanlıyorum
Fırsat Puanı benim kendi değerlendirmem, bir ölçüm değil: ne kadar acı verdiği, ne sıklıkla etkisi olduğu ve bugün için ne kadar az çözüm bulunduğu. Daha yüksek puan, inşa etmeye daha değer olduğunu düşündüğüm anlamına gelir.
Ortaya çıktığında ne kadar sorun yarattığı.
İnsanların bununla gerçekte ne sıklıkla karşılaştığı.
Bugün bunun için ne kadar az iyi araç bulunduğu.
Çözmeye değer daha fazla sorun
Neden her yapay zeka uygulaması sekmeyi kapattığım anda beni unutuyor?
AINeden yeni bir alanı öğrenmek hâlâ ne soracağını bilmekle sınırlı?
AIUzman olmayan biri, yapay zekanın söylediklerini neden doğrulayamıyor?
AIModelleri kıyaslamalarda test edip neden sezgiyle yayımlıyoruz?
AIYapay zeka ajanları neden kendi hatalarını hatırlamıyor?
AIWhy does my agent ace every leaderboard but fail when it actually matters?