Mengapa agen AI tidak punya ingatan atas kesalahan mereka sendiri?

Peluang

Sebuah agen akan membuat kesalahan yang sama pada hari Selasa seperti yang dibuat pada hari Senin, karena tidak ada yang membawa pelajaran itu ke depan. Kita punya memori untuk fakta, tapi hampir tidak ada untuk kegagalan. Agen yang tidak bisa belajar dari kesalahan adalah magang yang mengidap amnesia.

Mengapa ini penting

Agen tidak akan dipercaya untuk pekerjaan nyata sampai mereka secara konsisten terus berkembang dari waktu ke waktu.

Cara saya menilai peluang

Skor Peluang adalah penilaian pribadi saya, bukan pengukuran: seberapa besar dampaknya, seberapa sering terasa, dan seberapa sedikit solusi yang ada saat ini. Semakin tinggi skornya, semakin layak menurut saya untuk dibangun.

Tingkat Keparahan7/10

Seberapa besar masalah yang ditimbulkannya saat muncul.

Frekuensi8/10

Seberapa sering orang benar-benar menghadapinya.

Ruang Kosong8/10

Betapa sedikitnya alat yang baik tersedia untuknya saat ini.

Lebih banyak masalah yang layak diselesaikan

Mengapa setiap aplikasi AI melupakan saya begitu saya menutup tab?

Mengapa mempelajari bidang baru masih terganjal oleh ketidaktahuan tentang apa yang harus ditanyakan?

Mengapa orang awam tidak bisa memverifikasi apa yang baru saja dikatakan AI kepada mereka?

Mengapa kita menguji model pada tolok ukur tetapi meluncurkannya berdasarkan intuisi semata?

Mengapa saya tidak bisa mengaudit apa yang sebenarnya digunakan untuk melatih sebuah model?

Why can a neighbor on my inference cluster reconstruct what I just asked the model?

← Semua masalah yang layak diselesaikan Tentang Anurag →