Mengapa saya tidak bisa melihat atau menghapus dengan tepat apa yang diingat asisten saya tentang saya?

Peluang

Setiap asisten AI besar dengan memori persisten menyimpan fakta tentang pengguna lintas sesi, tetapi antarmuka yang menghadap pengguna hanyalah daftar ringkasan tipis, bukan log yang dapat diaudit. Tidak ada cara standar untuk memeriksa klaim spesifik mana yang disimpulkan, kapan ditulis, apa yang memicunya, atau apakah telah dibagikan ke pipeline retrieval. Ketika pengguna meminta asisten untuk melupakan sesuatu, operasi penghapusan bersifat tidak transparan. Penyimpanan vektor yang mendasarinya mungkin masih menyimpan embedding, log percakapan mungkin dapat disita, dan tidak ada bukti kriptografi bahwa penghapusan sudah tuntas. IAPP dan EU AI Act keduanya menyerukan memori yang dapat diaudit dengan bukti penghapusan yang dapat dipanggil, tetapi belum ada produk yang menyediakan itu hari ini.

Mengapa ini penting

Tanpa jejak audit yang dapat diverifikasi, memori yang dikendalikan pengguna hanyalah sandiwara, karena pengguna tidak dapat menggunakan hak yang tidak dapat mereka amati.

Cara saya menilai peluang

Skor Peluang adalah penilaian pribadi saya, bukan pengukuran: seberapa besar dampaknya, seberapa sering terasa, dan seberapa sedikit solusi yang ada saat ini. Semakin tinggi skornya, semakin layak menurut saya untuk dibangun.

Tingkat Keparahan8/10

Seberapa besar masalah yang ditimbulkannya saat muncul.

Frekuensi9/10

Seberapa sering orang benar-benar menghadapinya.

Ruang Kosong8/10

Betapa sedikitnya alat yang baik tersedia untuknya saat ini.

Lebih banyak masalah yang layak diselesaikan

Mengapa setiap aplikasi AI melupakan saya begitu saya menutup tab?

Mengapa mempelajari bidang baru masih terganjal oleh ketidaktahuan tentang apa yang harus ditanyakan?

Mengapa orang awam tidak bisa memverifikasi apa yang baru saja dikatakan AI kepada mereka?

Mengapa kita menguji model pada tolok ukur tetapi meluncurkannya berdasarkan intuisi semata?

Mengapa agen AI tidak punya ingatan atas kesalahan mereka sendiri?

Mengapa saya tidak bisa mengaudit apa yang sebenarnya digunakan untuk melatih sebuah model?

← Semua masalah yang layak diselesaikan Tentang Anurag →