Mengapa saya tidak bisa mengaudit apa yang sebenarnya digunakan untuk melatih sebuah model?

Peluang

Model menyerap seluruh internet lalu menjawab tanpa ada cara untuk melacak dari mana suatu klaim atau perilaku berasal. Untuk hal apa pun yang diatur, atau sengketa hak cipta atau bias, dataset pelatihan adalah kotak hitam. Tidak ada cara praktis untuk menanyakan kepada model apa yang dipelajarinya dan mendapatkan jawaban yang jujur.

Mengapa ini penting

Kamu tidak bisa mengatur atau sepenuhnya mempercayai sistem yang masukannya tidak terlihat.

Cara saya menilai peluang

Skor Peluang adalah penilaian pribadi saya, bukan pengukuran: seberapa besar dampaknya, seberapa sering terasa, dan seberapa sedikit solusi yang ada saat ini. Semakin tinggi skornya, semakin layak menurut saya untuk dibangun.

Tingkat Keparahan7/10

Seberapa besar masalah yang ditimbulkannya saat muncul.

Frekuensi6/10

Seberapa sering orang benar-benar menghadapinya.

Ruang Kosong8/10

Betapa sedikitnya alat yang baik tersedia untuknya saat ini.

Lebih banyak masalah yang layak diselesaikan

Mengapa setiap aplikasi AI melupakan saya begitu saya menutup tab?

Mengapa mempelajari bidang baru masih terganjal oleh ketidaktahuan tentang apa yang harus ditanyakan?

Mengapa orang awam tidak bisa memverifikasi apa yang baru saja dikatakan AI kepada mereka?

Mengapa kita menguji model pada tolok ukur tetapi meluncurkannya berdasarkan intuisi semata?

Mengapa agen AI tidak punya ingatan atas kesalahan mereka sendiri?

Mengapa data pelatihan tidak memiliki catatan yang dapat dibaca mesin tentang apakah seseorang memberikan persetujuan?

← Semua masalah yang layak diselesaikan Tentang Anurag →