Why does my AI assistant recommend packages that turn out to be malware?
Peluang
When a code-generating model scaffolds a project, it invents package names at rates between 4.6% and 6.1% even on today's frontier models. Attackers register those hallucinated names as malicious packages before developers notice. Researchers studying five frontier models released between October 2025 and March 2026 found 127 package names all five models invent identically; 53 of them remain registrable by an attacker after each registry's existing defenses. No IDE plugin, no CI step, and no package manager checks whether a model-suggested package name was ever real before resolving it. The only current advice is to read every import manually, which no team does at scale.
Mengapa ini penting
Until there is a pre-install oracle that cross-references model-suggested names against real registry data, every AI-assisted build is one hallucinated import away from installing malware.
Cara saya menilai peluang
Skor Peluang adalah penilaian pribadi saya, bukan pengukuran: seberapa besar dampaknya, seberapa sering terasa, dan seberapa sedikit solusi yang ada saat ini. Semakin tinggi skornya, semakin layak menurut saya untuk dibangun.
Seberapa besar masalah yang ditimbulkannya saat muncul.
Seberapa sering orang benar-benar menghadapinya.
Betapa sedikitnya alat yang baik tersedia untuknya saat ini.
Lebih banyak masalah yang layak diselesaikan
Mengapa setiap aplikasi AI melupakan saya begitu saya menutup tab?
AIMengapa mempelajari bidang baru masih terganjal oleh ketidaktahuan tentang apa yang harus ditanyakan?
AIMengapa orang awam tidak bisa memverifikasi apa yang baru saja dikatakan AI kepada mereka?
AIMengapa kita menguji model pada tolok ukur tetapi meluncurkannya berdasarkan intuisi semata?
AIMengapa agen AI tidak punya ingatan atas kesalahan mereka sendiri?
AIMengapa saya tidak bisa mengaudit apa yang sebenarnya digunakan untuk melatih sebuah model?