Why does my AI assistant recommend packages that turn out to be malware?

Cơ hội

When a code-generating model scaffolds a project, it invents package names at rates between 4.6% and 6.1% even on today's frontier models. Attackers register those hallucinated names as malicious packages before developers notice. Researchers studying five frontier models released between October 2025 and March 2026 found 127 package names all five models invent identically; 53 of them remain registrable by an attacker after each registry's existing defenses. No IDE plugin, no CI step, and no package manager checks whether a model-suggested package name was ever real before resolving it. The only current advice is to read every import manually, which no team does at scale.

Tại sao quan trọng

Until there is a pre-install oracle that cross-references model-suggested names against real registry data, every AI-assisted build is one hallucinated import away from installing malware.

Cách tôi đánh giá cơ hội

Điểm Cơ Hội là đánh giá riêng của tôi, không phải một phép đo chính xác: mức độ gây khó chịu, tần suất xuất hiện và sự khan hiếm của giải pháp hiện có. Điểm càng cao, tôi càng cho rằng vấn đề đó càng đáng để xây dựng.

Mức độ nghiêm trọng9/10

Mức độ phiền toái nó gây ra khi xuất hiện.

Tần suất8/10

Tần suất mọi người thực sự gặp phải nó.

Khoảng trắng8/10

Có rất ít công cụ tốt để xử lý nó hiện nay.

Thêm các vấn đề đáng giải quyết

Tại sao mọi ứng dụng AI đều quên tôi ngay khi tôi đóng tab?

Tại sao việc học một lĩnh vực mới vẫn bị chặn bởi việc phải biết hỏi gì?

Tại sao người không chuyên không thể xác minh điều một AI vừa nói với họ?

Tại sao chúng ta kiểm tra mô hình trên các bảng xếp hạng nhưng lại triển khai chúng dựa trên cảm tính?

Tại sao các AI agent không có trí nhớ về lỗi lầm của chính mình?

Tại sao tôi không thể kiểm tra dữ liệu mà một mô hình thực sự được huấn luyện trên đó?

← Tất cả các vấn đề đáng giải quyết Về Anurag →