Mengapa tidak ada peringatan sebelum keluaran buruk satu agen meracuni sisa pipeline saya?

Sistem multi-agen gagal pada tingkat antara 41% dan 87%, dengan kerusakan koordinasi saja menyumbang 37% dari kegagalan tersebut, namun tidak ada lapisan observabilitas yang memunculkan risiko kaskade sebelum menyebar. Tidak seperti layanan mikro, di mana lonjakan latensi pada satu layanan muncul di dasbor APM sebelum menghancurkan yang lain, keluaran yang berhalusinasi atau salah dari satu agen menyebar secara diam-diam hingga agen hilir bertindak atas dasar itu secara tidak dapat dipulihkan. Mode kegagalan yang muncul dalam pengaturan multi-agen, termasuk halusinasi bertingkat, kolusi antar-agen, dan kebocoran informasi, tidak dapat diprediksi dari evaluasi keamanan agen tunggal. International AI Safety Report 2026 dan OWASP Agentic AI Top 10 yang diterbitkan pada Desember 2025 keduanya menandai amplifikasi kaskade sebagai risiko kelas pertama, dan tidak ada perangkat produksi yang secara khusus menargetkannya.