Mengapa model yang dilatih pada web saat ini semakin memburuk seiring AI menulis lebih banyak kontennya?

Web kini menjadi korpus pelatihan utama untuk model frontier dan sudah jenuh dengan teks buatan AI yang tidak dapat ditangkap secara andal oleh filter mana pun yang telah diterapkan. Penelitian yang diterbitkan antara 2024 hingga 2026 menunjukkan bahwa bahkan sebagian kecil dari satu persen data sintetis dalam sebuah pelatihan dapat memicu kolaps distribusi selama generasi berturut-turut, mempersempit keragaman keluaran dan menurunkan performa pada kasus tepi. Umpan balik ini bersifat struktural: model yang dilatih tahun ini menghasilkan konten yang mencemari korpus untuk pelatihan tahun depan. Mitigasi yang diusulkan seperti daftar izin berbasis sumber, filter tanda air, dan pemverifikasi data sintetis masing-masing memiliki vektor bypass dan belum ada yang diterapkan pada skala web-crawler. Tidak ada protokol yang disepakati untuk mengidentifikasi dan mengkarantina data pelatihan buatan AI sebelum masuk ke dalam model.