Bagaimana saya tahu bahwa model dasar open-weight yang sedang saya fine-tuning belum diracuni?

Backdoor yang ditanamkan pada bobot model yang telah dilatih sebelumnya bertahan melalui fine-tuning parameter penuh, pelatihan adapter, dan pembaruan RLHF karena pola pemicu bertahan terhadap strategi penggeseran objektif dan pembekuan parsial. Pemicu ini tidak terlihat oleh uji keamanan perilaku standar dan evaluasi benchmark. Mendeteksinya memerlukan analisis bobot white-box yang tidak pernah dijalankan oleh praktisi fine-tuning pada umumnya, dan hub model utama tidak menerapkan pemindaian wajib sebelum checkpoint tersedia untuk diunduh secara publik. Sebuah organisasi yang membangun sistem produksi di atas model dasar yang telah disusupi tidak mendapatkan sinyal apa pun bahwa ada yang salah sampai pemicu aktif saat deployment.