İnce ayar yaptığım açık ağırlıklı temel modelin zehirlenmediğini nasıl anlayabilirim?

Önceden eğitilmiş model ağırlıklarına yerleştirilen arka kapılar, tetikleyici örüntüler amaç değiştirme ve kısmi dondurma stratejilerinden sağ çıktığı için tam parametre ince ayarı, adaptör eğitimi ve RLHF güncellemelerinde varlığını sürdürür. Bu tetikleyiciler standart davranışsal güvenlik testlerine ve kıyaslama değerlendirmesine karşı görünmezdir. Bunları tespit etmek, ortalama ince ayar uygulayıcısının hiç çalıştırmadığı beyaz kutu ağırlık analizi gerektirir; büyük model merkezleri ise bir kontrol noktası genel indirmeye açılmadan önce zorunlu tarama uygulamaz. Güvenliği ihlal edilmiş bir temel model üzerine üretim sistemi inşa eden bir kuruluş, tetikleyici dağıtımda ateşlenene kadar bir şeylerin yanlış gittiğine dair hiçbir sinyal almaz.