Wie erkenne ich, ob das Open-Weight-Basismodell, das ich fine-tune, nicht vergiftet wurde?

In vortrainierten Modellgewichten eingebettete Backdoors bleiben durch vollständiges Parameter-Fine-Tuning, Adapter-Training und RLHF-Updates bestehen, da die Triggermuster Strategien zum Verschieben des Optimierungsziels und zum teilweisen Einfrieren der Gewichte überleben. Diese Trigger sind für Standard-Verhaltens-Sicherheitstests und Benchmark-Evaluierungen unsichtbar. Ihre Erkennung erfordert eine White-Box-Gewichtsanalyse, die der durchschnittliche Fine-Tuning-Anwender nie durchführt, und große Modell-Hubs wenden vor der öffentlichen Bereitstellung eines Checkpoints kein obligatorisches Scanning an. Eine Organisation, die ein Produktionssystem auf einem kompromittierten Basismodell aufbaut, erhält kein Signal, dass etwas nicht stimmt, bis der Trigger im Deployment ausgelöst wird.