Comment savoir si le modèle de base à poids ouverts que je fine-tune n'a pas été empoisonné ?

Les portes dérobées plantées dans les poids de modèles pré-entraînés persistent à travers le fine-tuning complet des paramètres, l'entraînement d'adaptateurs et les mises à jour RLHF, car les schémas de déclenchement survivent aux stratégies de changement d'objectif et de gel partiel. Ces déclencheurs sont invisibles pour les tests de sécurité comportementaux standard et l'évaluation sur benchmarks. Les détecter nécessite une analyse de poids en boîte blanche que le praticien moyen du fine-tuning n'effectue jamais, et les principaux hubs de modèles n'appliquent aucune analyse obligatoire avant qu'un point de contrôle soit rendu téléchargeable publiquement. Une organisation qui construit un système en production sur un modèle de base compromis n'a aucun signal que quelque chose ne va pas jusqu'à ce que le déclencheur s'active en déploiement.