¿Cómo sé si el modelo base de pesos abiertos que estoy ajustando no ha sido envenenado?

Las puertas traseras implantadas en los pesos de modelos preentrenados persisten a través del ajuste fino de parámetros completos, el entrenamiento de adaptadores y las actualizaciones de RLHF, porque los patrones disparadores sobreviven a las estrategias de cambio de objetivo y congelación parcial. Estos disparadores son invisibles para las pruebas de seguridad conductual estándar y la evaluación mediante benchmarks. Detectarlos requiere un análisis de caja blanca de los pesos que el practicante promedio de ajuste fino nunca realiza, y los principales repositorios de modelos no aplican ningún escaneo obligatorio antes de que un punto de control esté disponible para descarga pública. Una organización que construye un sistema de producción sobre un modelo base comprometido no recibe ninguna señal de que algo está mal hasta que el disparador se activa en producción.