Как убедиться, что базовая модель с открытыми весами, которую я дообучаю, не была скомпрометирована?

Бэкдоры, внедрённые в веса предобученной модели, сохраняются через полноценное дообучение всех параметров, обучение адаптеров и обновления RLHF, поскольку паттерны-триггеры выживают при стратегиях смены целевой функции и частичного замораживания. Эти триггеры невидимы для стандартных поведенческих тестов безопасности и оценки на бенчмарках. Их обнаружение требует анализа весов методом белого ящика, который рядовой практик дообучения никогда не проводит, а крупные хабы моделей не применяют обязательного сканирования перед тем, как чекпойнт становится доступным для публичного скачивания. Организация, создающая производственную систему на основе скомпрометированной базовой модели, не получит никакого сигнала о проблеме до момента срабатывания триггера в процессе эксплуатации.