Hoe weet ik dat het open-weight basismodel dat ik fine-tune niet vergiftigd is?

Backdoors die in vooraf getrainde modelgewichten zijn geplant, overleven volledige parameter fine-tuning, adapter-training en RLHF-updates, omdat de triggerpatronen bestand zijn tegen doelverschuiving en gedeeltelijke bevriezingsstrategieën. Deze triggers zijn onzichtbaar voor standaard gedragsbeveiligingstests en benchmarkevaluaties. Het detecteren ervan vereist white-box gewichtsanalyse die de gemiddelde fine-tuning-beoefenaar nooit uitvoert, en grote modelhubs passen geen verplichte scan toe voordat een checkpoint openbaar beschikbaar wordt gesteld. Een organisatie die een productiesysteem bouwt op een gecompromitteerd basismodel heeft geen signaal dat er iets mis is totdat de trigger tijdens de implementatie afgaat.