ฉันจะรู้ได้อย่างไรว่า base model แบบ open-weight ที่กำลัง fine-tune อยู่นั้นไม่ได้ถูกฝัง backdoor ไว้?

backdoor ที่ฝังไว้ใน weight ของโมเดลที่ผ่านการฝึกล่วงหน้าจะคงอยู่ตลอดการ fine-tune แบบ full-parameter การฝึก adapter และการอัปเดต RLHF เนื่องจาก pattern ของ trigger รอดผ่านกลยุทธ์การเปลี่ยน objective และการแช่แข็งบางส่วน trigger เหล่านี้มองไม่เห็นในการทดสอบความปลอดภัยเชิงพฤติกรรมมาตรฐานและการประเมิน benchmark การตรวจจับต้องใช้การวิเคราะห์ weight แบบ white-box ซึ่งผู้ปฏิบัติงาน fine-tune ทั่วไปไม่เคยดำเนินการ และ model hub รายใหญ่ไม่มีการสแกนบังคับก่อนที่ checkpoint จะพร้อมให้ดาวน์โหลดสาธารณะ องค์กรที่สร้างระบบในโปรดักชันบน base model ที่ถูกบุกรุกไม่มีสัญญาณใดๆ ว่ามีบางอย่างผิดปกติจนกว่า trigger จะทำงานในระหว่างการใช้งานจริง