ทำไมฉันถึงต้องรอให้โมเดลออกสู่ตลาดก่อน ถึงจะรู้ว่ามันทำอะไรอันตรายได้บ้าง?

เครื่องมือ red-teaming อัตโนมัติอย่าง GCG, AutoDAN และ PAIR รายงานอัตราความสำเร็จในการโจมตีที่ 5 ถึง 15 เปอร์เซ็นต์ และสร้างความรู้สึกปลอดภัยที่คลาดเคลื่อน การทำ red-teaming แบบหลายรอบโดยมนุษย์บนโมเดลเดียวกันพบความล้มเหลวสูงถึง 75 เปอร์เซ็นต์ในหมวดหมู่เดียวกัน ช่องว่างนี้หมายความว่าการยกระดับความสามารถที่เป็นอันตรายในพื้นที่อย่างคำแนะนำการสังเคราะห์อาวุธชีวภาพหรือการโจมตีไซเบอร์เชิงรุกถูกพลาดในขั้นตอนก่อนการปรับใช้แบบอัตโนมัติ และถูกค้นพบในสนามจริงแทน แล็บฟรอนเทียร์ดำเนินการประเมินด้วยตนเองภายใต้กรอบงานอย่าง RSP ของ Anthropic และ TaskDev ของ METR แต่ระเบียบวิธีนั้นขาดเอกสารและไม่ได้มาตรฐานมากพอที่แล็บทั้งสองจะทดสอบในรูปแบบที่เทียบกันได้ แนวทาง red-teaming เอเจนต์ AI ของ NIST ยังคงเป็นเพียงโครงร่างพร้อมคำอธิบายประกอบในช่วงต้นปี 2026 โดยคาดว่าจะเผยแพร่ฉบับสมบูรณ์ในช่วงปลายปี 2026 ถึง 2027