ทำไมข้อความที่สร้างโดยโมเดลโอเพนซอร์สจึงไม่สามารถติดตามกลับไปยังโมเดลนั้นได้อย่างน่าเชื่อถือ?

ผู้ให้บริการโมเดลแบบปิดสามารถฝังลายน้ำทางสถิติในข้อความที่สร้างขึ้นในขณะที่อนุมาน ทำให้สามารถระบุแหล่งที่มาของเนื้อหาไปยังโมเดลเฉพาะได้ภายหลัง โมเดลโอเพนซอร์สให้ผู้ใช้เข้าถึงขั้นตอนการ decode ได้อย่างสมบูรณ์ ดังนั้นลายน้ำในขณะสร้างสามารถลบออกได้ด้วยการแก้ไขโค้ด sampling เพียงไม่กี่บรรทัด การทำลายน้ำแบบ post-hoc กับข้อความที่สร้างขึ้นแล้วล้มเหลวต่อการโจมตีด้วยการถอดความ การฝัง markers ใน model weights ทนทานต่อการโจมตีบางส่วนแต่ไม่ทนต่อการ fine-tuning ซึ่งทุกคนที่รัน weights ในเครื่องสามารถทำได้ภายในบ่ายเดียว ณ ปลายปี 2025 ไม่มีแบบแผนใดที่ให้การระบุแหล่งที่มาซึ่งใช้งานได้จริงและต้านทานการลบออกสำหรับผลลัพธ์จากโมเดลแบบ open-weights และชุมชนวิจัยยอมรับว่าปัญหานี้ยังคงเปิดอยู่