จะพิสูจน์ได้อย่างไรว่าโมเดลถูกฝึกด้วยข้อมูลที่ได้รับความยินยอมโดยไม่เปิดเผยชุดข้อมูล?

เครือข่าย AI แบบกระจายศูนย์อนุญาตให้ทุกคนสามารถสนับสนุนการประมวลผลหรือข้อมูลเพื่อฝึกโมเดลร่วมกัน แต่ไม่มีกลไกใดที่ผู้ใช้ปลายทางหรือหน่วยงานกำกับดูแลสามารถตรวจสอบได้ว่าคลังข้อมูลฝึกไม่รวมข้อมูลที่ถูกปนเปื้อน ถูกขโมย หรือไม่ได้รับความยินยอม โดยไม่ต้องให้เครือข่ายเปิดเผยสิ่งที่ฝึกไป การพิสูจน์แหล่งที่มาของข้อมูลในปัจจุบันเป็นเพียงไฟล์ manifest ที่ผู้สนับสนุนรับรองตัวเอง หรือการตรวจสอบแบบรวมศูนย์ที่ขัดกับจุดประสงค์ของการกระจายศูนย์ บทความในเดือนกุมภาพันธ์ 2025 เกี่ยวกับการโจมตีแบบ activation inversion แสดงให้เห็นว่าข้อมูลฝึกสามารถสร้างขึ้นใหม่บางส่วนจากสัญญาณ gradient ที่แลกเปลี่ยนกันระหว่างการฝึกแบบ federated ซึ่งหมายความว่าแผนการพิสูจน์แหล่งที่มาใดก็ตามที่ต้องการการแชร์ gradient ก็จะรั่วข้อมูลด้วยเช่นกัน OWASP LLM top-ten ปี 2025 ระบุการวางยาพิษในข้อมูลห่วงโซ่อุปทานอย่างชัดเจนว่าเป็นหมวดหมู่ที่ไม่มีมาตรการลดความเสี่ยงมาตรฐานสำหรับการฝึกแบบกระจายศูนย์แบบเปิด