Làm thế nào để chứng minh một mô hình được huấn luyện trên dữ liệu có sự đồng ý mà không tiết lộ bộ dữ liệu?

Các mạng AI phi tập trung cho phép bất kỳ ai đóng góp tính toán hoặc dữ liệu để huấn luyện một mô hình chung, nhưng không có cơ chế nào để người dùng hoặc cơ quan quản lý ở hạ nguồn có thể xác minh rằng tập dữ liệu huấn luyện đã loại trừ dữ liệu bị đầu độc, bị đánh cắp hoặc không có sự đồng ý mà không cần mạng tiết lộ những gì nó đã huấn luyện. Nguồn gốc dữ liệu hiện nay hoặc là bản kê khai có chữ ký mà người đóng góp tự xác nhận, hoặc là kiểm toán tập trung làm mất đi mục đích phi tập trung hóa. Một bài báo tháng 2 năm 2025 về các cuộc tấn công đảo ngược kích hoạt cho thấy dữ liệu huấn luyện có thể được tái tạo một phần từ các tín hiệu gradient trao đổi trong quá trình huấn luyện liên kết, có nghĩa là bất kỳ sơ đồ nguồn gốc nào yêu cầu chia sẻ gradient cũng làm rò rỉ dữ liệu. Danh sách top mười OWASP LLM năm 2025 đã liệt kê rõ ràng việc đầu độc dữ liệu chuỗi cung ứng là một danh mục không có biện pháp giảm thiểu tiêu chuẩn hóa cho các lần chạy huấn luyện phi tập trung mở.