Tại sao văn bản được tạo bởi mô hình mã nguồn mở không thể truy xuất nguồn gốc một cách đáng tin cậy?
Cơ hội
Các nhà cung cấp mô hình đóng có thể nhúng hình mờ thống kê vào văn bản được tạo ra tại thời điểm suy luận, cho phép quy kết nội dung về một mô hình cụ thể sau này. Mô hình mã nguồn mở cho phép người dùng truy cập toàn bộ quy trình giải mã, do đó bất kỳ hình mờ nào được nhúng tại thời điểm tạo đều có thể bị xóa bằng cách sửa vài dòng mã lấy mẫu. Đánh dấu hình mờ hậu kỳ trên văn bản đã được tạo ra không chịu được các cuộc tấn công diễn giải lại. Nhúng dấu hiệu vào trọng số mô hình có thể chống được một số cuộc tấn công nhưng không chống được tinh chỉnh, điều mà bất kỳ ai chạy trọng số cục bộ đều có thể thực hiện trong một buổi chiều. Tính đến cuối năm 2025, chưa có phương án nào cung cấp tính năng đánh dấu nguồn gốc thực tế và khó loại bỏ cho đầu ra từ các mô hình mã nguồn mở, và cộng đồng nghiên cứu thừa nhận vấn đề này vẫn còn bỏ ngỏ.
Tại sao quan trọng
Nếu không có hình mờ cho các mô hình mã nguồn mở, nguồn gốc của văn bản do AI tạo ra chỉ có thể truy xuất khi chính mô hình tạo ra nó chủ động hợp tác.
Cách tôi đánh giá cơ hội
Điểm Cơ Hội là đánh giá riêng của tôi, không phải một phép đo chính xác: mức độ gây khó chịu, tần suất xuất hiện và sự khan hiếm của giải pháp hiện có. Điểm càng cao, tôi càng cho rằng vấn đề đó càng đáng để xây dựng.
Mức độ phiền toái nó gây ra khi xuất hiện.
Tần suất mọi người thực sự gặp phải nó.
Có rất ít công cụ tốt để xử lý nó hiện nay.
Thêm các vấn đề đáng giải quyết
Tại sao mọi ứng dụng AI đều quên tôi ngay khi tôi đóng tab?
AITại sao việc học một lĩnh vực mới vẫn bị chặn bởi việc phải biết hỏi gì?
AITại sao người không chuyên không thể xác minh điều một AI vừa nói với họ?
AITại sao chúng ta kiểm tra mô hình trên các bảng xếp hạng nhưng lại triển khai chúng dựa trên cảm tính?
AITại sao các AI agent không có trí nhớ về lỗi lầm của chính mình?
AITại sao tôi không thể kiểm tra dữ liệu mà một mô hình thực sự được huấn luyện trên đó?