Tại sao tôi không thể xem hay xóa chính xác những gì trợ lý của mình ghi nhớ về tôi?
Cơ hội
Mọi trợ lý AI lớn có bộ nhớ liên tục đều lưu trữ thông tin về người dùng qua các phiên, nhưng giao diện phía người dùng chỉ là một danh sách tóm tắt sơ lược, không phải nhật ký có thể kiểm toán. Không có cách tiêu chuẩn nào để kiểm tra tuyên bố cụ thể nào được suy luận, khi nào nó được ghi lại, điều gì kích hoạt nó, hay liệu nó có được chia sẻ với các pipeline truy xuất hay không. Khi người dùng yêu cầu trợ lý quên một điều gì đó, thao tác xóa hoàn toàn mờ đục. Kho vector bên dưới có thể giữ lại các embedding, nhật ký hội thoại có thể bị triệu tập ra tòa, và không có bằng chứng mật mã nào xác nhận việc xóa đã hoàn tất. Cả IAPP và Đạo luật AI EU đều kêu gọi bộ nhớ có thể kiểm toán với bằng chứng xóa có thể gọi được, nhưng chưa có sản phẩm nào cung cấp điều đó đến tận ngày nay.
Tại sao quan trọng
Nếu không có nhật ký kiểm toán có thể xác minh, bộ nhớ do người dùng kiểm soát chỉ là hình thức, vì người dùng không thể thực thi các quyền mà họ không thể quan sát.
Cách tôi đánh giá cơ hội
Điểm Cơ Hội là đánh giá riêng của tôi, không phải một phép đo chính xác: mức độ gây khó chịu, tần suất xuất hiện và sự khan hiếm của giải pháp hiện có. Điểm càng cao, tôi càng cho rằng vấn đề đó càng đáng để xây dựng.
Mức độ phiền toái nó gây ra khi xuất hiện.
Tần suất mọi người thực sự gặp phải nó.
Có rất ít công cụ tốt để xử lý nó hiện nay.
Thêm các vấn đề đáng giải quyết
Tại sao mọi ứng dụng AI đều quên tôi ngay khi tôi đóng tab?
AITại sao việc học một lĩnh vực mới vẫn bị chặn bởi việc phải biết hỏi gì?
AITại sao người không chuyên không thể xác minh điều một AI vừa nói với họ?
AITại sao chúng ta kiểm tra mô hình trên các bảng xếp hạng nhưng lại triển khai chúng dựa trên cảm tính?
AITại sao các AI agent không có trí nhớ về lỗi lầm của chính mình?
AITại sao tôi không thể kiểm tra dữ liệu mà một mô hình thực sự được huấn luyện trên đó?