Skip to content
AI

ทำไมฉันถึงไม่สามารถดูหรือลบสิ่งที่ assistant จำเกี่ยวกับฉันได้อย่างชัดเจน?

85

โอกาส

AI assistant รายใหญ่ทุกรายที่มีหน่วยความจำถาวรจะจัดเก็บข้อมูลเกี่ยวกับผู้ใช้ข้ามเซสชัน แต่อินเทอร์เฟซที่ผู้ใช้เห็นเป็นเพียงรายการสรุปบางๆ ไม่ใช่บันทึกที่ตรวจสอบได้ ไม่มีวิธีมาตรฐานในการตรวจสอบว่าข้อมูลใดถูกอนุมานมา บันทึกเมื่อใด อะไรเป็นตัวกระตุ้น หรือถูกแชร์กับ retrieval pipelines หรือไม่ เมื่อผู้ใช้ขอให้ assistant ลืมบางอย่าง การดำเนินการลบนั้นไม่โปร่งใส vector store พื้นฐานอาจยังคง embeddings ไว้ บันทึกการสนทนาอาจถูกเรียกใช้เป็นหลักฐานในกระบวนการทางกฎหมาย และไม่มีหลักฐานเข้ารหัสที่พิสูจน์ว่าการลบสมบูรณ์ ทั้ง IAPP และ EU AI Act ต่างเรียกร้องให้มีหน่วยความจำที่ตรวจสอบได้พร้อมหลักฐานการลบที่เรียกดูได้ แต่ยังไม่มีผลิตภัณฑ์ใดทำได้ในวันนี้

ทำไมถึงสำคัญ

หากไม่มีเส้นทางการตรวจสอบที่พิสูจน์ได้ หน่วยความจำที่ผู้ใช้ควบคุมก็เป็นเพียงการแสดง เพราะผู้ใช้ไม่สามารถใช้สิทธิ์ที่ตนมองไม่เห็นได้

วิธีที่ผมให้คะแนนโอกาส

คะแนนโอกาสเป็นมุมมองส่วนตัวของผม ไม่ใช่การวัดผล โดยดูว่ามันเจ็บปวดแค่ไหน บ่อยแค่ไหนที่มันกัดกิน และมีทางแก้อยู่น้อยเพียงใดในปัจจุบัน คะแนนสูงกว่าหมายความว่าผมคิดว่าคุ้มค่าแก่การสร้างมากกว่า

ความรุนแรง8/10

ความเจ็บปวดที่มันก่อขึ้นเมื่อปรากฏตัว

ความถี่9/10

ความถี่ที่คนจริงๆ เจอมัน

ช่องว่าง8/10

ความขาดแคลนของเครื่องมือที่ดีสำหรับมันในปัจจุบัน

ปัญหาอื่นที่น่าแก้ไข