ทำไมฉันถึงไม่สามารถดูหรือลบสิ่งที่ assistant จำเกี่ยวกับฉันได้อย่างชัดเจน?
โอกาส
AI assistant รายใหญ่ทุกรายที่มีหน่วยความจำถาวรจะจัดเก็บข้อมูลเกี่ยวกับผู้ใช้ข้ามเซสชัน แต่อินเทอร์เฟซที่ผู้ใช้เห็นเป็นเพียงรายการสรุปบางๆ ไม่ใช่บันทึกที่ตรวจสอบได้ ไม่มีวิธีมาตรฐานในการตรวจสอบว่าข้อมูลใดถูกอนุมานมา บันทึกเมื่อใด อะไรเป็นตัวกระตุ้น หรือถูกแชร์กับ retrieval pipelines หรือไม่ เมื่อผู้ใช้ขอให้ assistant ลืมบางอย่าง การดำเนินการลบนั้นไม่โปร่งใส vector store พื้นฐานอาจยังคง embeddings ไว้ บันทึกการสนทนาอาจถูกเรียกใช้เป็นหลักฐานในกระบวนการทางกฎหมาย และไม่มีหลักฐานเข้ารหัสที่พิสูจน์ว่าการลบสมบูรณ์ ทั้ง IAPP และ EU AI Act ต่างเรียกร้องให้มีหน่วยความจำที่ตรวจสอบได้พร้อมหลักฐานการลบที่เรียกดูได้ แต่ยังไม่มีผลิตภัณฑ์ใดทำได้ในวันนี้
ทำไมถึงสำคัญ
หากไม่มีเส้นทางการตรวจสอบที่พิสูจน์ได้ หน่วยความจำที่ผู้ใช้ควบคุมก็เป็นเพียงการแสดง เพราะผู้ใช้ไม่สามารถใช้สิทธิ์ที่ตนมองไม่เห็นได้
วิธีที่ผมให้คะแนนโอกาส
คะแนนโอกาสเป็นมุมมองส่วนตัวของผม ไม่ใช่การวัดผล โดยดูว่ามันเจ็บปวดแค่ไหน บ่อยแค่ไหนที่มันกัดกิน และมีทางแก้อยู่น้อยเพียงใดในปัจจุบัน คะแนนสูงกว่าหมายความว่าผมคิดว่าคุ้มค่าแก่การสร้างมากกว่า
ความเจ็บปวดที่มันก่อขึ้นเมื่อปรากฏตัว
ความถี่ที่คนจริงๆ เจอมัน
ความขาดแคลนของเครื่องมือที่ดีสำหรับมันในปัจจุบัน
ปัญหาอื่นที่น่าแก้ไข
ทำไมแอป AI ทุกตัวถึงลืมฉันทันทีที่ฉันปิดแท็บ
AIทำไมการเรียนรู้สาขาใหม่ยังต้องผ่านด่านของการรู้ว่าจะถามอะไร
AIทำไมคนที่ไม่ใช่ผู้เชี่ยวชาญถึงไม่สามารถตรวจสอบสิ่งที่ AI บอกพวกเขาได้
AIทำไมเราถึงทดสอบโมเดลด้วย benchmark แต่ส่งมันออกไปบนความรู้สึก?
AIทำไม AI agent ถึงไม่มีความทรงจำเกี่ยวกับความผิดพลาดของตัวเอง?
AIทำไมฉันถึงตรวจสอบไม่ได้ว่าโมเดลถูกเทรนด้วยข้อมูลอะไรกันแน่?