AI
내 어시스턴트가 나에 대해 기억하는 내용을 정확히 확인하거나 삭제할 수 없는 이유는 무엇인가?
85
기회
지속적 메모리를 갖춘 모든 주요 AI 어시스턴트는 세션 전반에 걸쳐 사용자에 대한 사실을 저장하지만, 사용자 대면 인터페이스는 감사 가능한 로그가 아닌 요약의 얇은 목록에 불과하다. 어떤 특정 주장이 언제 추론되었는지, 언제 기록되었는지, 무엇이 그것을 촉발했는지, 또는 검색 파이프라인과 공유되었는지를 검사할 표준적인 방법이 없다. 사용자가 어시스턴트에게 무언가를 잊어달라고 요청할 때 삭제 작업은 불투명하다. 기본 벡터 저장소는 임베딩을 유지할 수 있고, 대화 로그는 법원 명령에 의해 제출이 강제될 수 있으며, 삭제가 완전히 이루어졌다는 암호학적 증명이 없다. IAPP와 EU AI Act 모두 호출 가능한 삭제 증거를 갖춘 감사 가능한 메모리를 요구하지만, 오늘날 이를 제공하는 제품은 없다.
왜 중요한가
검증 가능한 감사 추적 없이는 사용자 제어 메모리가 형식적인 것에 불과한데, 사용자가 관찰할 수 없는 권리는 행사할 수 없기 때문이다.
기회 평가 방식
기회 점수는 측정값이 아닌 제 주관적 평가입니다. 얼마나 불편한지, 얼마나 자주 발생하는지, 현재 해결책이 얼마나 부족한지를 반영합니다. 점수가 높을수록 만들 가치가 더 높다고 생각합니다.
심각도8/10
발생했을 때 얼마나 큰 불편을 초래하는지.
빈도9/10
실제로 얼마나 자주 접하게 되는지.
공백 영역8/10
현재 이를 해결할 만한 도구가 얼마나 부족한지.