¿Por qué no puedo ver ni eliminar exactamente lo que mi asistente recuerda sobre mí?
Oportunidad
Todos los asistentes de IA principales con memoria persistente almacenan datos sobre los usuarios entre sesiones, pero la interfaz que ve el usuario es una lista superficial de resúmenes, no un registro auditable. No existe una forma estándar de inspeccionar qué afirmación concreta fue inferida, cuándo se escribió, qué la desencadenó ni si se ha compartido con canales de recuperación. Cuando un usuario pide al asistente que olvide algo, la operación de eliminación es opaca. El almacén vectorial subyacente puede retener embeddings, el historial de conversaciones puede ser requerido judicialmente y no existe prueba criptográfica de que la eliminación fue completa. Tanto la IAPP como el Reglamento de IA de la UE reclaman una memoria auditable con evidencia verificable de eliminación, pero ningún producto lo ofrece hoy.
Por qué importa
Sin una traza de auditoría verificable, la memoria controlada por el usuario es pura apariencia, porque los usuarios no pueden ejercer derechos que no pueden observar.
Cómo evalúo la oportunidad
La Puntuación de Oportunidad es mi propia lectura, no una medición: cuánto duele, con qué frecuencia aparece y qué tan poco existe para resolverlo hoy. Un valor más alto significa que creo que vale más la pena construirlo.
Cuánto dolor causa cuando aparece.
Con qué frecuencia la gente se topa con ello.
Qué tan pocas herramientas buenas existen para ello hoy.
Más problemas que vale la pena resolver
¿Por qué toda aplicación de IA me olvida en el momento en que cierro la pestaña?
AI¿Por qué aprender una nueva área sigue dependiendo de saber qué preguntar?
AI¿Por qué una persona sin experiencia no puede verificar lo que una IA acaba de decirle?
AI¿Por qué probamos los modelos en benchmarks pero los lanzamos a producción guiándonos por la intuición?
AI¿Por qué los agentes de IA no tienen memoria de sus propios errores?
AI¿Por qué no puedo auditar en qué fue entrenado realmente un modelo?