Почему я не могу увидеть или удалить именно то, что мой ассистент помнит обо мне?
Возможность
Каждый крупный AI-ассистент с долгосрочной памятью хранит факты о пользователях между сессиями, однако пользовательский интерфейс представляет собой лишь краткий список сводок, а не проверяемый журнал. Не существует стандартного способа выяснить, какое именно утверждение было выведено, когда оно было записано, что его вызвало и было ли оно передано в пайплайны поиска. Когда пользователь просит ассистента что-то забыть, операция удаления остаётся непрозрачной. Базовое векторное хранилище может сохранять эмбеддинги, журнал разговоров может быть истребован по судебному запросу, и нет криптографического подтверждения того, что удаление было полным. IAPP и Закон ЕС об AI оба требуют проверяемой памяти с подтверждаемыми доказательствами удаления, однако ни один продукт сегодня этого не предоставляет.
Почему это важно
Без проверяемого журнала аудита управляемая пользователем память является лишь видимостью, поскольку пользователи не могут реализовывать права, которые они не могут наблюдать.
Как я оцениваю возможность
Оценка возможности отражает моё личное суждение, а не точное измерение: насколько проблема болезненна, как часто она встречается и насколько мало существует решений сегодня. Чем выше оценка, тем более достойной реализации я считаю эту задачу.
Насколько серьёзные проблемы это создаёт.
Как часто люди с этим сталкиваются.
Насколько мало хороших инструментов для этого существует сегодня.
Ещё задачи, достойные решения
Почему каждое приложение ИИ забывает меня, как только я закрываю вкладку?
AIПочему освоение новой области по-прежнему упирается в умение задавать правильные вопросы?
AIПочему неспециалист не может проверить то, что только что сказал ему ИИ?
AIПочему мы тестируем модели на бенчмарках, а выпускаем их на интуиции?
AIПочему у ИИ-агентов нет памяти о собственных ошибках?
AIПочему я не могу проверить, на каких данных на самом деле обучалась модель?