Почему я не могу заставить развернутую модель «забыть» мои данные?
Возможность
Статья 17 GDPR предоставляет мне право на удаление данных, но как только модель обучена на моих данных, никто не может эффективно удалить мой вклад из весов. Существующие методы «разучивания» либо подавляют выходной слой, оставляя мою информацию закодированной в промежуточных представлениях, либо требуют полного повторного обучения, которое ни один оператор в производственной среде не будет проводить в масштабах реального использования. В статье, опубликованной в июне 2026 года на arXiv и посвящённой цепочкам поставок в области машинного обучения, делается вывод, что право на удаление данных структурно нереализуемо в цепочках тонкой настройки. Разрыв между юридическим правом и технической реальностью увеличивается каждый раз, когда базовая модель подвергается дальнейшей тонкой настройке на основе персональных данных.
Почему это важно
Права на удаление данных не имеют смысла до тех пор, пока модель не сможет действительно «забывать», а не просто подавлять свои результаты.
Как я оцениваю возможность
Оценка возможности отражает моё личное суждение, а не точное измерение: насколько проблема болезненна, как часто она встречается и насколько мало существует решений сегодня. Чем выше оценка, тем более достойной реализации я считаю эту задачу.
Насколько серьёзные проблемы это создаёт.
Как часто люди с этим сталкиваются.
Насколько мало хороших инструментов для этого существует сегодня.
Ещё задачи, достойные решения
Почему каждое приложение ИИ забывает меня, как только я закрываю вкладку?
AIПочему освоение новой области по-прежнему упирается в умение задавать правильные вопросы?
AIПочему неспециалист не может проверить то, что только что сказал ему ИИ?
AIПочему мы тестируем модели на бенчмарках, а выпускаем их на интуиции?
AIПочему у ИИ-агентов нет памяти о собственных ошибках?
AIПочему я не могу проверить, на каких данных на самом деле обучалась модель?