Почему текст, сгенерированный моделью с открытым исходным кодом, нельзя надёжно отследить до неё?

Поставщики закрытых моделей могут встраивать статистические водяные знаки в генерируемый текст во время инференса, что позволяет впоследствии атрибутировать контент конкретной модели. Модели с открытым исходным кодом предоставляют пользователям полный доступ к процедуре декодирования, поэтому любой водяной знак, добавленный при генерации, можно удалить, изменив несколько строк кода семплирования. Постфактумная простановка водяных знаков на уже сгенерированном тексте не выдерживает атак перефразирования. Внедрение маркеров в веса модели устойчиво к некоторым атакам, но не к дообучению, которое любой пользователь локальных весов может применить за несколько часов. По состоянию на конец 2025 года ни одна схема не обеспечивает практичной, устойчивой к удалению маркировки происхождения для вывода моделей с открытыми весами, и исследовательское сообщество признаёт, что проблема остаётся нерешённой.