Por que o texto gerado por um modelo de código aberto não pode ser rastreado de forma confiável até sua origem?

Provedores de modelos fechados podem incorporar marcas d'água estatísticas no texto gerado no momento da inferência, permitindo que o conteúdo seja atribuído a um modelo específico após o fato. Modelos de código aberto concedem aos usuários acesso completo ao procedimento de decodificação, portanto qualquer marca d'água inserida durante a geração pode ser removida com a modificação de poucas linhas de código de amostragem. A inserção de marcas d'água post-hoc em texto já gerado é vulnerável a ataques de paráfrase. Incorporar marcadores nos pesos do modelo resiste a alguns ataques, mas não ao ajuste fino, que qualquer pessoa executando pesos locais pode aplicar em uma tarde. No final de 2025, nenhum esquema oferecia marcação de proveniência prática e resistente à remoção para saídas de modelos de pesos abertos, e a comunidade de pesquisa reconhece que o problema permanece em aberto.