Waarom is tekst gegenereerd door een open-source model niet betrouwbaar terug te voeren naar dat model?

Aanbieders van gesloten modellen kunnen statistische watermerken in gegenereerde tekst inbedden op het moment van inferentie, waardoor inhoud achteraf aan een specifiek model kan worden toegeschreven. Open-source modellen geven gebruikers volledige toegang tot de decoderingsprocedure, zodat elk generatietijdwatermerk kan worden verwijderd door een paar regels samplingcode aan te passen. Achteraf watermerken van reeds gegenereerde tekst bezwijkt onder parafraseringsaanvallen. Markers inbedden in modelgewichten overleeft sommige aanvallen, maar niet fine-tuning, wat iedereen met lokale gewichten in een middagje kan toepassen. Vanaf eind 2025 bestaat er geen methode die praktische, verwijderingsbestendige herkomstmarkering biedt voor uitvoer van open-gewichtsmodellen, en de onderzoeksgemeenschap erkent dat het probleem nog steeds open staat.