Warum lässt sich von einem Open-Source-Modell generierter Text nicht zuverlässig auf dieses zurückführen?

Anbieter geschlossener Modelle können beim Inferenzieren statistische Wasserzeichen in den generierten Text einbetten, sodass Inhalte nachträglich einem bestimmten Modell zugeordnet werden können. Open-Source-Modelle geben Nutzern vollen Zugriff auf den Dekodierungsprozess, weshalb jedes zur Generierungszeit eingebettete Wasserzeichen durch die Änderung weniger Zeilen Sampling-Code entfernt werden kann. Nachträgliches Wasserzeichnen von bereits generiertem Text versagt bei Paraphrasierungsangriffen. Das Einbetten von Markierungen in Modellgewichte übersteht einige Angriffe, aber kein Fine-Tuning, das jeder, der lokale Gewichte betreibt, an einem Nachmittag durchführen kann. Stand Ende 2025 bietet kein Verfahren eine praktische, entfernungsresistente Herkunftskennzeichnung für die Ausgaben von Open-Weights-Modellen, und die Forschungsgemeinschaft erkennt an, dass das Problem weiterhin offen ist.