AI
AIがウェブにより多くのコンテンツを書くにつれて、今日のウェブで訓練されたモデルはなぜ徐々に劣化するのか？
82
機会
ウェブは現在、フロンティアモデルの主要なトレーニングコーパスとなっており、どのデプロイ済みフィルターも確実に検出できないAI生成テキストがすでに飽和している。2024年から2026年にかけて発表された研究によると、トレーニングランに含まれる合成データがわずか数パーセント未満であっても、世代を重ねるごとに分布崩壊を引き起こし、出力の多様性を狭め、テールパフォーマンスを低下させることが示されている。フィードバックループは構造的なものだ。今年訓練されたモデルは、来年のトレーニングランのコーパスを汚染するコンテンツを生成する。ソースレベルのアローリスト、ウォーターマークフィルター、合成データ検証器などの提案された緩和策はそれぞれバイパスの手段があり、ウェブクローラースケールで導入されたものは何もない。AIが生成したトレーニングデータをモデルに取り込まれる前に特定し隔離するための合意されたプロトコルは存在しない。
重要な理由
共有学習コーパスの質低下は、公開データで構築されたすべてのモデルに上限を設け、その上限は世代を重ねるごとに低くなっていく。
機会をどう評価するか
Opportunity Scoreは測定値ではなく、私自身の見解です。どれほど痛みを伴うか、どれほど頻繁に影響を与えるか、そして今日時点で解決策がいかに少ないか。スコアが高いほど、構築する価値が高いと私は考えています。
深刻度8/10
それが現れたときにどれほどの痛みをもたらすか。
頻度8/10
実際にどれほど頻繁に人々がそれに直面するか。
ホワイトスペース8/10
今日時点で、それに対する優れたツールがいかに少ないか。