AI
なぜモデルが実際に何で訓練されたかを監査できないのか？
79
Opportunity
モデルはインターネット全体を吸収したうえで回答するが、ある主張や挙動がどこから来たのかを追跡する方法がない。規制対象の分野や、著作権・バイアスに関する争いにおいて、学習データセットはブラックボックスだ。モデルに何から学んだかを問い、正直な答えを得る実用的な手段は存在しない。
Why it matters
入力が見えないシステムを統治したり、完全に信頼したりすることはできない。
機会をどう評価するか
The Opportunity Score is my own read, not a measurement: how much it hurts, how often it bites, and how little exists to solve it today. Higher means I think it is more worth building.
深刻度7/10
How much pain it causes when it shows up.
頻度6/10
How often people actually run into it.
ホワイトスペース8/10
How little good tooling exists for it today.