AI
なぜモデルが実際に何で訓練されたかを監査できないのか？
79
機会
モデルはインターネット全体を吸収したうえで回答するが、ある主張や挙動がどこから来たのかを追跡する方法がない。規制対象の分野や、著作権・バイアスに関する争いにおいて、学習データセットはブラックボックスだ。モデルに何から学んだかを問い、正直な答えを得る実用的な手段は存在しない。
重要な理由
入力が見えないシステムを統治したり、完全に信頼したりすることはできない。
機会をどう評価するか
Opportunity Scoreは測定値ではなく、私自身の見解です。どれほど痛みを伴うか、どれほど頻繁に影響を与えるか、そして今日時点で解決策がいかに少ないか。スコアが高いほど、構築する価値が高いと私は考えています。
深刻度7/10
それが現れたときにどれほどの痛みをもたらすか。
頻度6/10
実際にどれほど頻繁に人々がそれに直面するか。
ホワイトスペース8/10
今日時点で、それに対する優れたツールがいかに少ないか。