AI
모델이 실제로 무엇으로 학습했는지 왜 감사할 수 없을까요?
79
기회
모델은 인터넷 전체를 흡수한 뒤 답변하지만, 어떤 주장이나 행동이 어디서 비롯됐는지 추적할 방법이 없습니다. 규제 대상이거나 저작권·편향성과 관련된 분쟁이 생기면 훈련 데이터셋은 블랙박스입니다. 모델에게 무엇을 학습했는지 물어보고 솔직한 답변을 얻을 실질적인 방법이 없습니다.
왜 중요한가
입력값이 보이지 않는 시스템은 통제할 수도, 완전히 신뢰할 수도 없습니다.
기회 평가 방식
기회 점수는 측정값이 아닌 제 주관적 평가입니다. 얼마나 불편한지, 얼마나 자주 발생하는지, 현재 해결책이 얼마나 부족한지를 반영합니다. 점수가 높을수록 만들 가치가 더 높다고 생각합니다.
심각도7/10
발생했을 때 얼마나 큰 불편을 초래하는지.
빈도6/10
실제로 얼마나 자주 접하게 되는지.
공백 영역8/10
현재 이를 해결할 만한 도구가 얼마나 부족한지.