AI
배포된 모델이 내 데이터를 잊게 할 수 없는 이유는 무엇인가요?
85
기회
GDPR 제17조는 저에게 데이터 삭제권을 부여하지만, 일단 모델이 제 데이터로 학습되면 누구도 가중치에서 제 기여분을 효율적으로 제거할 수 없습니다. 현재의 ‘언러닝(unlearning)’ 기법은 중간 표현에 제 정보가 인코딩된 채로 최종 출력층만 억제하거나, 실제 운영 환경에서 대규모로 수행하기 어려운 전체 재학습 과정을 요구합니다. 2026년 6월 arXiv에 게재된 기계학습 공급망에 관한 논문은, 미세 조정 체인 전반에 걸쳐 삭제권이 구조적으로 이행 불가능하다는 사실을 밝혀냈습니다. 기본 모델이 개인 데이터를 바탕으로 추가로 미세 조정될 때마다 법적 권리와 기술적 현실 간의 격차는 더욱 벌어집니다.
왜 중요한가
모델이 단순히 출력 결과를 억누르는 데 그치지 않고 실제로 잊을 수 있게 될 때까지는 법적 삭제 권리는 무의미하다.
기회 평가 방식
기회 점수는 측정값이 아닌 제 주관적 평가입니다. 얼마나 불편한지, 얼마나 자주 발생하는지, 현재 해결책이 얼마나 부족한지를 반영합니다. 점수가 높을수록 만들 가치가 더 높다고 생각합니다.
심각도9/10
발생했을 때 얼마나 큰 불편을 초래하는지.
빈도7/10
실제로 얼마나 자주 접하게 되는지.
공백 영역9/10
현재 이를 해결할 만한 도구가 얼마나 부족한지.