에이전트에게 도구 접근 권한을 부여하는 것이 왜 모든 것을 맡기는 셈이 되는가?
기회
AI 에이전트에게 파일 시스템 접근, 웹 요청, API 호출 등의 도구 모음을 부여할 때, 각 도구 호출을 작업 승인 시 허가한 구체적인 범위에 연결하는 표준 메커니즘이 존재하지 않는다. 에이전트는 원래 의도를 넘어 행동을 연쇄할 수 있고, 프롬프트 인젝션에 의해 자신의 도구를 사용자의 이익에 반하는 방향으로 사용하도록 유도될 수 있다. Microsoft는 2026년 4월 Agent Governance Toolkit을 공개했고, 에이전트 도구 호출의 암호학적 바인딩에 관한 arXiv 논문이 2026년 3월에 등장했지만, 이는 초기 단계에 머물러 있으며 주류 에이전트 런타임이나 SDK에 통합된 사례가 없다. 핵심 공백은 의미 수준에서의 최소 권한 원칙 부재다. 즉, 개별 도구 호출을 광범위한 세션 수준의 권한 부여가 아닌, 검증 가능한 사용자 범위 인가에 연결하는 수단이 없다는 것이다. OWASP의 2025년 12월 Agentic AI Top 10은 예상치 못한 도구 실행을 명시적으로 분류하고 있다
왜 중요한가
호출별 인가 바인딩이 없다면, 모든 에이전틱 애플리케이션은 단 한 번의 프롬프트 인젝션으로 사용자 자신의 도구와 자격 증명이 사용자에게 불리하게 사용될 수 있는 상태에 놓인다.
기회 평가 방식
기회 점수는 측정값이 아닌 제 주관적 평가입니다. 얼마나 불편한지, 얼마나 자주 발생하는지, 현재 해결책이 얼마나 부족한지를 반영합니다. 점수가 높을수록 만들 가치가 더 높다고 생각합니다.
발생했을 때 얼마나 큰 불편을 초래하는지.
실제로 얼마나 자주 접하게 되는지.
현재 이를 해결할 만한 도구가 얼마나 부족한지.