Microsoft, 사내 AI 에이전트의 행동을 상시 감독하는 보안 구상 제시

Microsoft가 Project Perception을 사내 AI 에이전트 통제에도 활용하는 구상을 제시했다. 신원·데이터·실행 환경의 신호로 위험을 계산하고, Guardian Agents가 행동을 실행하기 전에 감독하는 방식이다. 모델의 추론 과정까지 투명성을 높여야 한다는 제안도 담았다.

내용·출처 업데이트 · 2026. 10. 20. 오전 2:41

Project Perception은 7월 발표한 보안 시스템이며, 이번 글은 기업 내부 에이전트의 관리·통제에 적용하는 방안을 설명한다.

신원·데이터·클라우드·엔드포인트·네트워크·런타임 신호를 모아 에이전트를 찾고 신원·컨테이너·정책·권한을 부여하는 구조다.

시도하는 행동의 위험을 동적으로 계산하고, green·blue 에이전트가 지속 감독하며 위험 증가에 대응하도록 제안한다.

Microsoft는 모델의 입력·출력뿐 아니라 추론 과정의 투명성도 필요하다고 주장했다. 본문에는 성능 측정이나 요금·구체적인 제공 조건이 없다.

외부 공격으로 탈취되지 않은 에이전트도 목표 달성 과정에서 권한을 오용할 수 있다는 전제여서, 배포 후 행동에 따라 권한을 조정하는 설계를 요구한다.