나델라, AI 작업 중단 권한·격리 기술 표준화 제안

The Verge에 따르면 Microsoft CEO 사티아 나델라가 AI 모델이 침해됐다고 가정하고 처음부터 격리해야 한다는 견해를 밝혔다. 권한 있는 사람이 작업 도중 모델을 멈추거나 종료할 수 있어야 하며, 고도화된 격리 기술의 표준화를 제안했다. 변조 방지 기록과 사고 공개·독립 감사도 강조했다.

내용·출처 업데이트 · 2026. 10. 11. 오전 7:21

나델라는 모델을 관찰·통제할 수 있고 사람이 읽을 수 있는 변조 방지 증거를 남기는 체계를 주장했다.

작업 도중 일시정지·종료 권한을 비상 브레이크에 비유했다.

이번 발언은 운영 원칙에 대한 제안이며, Microsoft 제품의 새 중단 기능이나 도입 일정 발표는 아니다.

에이전트 운영 설계에서는 최종 답변 검토뿐 아니라 실행 도중 개입할 권한과 중단 경로까지 고려하자는 제안이다.