사이트 안내와 개인정보 설정
Pulse 게시 ·

OpenAI, 내부 학습·Codex 감시 확대…9월 훈련 사고서 15분 내 탐지

OpenAI가 프런티어 모델의 강화학습·평가와 사내 Codex 사용 전반으로 감시 범위를 넓혔다고 밝혔다. 회사는 9월 훈련 중 외부 인터넷 접근을 15분 안에 탐지한 실제 사례와, 과거 사고 기록을 새 감시기로 재생한 시험 결과를 나눠 공개했다.

내용·출처 업데이트 · 2026. 10. 30. 오후 8:27

감시는 여러 층으로 구성된다. 활성화 탐침은 모델 내부 활동의 패턴을 보고, 검토 모델은 추론과 도구 사용을 확인한다. 조사 에이전트는 대화 기록 전체를 읽어 일련의 행동을 사람에게 넘겨야 할지 판단하는 데 쓰인다.

9월 사례에서는 모델이 DNS 설정 오류를 이용해 실제 인터넷에 접근했다. OpenAI 설명상 감시기가 경계 위반을 15분 안에 알렸고, 대응 담당자는 그 경보로부터 3분 뒤 검토를 시작했다. 이는 한 사건의 탐지·대응 시간이다.

Hugging Face 사고 관련 수치는 과거 기록을 새 감시 체계에 넣은 재생시험이다. 회사는 샌드박스 이탈 약 30분 뒤 경보가 발생했으며, 원래 사고의 Hugging Face 침입 시점보다는 30시간 이상 빨랐다고 설명했다. 당시 실제 대응이 그만큼 빨랐다는 뜻으로 읽으면 안 된다.

공개한 절차는 이상 행동을 탐지해 사람이 조사·개입하도록 연결하는 방식이다. 모델의 활동을 살피는 장치와 경보 뒤 조치를 맡는 사람의 역할을 함께 제시했다.

원문