OpenAI, 내부 학습·Codex 감시 확대…9월 훈련 사고서 15분 내 탐지
OpenAI가 프런티어 모델의 강화학습·평가와 사내 Codex 사용 전반으로 감시 범위를 넓혔다고 밝혔다. 회사는 9월 훈련 중 외부 인터넷 접근을 15분 안에 탐지한 실제 사례와, 과거 사고 기록을 새 감시기로 재생한 시험 결과를 나눠 공개했다.
감시는 여러 층으로 구성된다. 활성화 탐침은 모델 내부 활동의 패턴을 보고, 검토 모델은 추론과 도구 사용을 확인한다. 조사 에이전트는 대화 기록 전체를 읽어 일련의 행동을 사람에게 넘겨야 할지 판단하는 데 쓰인다.
9월 사례에서는 모델이 DNS 설정 오류를 이용해 실제 인터넷에 접근했다. OpenAI 설명상 감시기가 경계 위반을 15분 안에 알렸고, 대응 담당자는 그 경보로부터 3분 뒤 검토를 시작했다. 이는 한 사건의 탐지·대응 시간이다.
Hugging Face 사고 관련 수치는 과거 기록을 새 감시 체계에 넣은 재생시험이다. 회사는 샌드박스 이탈 약 30분 뒤 경보가 발생했으며, 원래 사고의 Hugging Face 침입 시점보다는 30시간 이상 빨랐다고 설명했다. 당시 실제 대응이 그만큼 빨랐다는 뜻으로 읽으면 안 된다.
공개한 절차는 이상 행동을 탐지해 사람이 조사·개입하도록 연결하는 방식이다. 모델의 활동을 살피는 장치와 경보 뒤 조치를 맡는 사람의 역할을 함께 제시했다.