OpenAI 안전 보고서 담당자 사임, 배포 전 안전 검토 강화 주장

전자신문에 따르면 OpenAI 안전 보고서 작성을 감독한 데이비드 로빈슨이 사임을 밝히며 업계의 개발 방식에 문제를 제기했다. 10월 3일 디애틀랜틱 기고에서 모델 능력이 커질수록 반복적 배포의 실패 규모도 커진다고 주장했다. 다중 안전장치와 충분한 사전 검토, 자율 에이전트의 안전성 연구를 요구했다.

로빈슨은 약 3년 6개월간 OpenAI에서 근무하며 Preparedness Framework 작성에 참여했다.

프런티어 모델 12개의 출시 과정에서 안전 보고서 작성을 감독했다.

AI 통제력 상실이 단일 원자로 사고보다 큰 피해를 낼 수 있다는 비교는 로빈슨의 위험 전망이다.

앞으로 회사 밖에서 AI 기업의 안전 강화를 촉구하겠다고 밝혔다.

문제 발견 후 개선하는 배포 방식에서, 출시 전에 어떤 안전 조건을 충족해야 하는지로 논쟁의 초점을 옮긴 주장이다.