OpenAI, 청소년 무기 정보 제한 강화…안전 보고서는 2027년 첫 공개
OpenAI가 ChatGPT의 18세 미만 이용자에게 제공하는 무기 관련 정보 제한을 강화한다고 발표했다. 전체 이용자에 대한 과거 대규모 공격의 세부 묘사도 줄이고, 폭력 위험에 대응하는 보호 조치를 앞으로 몇 주에 걸쳐 도입한다. 첫 커뮤니티 안전 보고서는 2027년 초 공개할 계획이다.
청소년에게는 폭력 의도가 드러나지 않은 질문에도 무기·보안 시스템의 실용 정보를 더 제한한다. 기존에 금지한 폭력 실행 지원과 무기 구입 지원에서 보호 범위를 넓히는 조치다. 피해 예방·상황 완화·도움 요청에 관한 대화는 계속 지원한다고 밝혔다.
모든 연령의 이용자에게 적용하는 변화도 있다. 과거 대규모 공격을 재구성하는 세부 정보와 가해자의 악명을 키울 수 있는 피해 규모의 상세 비교를 줄인다. 사건과 피해 공동체를 이해하거나 경고 신호·예방법을 배우는 질문은 계속 허용한다는 설명이다.
회사는 최근 대화에서 폭력 위험 신호가 나타나면 더 보수적으로 응답하도록 개선하고 있다. 폭력에 집착하는 흐름의 대화를 자동 종료하고, 그런 종료가 반복될 때 계정을 일시 중지하는 방안도 개발 중이다. 관련 보호 조치는 앞으로 몇 주 동안 도입을 시작할 예정이어서 모두 이미 작동하는 기능으로 읽어서는 안 된다.
커뮤니티 안전 보고서는 2026년 하반기를 다룬 첫 호를 2027년 초 내고 이후 6개월마다 갱신한다. 익명 사례와 관련 데이터, 탐지·검토·대응 절차를 공개할 계획이다. OpenAI는 2026년 3분기에 법 집행기관으로 200건 넘게 정보를 전달했다고 밝혔지만, 이는 회사가 집계한 전달 건수이며 같은 수의 범죄를 막았다는 성과 수치는 아니다.
원문
- Community safety report and new protections for teensOpenAI · 원문 2026-10-30