Anthropic, 임박한 대규모 AI 위험에 법원 중단 명령 제안

Anthropic이 고위험 AI의 출시·사용 중단과 외부 안전평가를 규정한 법안 초안을 미 의회에 비공식 제안했다고 ZDNet Korea가 전했다. 특정 AI 위험으로 10억달러 초과 재산 피해나 50명 초과 사망·중상이 임박하면 상무부 요청에 따라 법원이 중단을 결정하는 구상이다. 통과된 법률은 아니다.

내용·출처 업데이트 · 2026. 10. 18. 오후 3:11

보도에 따르면 초안의 위험 원인은 생물학 무기 제작·방출, 개발자 통제 이탈, 사이버공격의 세 가지다.

해당 위험 중 하나와 정해진 규모의 피해가 임박했다는 조건을 함께 충족해야 정부가 개입할 수 있다.

상무부가 중단을 요청하면 컬럼비아특별구 연방지방법원 판사가 중단 명령을 내릴 수 있도록 제안했다.

상무부 등록 외부 평가기관이 연구소와 모델을 정기 점검하고, 임박한 위험을 확인하면 평가 종료 후 72시간 안에 상무부에 알리도록 했다.

연구소가 평가 비용을 부담할 수 있지만 평가 결과에 따라 보수가 달라지는 것은 금지하는 내용이다.

초안은 정부의 중단 권한을 상무부의 요청과 법원 판단으로 제한하면서, 개발사에는 안전시험과 결과 공개 의무를 부과한다.