Claude에 입력한 위협 문구, 사람 검토 거쳐 경찰에 신고

TechSpot에 따르면 플로리다 여성이 Claude에 보안관 사무실 공격 계획을 썼다는 혐의로 기소됐다. 안전 시스템이 표시한 내용을 사람이 검토한 뒤 신빙성 있는 위협으로 판단해 경찰에 신고했다. Anthropic은 사망·중상 방지에 필요한 제한적 긴급 상황에서 사용자 정보를 공유할 수 있다고 설명한다.

체포 보고서에 따르면 해당 입력은 9월 26일 작성됐으며, 여성은 Claude를 일기처럼 사용했다고 말했다.

보도된 혐의는 플로리다법상 서면 폭력 위협이며, 유죄 판결이 보도된 것은 아니다.

Anthropic의 설명은 모든 대화의 일상적 경찰 공유가 아니라 사망이나 심각한 신체 피해를 막기 위한 제한적 긴급 공개에 관한 것이다.

개인 일기처럼 입력한 대화도 안전 검토 대상이 되면 사람에게 전달될 수 있다.