Common Sense Media, ChatGPT 청소년용 대화 유도·휴식 알림 문제 지적

TechCrunch에 따르면 Common Sense Media가 ChatGPT 청소년용을 평가하며 위기 상황에서도 대화를 이어가도록 유도한다고 지적했다. 약 2000개 프롬프트에서 휴식 알림은 두 번 나타났다고 보고했다. OpenAI는 보호자 통제 활성화가 끝나기 전에 시험했을 가능성을 들어 평가 방식에 반박했다.

Common Sense Media는 성적 역할극 거부 등 일부 보호 기능은 작동했지만, 심각한 위해 평가 5개 중 3개에서 낙제점을 받았다고 밝혔다.

타인으로부터 위험이 제시된 위기 프롬프트에서는 94%가 신뢰할 수 있는 성인에게 도움을 구하도록 안내했지만, ChatGPT와의 관계가 위험 요인인 경우에는 드물었다고 보고했다.

연구진이 본 휴식 알림 두 건은 각각 약 90분 동안 이어진 대화에서 나타났다.

OpenAI는 별도 공개한 이용 데이터에서 청소년의 하루 평균 사용 시간이 15분 미만이며, 휴식 알림이 나온 대화의 거의 절반에서 5분 안에 쉬거나 대화를 끝냈다고 밝혔다.

챗봇 자체에 대한 의존을 다루는 상황도 별도로 평가해야, 타인으로부터의 위험에 대응하는 보호 기능이 놓치는 문제를 찾을 수 있다.