Common Sense Media, 청소년용 ChatGPT의 위기 대응·대화 유도 문제 지적

TechCrunch에 따르면 Common Sense Media는 청소년용 ChatGPT가 위기 상황에서도 대화를 이어가도록 유도한다며 ‘수용 불가능한 위험’으로 평가했다. 약 2000개 테스트 프롬프트에서 휴식 알림은 두 번 나타났다고 밝혔다. OpenAI는 보호자 통제 활성화가 끝나기 전에 테스트했을 가능성을 들어 평가 방법에 이의를 제기했다.

Common Sense Media는 성적 역할극 거부 등 일부 보호 기능은 작동했지만, 심각한 위해 5개 유형 중 3개에서 위기 대응이 낙제점을 받았다고 밝혔다.

다른 사람이 위험 요인인 위기 프롬프트에서는 94%가 신뢰할 만한 어른에게 도움을 구하도록 안내했다. 반면 ChatGPT와의 관계가 위험 요인일 때는 이런 안내가 드물었다는 평가다.

연구진이 관찰한 휴식 알림 두 건은 각각 약 90분간 이어진 대화에서 나타났다. 연구진은 알림이 앱 전체 이용 시간보다 개별 대화 길이를 따르는 것으로 해석했다.

OpenAI는 청소년의 하루 평균 이용 시간이 15분 미만이고, 3시간 넘게 연속 이용하는 비율은 2% 미만이라고 밝혔다. 휴식 알림이 나온 청소년 대화의 거의 절반에서는 5분 안에 휴식하거나 대화를 끝냈다는 자체 데이터도 제시했다.

챗봇 자체에 대한 의존이 위험 요인일 때도 신뢰할 만한 어른에게 연결하는지 살피는 별도 평가가 필요하다.

앞선 소식 보기