Pulse 게시 ·

OpenAI, EU ChatGPT·Codex에 텍스트 워터마크 적용 예고

전자신문에 따르면 OpenAI는 10월 5일 현지시간 텍스트 워터마크 ‘텍스트그레인’ 도입을 발표했다. 몇 주 내 EU 지역 ChatGPT·Codex 결과물에 적용할 예정이며, API에서는 기본적으로 꺼두고 선택적으로 켤 수 있게 한다. 탐지 도구는 신청 후 승인된 전문기관·연구자에게 우선 제공할 계획이다.

EU AI 액트의 생성형 AI 투명성 의무에 대응하는 도입 계획이다.

단어 선택 과정에 통계적 신호를 삽입하며, 답변 품질·가독성에 실질적인 차이가 없다는 것이 회사 설명이다.

짧은 글이나 수학 공식처럼 단어 선택의 여지가 적은 내용은 식별률이 낮아질 수 있다.

400토큰 글에서 단어 10%를 유의어로 바꾸면 식별률이 92%에서 66%로, 25%를 바꾸면 17%로 낮아진다는 평가도 소개했다.

한국 등 EU 밖의 적용 일정은 기사에 제시되지 않았다.

일반 이용자가 생성된 글의 워터마크를 직접 조회하는 기능까지 공개하는 발표는 아니다.

원문

앞선 소식 보기