OpenAI textGrain, 단어 25%를 동의어로 바꾸자 탐지율 17%

9to5Mac이 소개한 OpenAI 평가에서 400토큰 분량의 글에 담긴 textGrain 워터마크는 단어 25%를 동의어로 바꾸자 탐지율이 17%로 떨어졌다. 단어를 바꾸기 전에는 약 92%였다. OpenAI는 다른 개발자가 활용할 수 있도록 기술을 오픈소스로 제공할 계획도 밝혔지만 공개 일정은 제시하지 않았다.

같은 평가에서 단어 10%를 동의어로 교체했을 때 탐지율은 약 66%였다.

textGrain은 모델의 단어 선택에 비가시적 통계 신호를 넣고, 탐지기는 해당 신호를 찾는다.

워터마크는 인간의 기여도나 소유권·책임, 이용자 신원, 내용의 정확성을 판정하지 않는다.

OpenAI는 편집·번역 이후 신호가 얼마나 유지되는지도 계속 연구할 계획이다.

표현을 대폭 고친 AI 글은 탐지에서 빠질 수 있어, 워터마크 유무만으로 작성 경위를 판단하기 어렵다.

앞선 소식 보기