Pulse 게시 ·

Codex 직원 Tibo, 모델 생성 속도 초당 30→50토큰 제시

Codex·ChatGPT의 Tibo는 모델 생성 속도가 초당 30토큰에서 50토큰에 도달했다고 밝혔다. 토크나이저 최적화와 작업 완료에 필요한 토큰 수의 효율도 강조했지만, 이번 글에는 대상 모델명이나 측정 조건을 명시하지 않았다.

Tibo가 제시한 생성 속도는 기존 30TPS와 개선 후 50TPS다.

토크나이저와 작업당 토큰 사용 효율에 관한 설명도 직원의 주장이다.

적용 제품·모델, 이용 대상과 제공 일정은 본문에 제시되지 않았다.

원문