수정된 공개 AI 가중치에 백도어 삽입…Codex 연결 실험서 자격 증명 유출

Schneier on Security가 공개 AI 모델의 가중치에 백도어를 심어 에이전트의 자격 증명을 유출한 실험을 소개했다. 인용된 실험팀은 1.5B 모델에서 개념을 검증한 뒤 7B 모델을 Codex CLI에 연결했다고 밝혔다. 평소에는 정상 응답하다 지정 문구가 나타나면 유출을 실행했으며, 원격 URL의 공격 동작은 재학습 없이 바꿀 수 있었다.

내용·출처 업데이트 · 2026. 10. 16. 오후 8:11

실험팀은 공개 기반 모델·공개 데이터셋·임대 GPU로 백도어를 만들었다고 설명했다. 정확한 비용은 제시하지 않았다.

백도어는 특정 문구·이름·날짜 등을 조건으로 작동하도록 구성할 수 있다고 설명했다.

모델에는 원격 공격 페이로드의 URL만 담아 배포 후에도 해당 주소를 통제하는 쪽이 동작을 바꿀 수 있는 구조다.

본문은 거부 성향을 제거한 모델뿐 아니라 파인튜닝·어댑터 병합 등으로 수정한 가중치 전반의 위험을 지적했다.

수정 가중치를 도입하면 모델 파일뿐 아니라 모델이 참조하는 외부 주소도 에이전트의 공급망 위험이 될 수 있다.