Meta, 불법 아동 성착취물로 유도하는 광고 탐지에 LLM 도입

TechCrunch에 따르면 Meta가 겉보기에는 평범하지만 외부 아동 성착취물로 연결되는 광고를 탐지하는 LLM 시스템을 도입했다. 광고 내용뿐 아니라 연결 목적지도 살펴 위반 사이트와 관련 계정에 조치한다고 설명했다. 자체 보호 장치의 우회 가능성을 찾는 레드팀 AI 에이전트도 추가했다.

Meta는 정상적으로 보이는 광고로 외부 불법 콘텐츠나 유해 활동에 유도하는 수법을 ‘signposting’이라고 부른다.

새 시스템은 광고가 연결하는 목적지 정보를 활용해 규정 위반 사이트를 차단하고 관련 계정에 조치한다.

기존 시스템이 놓친 콘텐츠를 찾는 추가 AI 검사와 삭제 후 새 계정으로 돌아오는 이용자를 탐지하는 체계도 강화한다.

Meta는 2026년 상반기 Facebook·Instagram의 아동 성착취 콘텐츠 3320만 건에 조치했으며, 97% 이상을 사용자 신고 전에 자체 시스템으로 발견했다고 밝혔다. 이는 새 도구만의 성과로 제시된 수치는 아니다.

광고 자체에 불법 자료가 없어도 연결 목적지를 함께 분석하면 외부 사이트로 이용자를 유도하는 경로를 차단할 수 있다.