아이티센클로잇, AI 질문·답변 검사 솔루션 에이전트고 가드 공개

아이티센클로잇이 10월 7일 AI 페스타에서 기업용 보안 솔루션 에이전트고 가드를 공개했다. ZDNet Korea에 따르면 기존 챗봇·RAG·LLM을 교체하지 않고 질문과 답변의 개인정보·유해 콘텐츠를 검사하도록 설계했다. 프롬프트 인젝션·탈옥 탐지와 서비스별 차단 기록 관리를 지원하며, 온프레미스·폐쇄망에도 설치할 수 있다.

질문이 AI에 전달되기 전에 개인정보·금칙어와 안전장치 우회 시도를 검사하고, 생성된 답변도 개인정보 노출·유해 콘텐츠·내부 정책 위반 여부를 검사한다.

관리자는 기업별 금칙어와 보안 기준을 직접 설정할 수 있다.

대시보드에서 서비스별 사용량, 차단 내역, API 호출 기록과 문제 발생 시점을 확인한다.

퍼블릭 클라우드·온프레미스·폐쇄망을 지원하며, 회사의 멀티 에이전트 관리 플랫폼 에이전트고와 연결된다.

부서마다 다른 AI 서비스를 쓰는 기업도 금칙어와 차단 정책을 중앙에서 관리하는 용도로 활용할 수 있다.