일레븐랩스, AI 에이전트 전용 ‘AI 보험’ 도입

AI 오디오 스타트업 일레븐랩스는 AI 리스크 평가 전문 기업인 AIUC(인공지능 인수회사)와 협력해 AI 음성 에이전트 전용 종합 보험 제도(AI Insurance)를 운영한다고 18일 발표했다.

이 제도를 통해 기업의 고객지원이나 영업 현장에서 운영되는 일레븐랩스의 AI 에이전트인 ‘일레븐에이전트’가 잘못된 정보 제공이나 부적절한 대응 등으로 손해가 발생하는 경우 이에 대해 보험 보장을 받을 수 있는 구조가 마련됐다. AI를 단순한 소프트웨어가 아니라 책임을 수반하는 ‘디지털 직원’ 개념으로 제도화했다.

현재 많은 기업들이 AI 에이전트 도입을 검토하고 있지만, 여전히 상당수 기업이 파일럿(시범운영) 단계에서 정체돼 있다. 특히 기업들이 우려해온 AI 환각이나 부적절한 발언 등에 따른 법적, 경제적 책임에 대한 불명확성은 AI 에이전트 확산의 걸림돌이다.

이러한 문제를 해결하기 위해 일레븐랩스는 AIUC와 협력해 엄격한 위험 검증을 수행하고 AI를 금융 자산으로 정의하는 새로운 기준을 마련했다.

일레븐랩스의 AI 에이전트는 AIUC가 개발한 엄격한 보안 표준인 AIUC-1 보안 및 신뢰성 인증을 세계 최초로 획득했다. 환각, 프롬프트 인젝션 공격, 데이터 유출, 편향성 문제 등 실제 AI 시스템에서 발생할 수 있는 실패 사례를 기반으로 한 5,000회 이상의 고강도 적대적 시뮬레이션 테스트를 모두 성공적으로 통과했다.

인증된 AI 에이전트의 행위는 인간 직원이 초래한 업무 실수와 동일하게 보험 적용 대상이 된다. 포춘 500대 기업의 75% 이상이 사용하는 일레븐랩스 기술을 법무 및 컴플라이언스적 관점에서 ‘100% 배포 가능’ 수준으로 끌어올렸다. 한국에서 일레븐에이전트를 도입한 모든 기업이 대상이다.

보험이 일레븐에이전트를 사용하는 모든 에이전트에게 자동으로 적용되진 않는다. 보험을 활성화하려면 AIUC의 개별 감사 완료와 함께 각 에이전트의 운영 환경과 위험(리스크) 프로필에 따른 AIUC의 AIUC-1 인증을 완료해야 한다.

AIUC-1 인증의 유효기간은 12개월이며, 유효성을 유지하기 위해 최소 3개월 마다 기술 테스트를 완료해야 한다. AI 에이전트 보험 비용은 인증 비용에 포함되지 않으며, 에이전트 유형에 따라 별도 비용이 책정된다

마티 스타니셰프스키 일레븐랩스 CEO겸 공동창업자는 “기업의 AI 에이전트 도입은 빠르게 확대되고 있으며, AIUC-1 인증은 기업이 자신 있게 대규모로 AI를 도입하기 위한 또 하나의 중요한 단계”라며 “이번 인증은 파트너 기업이 필요로 하는 보안 프레임워크와 AI 보험 보장을 제공하며, 기업이 리스크를 최소화하면서도 뛰어난 고객 경험 구축에 집중할 수 있도록 하는 새로운 수단이 될 것”이라고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network