KISA, AI 서비스 레드팀 점검 기업 20곳 모집

한국인터넷진흥원(KISA)이 인공지능(AI) 모델과 서비스의 잠재 취약점을 찾기 위해 ‘AI 레드팀 모의해킹 수행 및 취약점 발굴 지원’ 사업에 참여할 기업을 오는 30일까지 모집한다. 이번 사업은 KISA가 주관하며, 실제 사업 수행은 에임인텔리전스 컨소시엄과 NSHC가 맡는다.

이번 사업은 국민 접근성이 높은 AI 모델과 서비스를 대상으로 한다. 서비스 출시 이후 발생할 수 있는 보안 문제를 사전에 점검하고 사업자의 보안 조치를 지원하는 것이 목적이다.

지원 대상은 AI 모델과 서비스 관련 중견기업, 중소기업, 비영리법인이다. KISA는 고영향 인공지능 여부, 국내 이용자 현황, 독자 파운데이션 모델 개발 여부 등을 고려해 지원 대상을 선정할 예정이다. 지원 규모는 20개 사업자다. 비용은 무료다.

AI 레드팀은 공격자 관점에서 AI 시스템을 점검하는 방식이다. 기존 모의해킹이 서버, 웹사이트, 네트워크 취약점 확인에 초점을 둔다면 AI 레드팀은 AI 모델과 서비스가 잘못된 지시를 수행하거나 민감정보를 노출할 가능성까지 함께 살핀다.

점검 절차는 접수와 적격심사, 일정 협의, AI 레드팀 모의해킹 수행, 조치 지원, 이행점검 순으로 진행된다. 외부자 시나리오는 1주간 원격점검 방식으로 진행한다. 내부자 시나리오는 1주간 현장점검 방식으로 이뤄진다. 점검 기간은 기업 규모와 점검 방법에 따라 달라질 수 있다. 참여를 원하는 사업자는 상생누리 홈페이지를 통해 신청서와 개인정보 수집·이용 동의서, 개인정보 처리업무 위탁 확인서, 서비스 소개자료 등을 제출하면 된다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network