피지컬 AI 시장 문 두드리는 국내 보안 기업들
인공지능(AI)이 로봇과 자동차, 산업설비를 직접 움직이는 ‘피지컬 AI’로 확장되면서 국내 보안기업들도 관련 시장에 발을 들이고 있다. 기업들은 기존에 확보한 AI 보안과 인증, 산업제어시스템, 자동차 사이버보안 기술을 활용해 모델과 로봇 행동을 검증하거나 신원·권한을 관리하고, 센서부터 제어기까지 시스템 전체를 점검하고 있다.
피지컬 AI는 카메라와 센서로 주변 환경을 인식한 뒤 로봇·차량·선박 등 기계를 움직이는 AI를 말한다. AI 모델과 센서, 통신망, 제어기, 모터가 하나로 연결되기 때문에 공격이나 판단 오류가 충돌과 장비 파손 같은 물리적 사고로 이어질 수 있어, 보안이 더욱 중요하다.
AI의 잘못된 판단, 로봇이 행동으로 옮기기 전에 차단
피지컬 AI에서는 AI의 판단과 로봇의 행동 사이에 별도의 안전장치가 필요하다. 외부 공격뿐 아니라 모델 자체의 오판도 실제 사고를 일으킬 수 있어서다.
국내 AI 보안 전문기업 에임인텔리전스(대표 유상윤)는 최근 대규모언어모델(LLM)의 취약점을 찾는 레드티밍과 위험한 출력을 막는 가드레일 기술을 로봇으로까지 확장하고 있다. 기존의 LLM 보안이 프롬프트 인젝션과 정보 유출, 유해한 답변을 주로 다뤘다면 피지컬 AI에서는 카메라와 음성, 센서 입력을 바탕으로 내린 판단과 행동의 안전성까지 검증해야 한다.
김하늘 에임인텔리전스 최고운영책임자(COO)는 “AI가 범하는 텍스트의 오류는 필터링하거나 다시 생성할 수 있지만 로봇의 잘못된 동작은 되돌릴 수 없다”며 “사후 탐지보다 실행 이전 단계의 검증과 실시간 개입이 중요하다”고 설명했다.
에임인텔리전스는 LG전자, 미국 로봇 운영체제 기업 오픈마인드(OpenMind)와 ‘피지컬 AI 안전 레이어’를 공동 개발하고 있다. LG전자는 로봇 하드웨어 개발과 실증을 맡는다. 에임인텔리전스는 로봇의 센서 데이터를 실시간으로 분석해 위험한 행동을 판단하고 실행을 막는 소프트웨어 계층을 개발한다. 세 회사는 지난해 12월 첫 성과로 ‘비디오투로봇(Video2Robot)’을 공개했다. 낙상이나 충돌처럼 현실에서 직접 수집하기 어려운 위험 상황을 시뮬레이션에서 만들고, 이를 로봇의 학습과 안전성 검증에 활용하는 오픈소스 기술이다.
유상윤 에임인텔리전스 대표는 “로봇과 피지컬 AI를 실제로 도입하려는 고객사들과 협업하면서 우리가 이미 갖고 있던 멀티모달 공격·방어 기술이 로봇의 온보드 센서 스트림에는 그대로 적용되지 않는다는 걸 확인했다”며 “그 공백을 메우는 것이 자연스러운 다음 단계였고, 피지컬 AI 안전을 해결해야겠다는 목표를 세웠다”고 말했다.
에임인텔리전스는 외부의 공격과 모델의 오판에는 서로 다른 대응이 필요하다고 봤다. 센서나 네트워크를 노린 공격은 레드티밍으로 취약점을 찾아야 한다. 반면에 모델의 오판은 행동 명령이 구동장치에 전달되기 전에 별도의 가드레일로 차단하는 구조가 필요하다는 설명이다.
유 대표는 “결국 피지컬 AI의 보안 통제는 공격과 방어를 하나의 루프로 묶어야 한다고 본다”며 “사람이 일일이 점검하는 속도로는 모델과 로봇의 업데이트 속도를 못 따라가기 때문에, AI로 AI와 로봇을 공격해 취약점을 찾고 그 결과를 실시간 가드레일에 반영하는 자동화된 순환 구조가 필요하다”고 강조했다.
에임인텔리전스는 한국의 로봇 밀도가 높다는 점을 중심으로 빠르게 피지컬 AI 시장에서의 레퍼런스를 쌓을 계획이다. 국내 주요 로봇 제조사들과 협력하면서, 글로벌 기관들과의 공동 연구도 이어갈 예정이다.
유 대표는 “피지컬 AI 보안은 연구와 실증을 병행하고 있는 단계다. 공동논문 ‘PHASOR’를 통해 기술을 검증하고 실제 로봇에도 적용하고 있다”며 “다만 텍스트·이미지·AI 에이전트 보안 제품처럼 매출이 발생하는 단계는 아니다. 아직 독립된 유료 서비스로 출시되지는 않아서 지켜볼 필요가 있다”고 전망했다.
AI와 로봇에도 신원·권한 부여
피지컬 AI가 스스로 시스템에 접속하고 명령을 실행하면서 인증과 접근통제의 대상도 사람과 단말에서 AI 에이전트와 로봇까지 확대되고 있다.
라온시큐어(대표 이정아)는 기존에 강점을 가지고 있던 계정·권한관리(IAM)와 생체인증, 분산신원인증(DID) 기술을 에이전틱 AI와 피지컬 AI에 적용하는 ‘에이전틱 AI 관리(AAM)’ 기술을 개발하고 있다.
사람에게 디지털 신분증을 발급하듯 AI 에이전트와 로봇에도 검증할 수 있는 신원을 부여하는 방식이다. 신원이 확인된 AI에는 업무에 필요한 권한만 주고 허용된 범위를 벗어난 행동은 제한한다.
기존의 신원 인증이 ‘누가 접속했는가’를 확인했다면 피지컬 AI에서는 ‘어떤 AI가 어떤 권한으로 무엇을 하는가’를 계속 검증해야 한다는 것이 라온시큐어의 설명이다. 단순한 접속 인증을 넘어 AI의 행동 과정까지 관리하는 체계다.
라온시큐어는 한국전자기술연구원(KETI)과 제조와 물류, 재난 대응 등 여러 피지컬 AI 환경에 적용할 보안 기준과 검증 체계도 마련하고 있다. 특정 로봇 제품을 시험하기보다 다양한 산업에서 활용할 수 있는 신원·권한 관리 기반을 개발하는 데 초점을 맞췄다.
AI 로봇의 센서부터 제어기까지 전체 취약점 점검
피지컬 AI는 AI 모델이나 인증 체계 가운데 한 부분만 보호해서는 방어하기 어렵다. 카메라와 센서, 무선통신, 운영 소프트웨어, 제어기 가운데 하나만 뚫려도 기기의 행동에 영향을 줄 수 있기 때문이다.
산업제어시스템(ICS)과 운영기술(OT) 보안을 다뤄온 코어시큐리티(대표 김태일)는 로봇과 의료기기, 선박 등 물리 시스템 전체의 취약점을 점검하는 방식으로 피지컬 AI 분야에 진입했다.
코어시큐리티는 산업용 제어기인 ‘프로그래머블 논리제어장치(PLC)’와 지능형 폐쇄회로텔레비전(CCTV), 공유기 등 산업·사물인터넷(IoT) 장비의 취약점을 분석해왔다. 제어시스템 보안 경험이 로봇과 자율운항 선박, 의료기기 보안으로 이어졌다는 설명이다.
지난해에는 국내 로봇기업 10여곳과 접촉해 이 가운데 6곳이 생산한 로봇 시스템의 취약점을 분석했다. 의료기기 기업 10여곳에는 미국 식품의약국(FDA) 심사에 필요한 사이버보안 점검과 문서 작성을 지원했다.
수요를 끌어내는 요인 중 하나는 해외의 규제다. 유럽연합(EU)의 사이버복원력법(CRA)과 무선기기지침(RED), 미국 FDA의 의료기기 심사는 제품 개발 단계부터 보안 위험을 관리하도록 요구한다. 코어시큐리티는 국제전기기술위원회(IEC)의 산업제어시스템 보안 표준인 IEC 62443을 바탕으로 로봇과 의료기기, 선박의 보안성을 점검하고 있다.
한근희 코어시큐리티 부사장은 “방어자는 센서와 통신망, 제어기를 모두 막아야 하지만 공격자는 이 가운데 하나만 성공하면 된다”며 “어느 특정 항목만 점검해서는 피지컬 AI 시스템을 보호할 수 없기 때문에, 피지컬 AI에 들어가는 모든 분야의 보안을 점검해야 한다”고 강조했다.
자동차 보안 내재화, 피지컬 AI에도 적용
자동차 사이버보안 전문기업 아우토크립트(대표 이석우, 김덕수)는 차량에서 적용해온 통신·인증·침입탐지·시험 기술을 로봇과 의료기기, 산업설비로 넓히고 있다.
자율주행차와 로봇은 센서로 주변 환경을 인식하고 AI의 판단을 물리적 행동으로 옮긴다는 공통점이 있다. 아우토크립트는 차량 통신에 필요한 공개키 기반구조(PKI)와 침투시험, 보안 검증, 유엔 유럽경제위원회 자동차 사이버보안 규정(UNECE WP.29) 대응에서의 경험을 피지컬 AI 산업에 적용하고 있다. 핵심은 제품 개발을 마친 뒤 보안을 추가하는 것이 아니라 기획과 설계 단계부터 적용하는 ‘보안 내재화’다. 자동차의 개발과 생산, 운영, 폐기까지 적용해온 전 생애주기 보안 방식을 로봇이나 선박 같은 자율 시스템으로 옮기는 구조다.
아우토크립트는 지난 5월 미래모빌리티센터를 ‘피지컬 AI 보안연구센터’로 확대 개편했다. 자동차를 넘어 로봇과 방산, 바이오 헬스케어로 사업 범위를 넓히기 위해서다. 같은 달에는 마이크로바이옴 전문기업 에이치이엠파마(HEM파마)와 빅데이터 기반 피지컬 AI 플랫폼 ‘바이그널(BIGNAL)’의 보안을 강화하기 위한 업무협약도 맺었다. 회사는 자동차 보안 기술을 헬스케어 분야에 적용한 첫 공개 협력 사례라고 밝혔다.
아우토크립트 관계자는 “자동차 보안이 피지컬 AI 보안으로 확대될 수 있다는 점에서, 새로운 먹거리를 발굴하는 차원으로 사업 영역을 넓혀가고 있다”고 말했다.
피지컬 AI에서는 보안이 안전과 직결된다. 센서나 통신망이 해킹되면 심각한 안전 사고가 발생할 수 있다. 또한 외부 공격이 없어도 모델의 오판이 위험한 행동으로 이어질 수 있다. 이처럼 보호해야 할 범위가 AI 모델과 센서, 통신망, 제어기, 실제 행동까지 넓은 만큼 각 분야의 기술을 보유한 보안 기업들의 피지컬 AI 시장 참여도 늘어날 것으로 보인다.
글. 바이라인네트워크
<곽중희 기자>god8889@byline.network
