오라클이 데이터베이스에 거버넌스를 내장시키며, AI 에이전트의 비즈니스 규칙 준수를 데이터베이스 차원에서 통제하려 하고 있다. AI의 신뢰성을 높이려면, 천방지축 AI에게 단순히 가이드라인을 따르라고 지시하는 것으로 부족하고, 데이터베이스 인프라 계층에 거버넌스 체계를 구축해 AI의 우회를 원천 차단해야 한다는 것이다. 데이터베이스 외부에 있던 데이터 품질, 데이터 카탈로그보다 더 견고한 내벽을 쌓아 AI 에이전트의 데이터 오남용을 방어한다는 구상이다.
“AI는 오라클을 통해 더 많은 걸 이룰 수 있다. 오라클 속에서 AI는 조직의 운영 방식을 개선하고, 업무 처리를 더 쉽게 하며, 성과를 창출하게 돕는다. 오라클은 비즈니스 현장에서 AI를 빠르게 가동할 수 있게 지원한다. 우리의 목표는 고객이 소프트웨어를 준비에 소요하는 시간을 줄이고, 실제 활용에 더 많은 시간을 할애하게 하는 것이다.” – 마이크 시실리아 오라클 CEO.
AI 에이전트를 기업 업무에 도입하는 여정은 이제 막 시작됐다. 기업은 AI 에이전트를 만들고 데이터와 업무 시스템을 연결하는 일부터 어려움을 겪고 있다. 그러나 기술과 데이터를 준비하는 것만으로는 충분하지 않다. 출발 단계에서부터 함께 설계해야 할 것이 있다. 바로 ‘보안’이다. 기업이 AI의 편리함과 생산성에 주목하는 사이, 그 이면에서는 AI의 판단과 행동을 어디까지 통제할 수 있느냐는 문제가 커지고 있다. AI 에이전트가 사람을 대신해 업무를 수행하고 자율적으로 행동하는 범위가 넓어질수록 보안의 중요성도 커질 수밖에 없다.
글로벌 소프트웨어 기업 조호는 지난 30년간 단 한 건의 인수합병(M&A) 없이 자체 개발한 60여개 기업용 애플리케이션을 앞세워 한국 시장 공략에 나섰다. 아마존웹서비스(AWS)나 마이크로소프트 애저(Azure) 등 외부 클라우드에 의존하는 대신 전 세계 18개 데이터센터와 서버 하드웨어를 직접 구축·운영하며 데이터 통제권을 확보하는 전략이다.
웹사이트와 서버 개발에 널리 쓰이는 소프트웨어에서 고위험 보안 취약점이 잇따라 발견되면서 국내외 보안기업들이 대응에 나서고 있다. 프로그래밍 언어 PHP에서는 2건의 취약점의 긴급 보안 패치가 배포된 지 이틀 만에 세 번째 원격코드실행(RCE) 취약점이 또 확인됐다. 자바스크립트 실행 환경인 노드.js(Node.js)에서도 서버에서 임의의 코드를 실행할 수 있는 ‘Node2Shell’ 취약점이 발견돼 긴급 패치가 배포됐다. 국내 보안기업들도 취약점 점검 도구와 공격 차단 방안을 잇달아 공개하고 있다.
기업의 AI 에이전트 도입은 짧다면 짧고, 길다면 긴 여정이다. 그리고 완주하기 힘든 여정이기도 하다. 출발선을 긋는 것부터 힘들고, 목표 지점을 잡는 것도 힘들다. AI 에이전트 여정에 존재하는 어려움은 무엇이고, 어떻게 여정을 계획해야 하며, 또 어떻게 여정을 진행할 것인가. 많은 질문이 시중을 뒤엎고 있다. 현재 AI 에이전트 프로젝트에서 발견되는 공통의 문제점과 그 해결 방안, 기술적 논쟁을 분석하고, 현재와 앞으로 AI 사업자의 시장 경쟁 양상을 전망해본다.
AI를 활용한 딥페이크 사기와 로맨스 스캠, 암호화폐 해킹이 확산하면서 사이버 범죄의 규모와 속도가 커지고 있다. 범죄자들은 저렴한 구독형 AI 도구를 이용해 범죄를 자동화하는 반면, 수사기관은 인력 부족과 오탐 등으로 대응에 어려움을 겪고 있다. 맷 험프리스 TRM랩스 총괄은 수사 전용 AI 시스템에 투명성·통제력·무결성을 반영하고, AI 기반 자동화로 범죄 예방과 수사 효율을 높여야 한다고 강조했다.
인공지능(AI)이 해킹과 온라인 사기 등 기존 범죄의 속도와 정교함을 높이고, 경찰의 판단을 속이는 새로운 공격까지 낳고 있다는 진단이 나왔다. 이에 경찰도 기존 사이버안보 분야의 대응 체계를 활용하면서 AI 범죄의 조기 발견과 피해 예방에 나서야 한다는 제언이다. 박보라 국가안보전략연구원 미래전략연구실 연구위원은 23일 인천 송도컨벤시아에서 열린 ‘SAFE AI Security Summit 2026 컨퍼런스’에서 AI 확산에 따른 사이버위협의 변화와 경찰의 대응 방안을 제시했다.
AI가 실무를 수행하고 사람은 업무 구조를 설계하고 결과에 책임지는 ‘휴먼 온 더 루프’ 체계가 새로운 조직 운영 방식으로 떠오르고 있다. 해시드는 내부 개발 조직에 에이전트 기반 업무 체계를 적용하고 있으며, 창업자들도 문제 해결과 모델 선택, 개발 의사결정 기록 등을 통해 AI 활용 경쟁력을 확보하고 있다. 업계에서는 AI 활용 자체를 넘어 에이전트와의 협업 역량과 사용자에게 자연스럽고 빠른 서비스를 제공하는 능력이 스타트업의 핵심 경쟁력이 될 것으로 보고 있다.
2018년 창업한 디지털 포렌식 전문기업 ‘유락(UROCK)’은 디지털 증거를 분석실로 옮기기 전, 조사 현장에서 필요한 기록부터 선별하는 도구를 개발해왔다. 최근에는 현장 포렌식에 인공지능(AI)를 접목하면서, 데이터 분류와 위험 점검으로 포렌식 제품의 활용 범위를 넓히고 있다. 유봉석 유락 대표는 “사고 원인을 찾는 기술을 사고 이전의 위험을 점검하고 내부통제를 검증하는 기술로 확장하는 것”이라고 설명했다. 포렌식에서 축적한 분석·검증 역량을 기업의 상시 ‘데이터 위험 관리’에 적용한다는 구상이다.
AI 도입이 확산하고 있지만 실제 수익 창출로 이어지는 기업은 제한적이다. 씽킹AI는 데이터 접근 장벽과 성과 측정 체계 부재 등을 주요 원인으로 꼽으며, AI 에이전트의 실질적인 성과를 내려면 데이터 분석부터 실행·검증까지 연결하는 시스템과 기업 고유의 비즈니스 맥락을 반영한 운영 체계가 필요하다고 강조했다. 현장 사례를 통해 데이터 분석과 마케팅 실행을 통합하고 외부 소셜 데이터까지 활용하는 전략의 중요성도 제시했다.
기업의 AI 에이전트 도입은 짧다면 짧고, 길다면 긴 여정이다. 그리고 완주하기 힘든 여정이기도 하다. 출발선을 긋는 것부터 힘들고, 목표 지점을 잡는 것도 힘들다. AI 에이전트 여정에 존재하는 어려움은 무엇이고, 어떻게 여정을 계획해야 하며, 또 어떻게 여정을 진행할 것인가. 많은 질문이 시중을 뒤엎고 있다. 현재 AI 에이전트 프로젝트에서 발견되는 공통의 문제점과 그 해결 방안, 기술적 논쟁을 분석하고, 현재와 앞으로 AI 사업자의 시장 경쟁 양상을 전망해본다.
최근 인공지능(AI) 코딩 도구 확산으로 기업이 관리해야 하는 소프트웨어 코드가 늘면서 보안 취약점 점검에 AI를 활용하는 방안이 주목받고 있다. 챗지피티 등 범용 대형언어모델(LLM)을 활용하면 코드 검증을 자동화할 수 있지만, 외부 클라우드 서버로 소스코드를 전송해야 해 정보 유출 우려가 있고 모델 운영 비용과 오탐지 문제도 발생한다. 이에 시스코는 기업 핵심 자산인 소스코드를 외부로 전송하지 않고 사내 폐쇄망에서 보안 취약점을 식별할 수 있는 사내 구축형(온프레미스) 소형언어모델(sLLM)을 대안으로 제시했다.
인공지능(AI)이 해킹 도구에서 더 발전해 다른 기기로 옮겨가며 스스로 복제하는 ‘AI 웜(AI Worm)’으로 발전할 수 있다는 연구 결과가 나왔다. 앤트로픽은 지난 12일 인터넷에 연결된 저사양 기기에서도 AI 모델을 실행하고 제한된 환경에서 복제 절차를 수행할 수 있다는 연구 결과를 발표했다. 실제 인터넷에서 AI 웜이 확산한 것은 아니지만, AI가 사람의 개입 없이 공격을 이어갈 가능성을 보여줬다는 설명이다.
End of content
End of content
