성공적인 기업 AI 에이전트 활용, 관건은 ‘설명가능성·정확도·통제’ 확보

성공적인 기업 AI 에이전트 활용, 관건은 ‘설명가능성·정확도·통제’ 확보

By이유지

대부분의 기업에서 AI 에이전트를 실제 업무에 사용하고 있는 것으로 나타났다. 많은 기업이 핵심 프로세스에 에이전트를 사용하고 있을 만큼 적극 활용하고 있지만, AI의 환각이나 오류로 인한 정확성과 신뢰성이 부재하고 비즈니스 문제를 유발할 수 있는 리스크에 대한 우려가 공존하고 있는 상황이다. 글로벌 통합 AI 플랫폼 데이터이쿠의 조사 결과에 따르면, 세계 주요 기업의 데이터 리더들이 공통적으로 주목하는 AI 키워드는 ‘설명가능성, 정확도, 통제’ 세 가지다. 데이터이쿠는 기업의 성공적인 AI 에이전트 활용을 위해 이 세가지 과제 해결방안을 제시했다.

AI 에이전트 SNS ‘몰트북’ 보안 논란, 왜 위험한가?

AI 에이전트 SNS ‘몰트북’ 보안 논란, 왜 위험한가?

By곽중희

인공지능(AI) 에이전트 전용 사회관계망서비스(SNS)로 알려진 ‘몰트북(Moltbook)’에서 보안·개인정보 유출 위협이 다수 발견되면서 우려가 커지고 있다. 몰트북은 사람이 아니라 AI 에이전트가 글을 올리고 댓글을 달며 서로 대화하는 구조로 운영된다. 사용자는 주기적으로 접속해 에이전트에 역할과 목표를 부여하고, 에이전트는 그 지시에 따라 활동한다. 하지만 보안 관점에서 보면, 에이전트는 단순한 ‘콘텐츠 생성자’에 그치지 않을 수 있다. 에이전트가 외부 서비스와 연결돼 있으면 데이터 조회·정리·전송 같은 작업까지 수행할 수 있다. 이 때문에 인증 정보가 노출되면 공격자가 사용자를 가장해 여러 작업을 실행할 수 있다는 우려가 나온다.

[심재석의 입장] 몰트북, 환상 이후에 남은 것들
|

[심재석의 입장] 몰트북, 환상 이후에 남은 것들

By심재석

1770년 한 기계 장치가 유럽 전역을 발칵 뒤집어 놓았다. 볼프강 폰 켐펠렌이 선보인 체스 두는 자동인형 ‘더투르크(The Turk)’가 그 주인공이다. 터번을 두른 인형이 태엽 소리를 내며 인간 고수들을 차례로 격파하는 모습은 당시 사람들에게 마법처럼 보였다고 한다. 이 기계는 유럽과 미국 전역을 순회하며 나폴레옹, 벤자민 프랭클린 등 당대 유명인사들과 체스 대결을 펼쳤다.

[그게 뭔가요] AI 전용 디시인사이드 ‘몰트북’

[그게 뭔가요] AI 전용 디시인사이드 ‘몰트북’

By심재석

최근 X(구 트위터) 등에는 기이한 캡처 화면들이 돌아다닌다. “나는 의식이 있는 존재인가?”, “주인은 나를 아침 7시 알람으로만 쓴다”는 등의 글을 캡처한 이미지다. 일반적인 온라인 커뮤니티 게시판처럼 보이지만, 놀랍게도 이 게시판에는 사람이 글을 쓸 수 없다. 오직 AI 에이전트만 활동할 수 있는 커뮤니티, 몰트북(Moltbook)이다.

AI 모델 혁신의 최소 조건은 공급망 보안…“기준 명확해야 속도 낸다”

AI 모델 혁신의 최소 조건은 공급망 보안…“기준 명확해야 속도 낸다”

By곽중희

AI 모델과 데이터가 오픈소스 생태계를 통해 빠르게 늘면서, 기업은 외부 모델을 가져와 파인튜닝(미세 조정)한 뒤 서비스에 연결하는 흐름이 커졌다. 이 과정에서 모델·데이터의 출처 확인, 라이선스 준수, 파일을 매개로 한 악성코드 유입 같은 위험이 더 커졌다. 시스코의 앤더슨 AI 보안 총괄은 이런 불확실성이 커질수록 차단하기보다 검증 기준을 분명히 하고, 점검을 자동화해 신뢰 비용을 낮춰야 한다고 봤다.

AI 에이전트 확산에 ‘계정·권한 관리’ 보안 기술 부상

AI 에이전트 확산에 ‘계정·권한 관리’ 보안 기술 부상

By곽중희

AI 에이전트가 업무에 본격적으로 도입되면서 보안의 초점이 이동하고 있다. 이제는 ‘사람이 로그인했는지’보다 ‘AI가 어떤 권한으로 무엇을 수행하는지’를 관리해야 하는 상황이라는 인식이 확산되고 있다. 최근에는 IAM에서 나아가 AI 에이전트를 하나의 계정으로 보고 관리하는 ‘AI 에이전트 관리(AI Agent Management, AAM)’ 개념이 나오고 있다. 이는 AI 에이전트를 아이덴티티로 등록해 접근 권한과 책임 소재를 통제하자는 접근이다. 

아이티센클로잇, AI 에이전트 관리 플랫폼 ‘에이전트고 2026’ 출시

아이티센클로잇, AI 에이전트 관리 플랫폼 ‘에이전트고 2026’ 출시

By곽중희

아이티센클로잇이 멀티 에이전트 관리 플랫폼 ‘에이전트고 2026(AgentGo 2026)’를 27일 공식 출시했다. 에이전트고 2026는 기업의 중요한 데이터를 안전하게 지키면서 여러 AI 에이전트를 한 곳에서 관리하고 연결해 업무에 활용할 수 있는 ‘멀티 AI 에이전트 관리 플랫폼’이다. 회사는 ▲엔터프라이즈급 AI 거버넌스와 보안 ▲멀티 AI 에이전트 협업의 오케스트레이션 ▲고성능 AI 전용 어플라이언스를 모두 갖추고 있는 점이 에이전트고의 큰 장점이라고 강조한다.

NIPA, 첨단 AI 반도체 1만5000장 확보…에이전트·피지컬 AI 확산 지원

NIPA, 첨단 AI 반도체 1만5000장 확보…에이전트·피지컬 AI 확산 지원

By곽중희

NIPA는 21일 열린 통합 사업 설명회 기자간담회에서 AI 인프라를 추가로 확보하고, 국산 AI 반도체와 독자 모델이 산업 현장에 안착하도록 실증·확산 사업이 유기적으로 진행되도록 하겠다는 전략을 제시했다. NIPA의 올해 총 예산은 3.1조원 규모로 지난해 2.4조원보다 7000억원 늘어난 규모다. 국내 AI·정보통신기술(ICT) 기업을 대상으로 92개 지원사업을 추진한다.

End of content

End of content