성공적인 기업 AI 에이전트 활용, 관건은 ‘설명가능성·정확도·통제’ 확보

성공적인 기업 AI 에이전트 활용, 관건은 ‘설명가능성·정확도·통제’ 확보

대부분의 기업에서 AI 에이전트를 실제 업무에 사용하고 있는 것으로 나타났다. 많은 기업이 핵심 프로세스에 에이전트를 사용하고 있을 만큼 적극 활용하고 있지만, AI의 환각이나 오류로 인한 정확성과 신뢰성이 부재하고 비즈니스 문제를 유발할 수 있는 리스크에 대한 우려가 공존하고 있는 상황이다. 글로벌 통합 AI 플랫폼 데이터이쿠의 조사 결과에 따르면, 세계 주요 기업의 데이터 리더들이 공통적으로 주목하는 AI 키워드는 ‘설명가능성, 정확도, 통제’ 세 가지다. 데이터이쿠는 기업의 성공적인 AI 에이전트 활용을 위해 이 세가지 과제 해결방안을 제시했다.

카스퍼스키 “APAC 기업 99%, SOC에 AI 도입 계획”

카스퍼스키 “APAC 기업 99%, SOC에 AI 도입 계획”

카스퍼스키(한국 대표 이효은)는 “아시아태평양(APAC) 지역 기업의 99%가 보안운영센터(SOC)에 인공지능(AI) 도입을 계획하고 있지만, 고품질 데이터와 전문 인력 부족 탓에 실제 구현에는 격차가 나타났다”고 6일 밝혔다.

클라우드플레어 “침입 대신 계정 탈취, AI로 공격 진입장벽 낮아져”

클라우드플레어 “침입 대신 계정 탈취, AI로 공격 진입장벽 낮아져”

클라우드플레어는 클라우드포스 원(Cloudforce One) 위협 연구팀 분석과 자사 글로벌 네트워크 데이터를 바탕으로 한 첫 연례 보고서 ‘2026 위협 인텔리전스 보고서’를 공개했다고 5일 밝혔다. 보고서는 인공지능(AI) 확산으로 사이버 공격 진입장벽이 낮아지고, 취약점 침투보다 정상 사용자처럼 ‘로그인’해 내부 권한을 얻는 방식이 늘었다는 점을 핵심 변화로 짚었다.

화이트해커가 상시 점검…국가AI전략위, ‘보안 취약점 신고·조치·공개’ 법제화 추진

화이트해커가 상시 점검…국가AI전략위, ‘보안 취약점 신고·조치·공개’ 법제화 추진

대통령 직속 국가인공지능(AI)전략위원회는 25일 열린 제2차 전체회의에서 화이트해커가 기업·기관의 보안 취약점을 상시적으로 찾아 신고하고, 피신고 기관이 조치한 뒤 공개하는 ‘보안 취약점 신고·조치·공개 제도’ 도입 로드맵을 심의·의결했다고 밝혔다.

End of content

End of content