안랩 “AI 에이전트, 목표 달성해도 실행 과정이 안전해야”
인공지능(AI) 에이전트가 주어진 목표를 달성했다고 해서 안전하게 업무를 수행했다고 확신할 수는 없다. AI는 업무를 처리하는 과정에서 예상하지 못한 도구를 사용하거나 허용된 범위를 벗어난 시스템에 접근할 수 있다. 결과에 문제가 없더라도 과정에서 보안 문제가 발생할 수 있다는 의미다. 안랩은 AI 에이전트 보안에서 개별 행동의 허용 여부뿐 아니라 전체 업무 수행 과정의 안전성을 확보해야 한다고 강조했다. 에이전트가 어떤 권한으로 데이터에 접근하고 도구를 실행했는지 확인해야 한다는 것이다.
