AI 에이전트 확산에 레드팀도 바뀐다…“행동 전체 점검해야”
|

AI 에이전트 확산에 레드팀도 바뀐다…“행동 전체 점검해야”

인공지능(AI) 에이전트가 외부 도구를 호출하고 데이터에 직접 접근하면서 AI 레드팀의 점검 범위도 넓어지고 있다. AI 모델이 유해한 답변을 내놓는지를 점검하는 데서 나아가 에이전트의 신원과 권한, 데이터 흐름, 도구 호출, 행동 경로 등 전체를 평가하는 프레임워크 구축도 본격화되고 있다.

End of content

End of content