마이크로소프트

“결국 인간은 신뢰하는 기술만 사용합니다. AI 기술 확산의 전제는 신뢰입니다. 그리고 신뢰의 기본은 규제와 거버넌스 준수에서 시작됩니다.” 페츠너 고문은 AI 확산을 기술 경쟁만의 문제가 아니라 신뢰의 문제로 풀었다. 그는 클라우드 확산기에도 신뢰가 핵심이었고, AI 시대에는 그 중요성이 더 커졌다고 말했다. 기술이 널리 쓰이려면 성능보다 먼저 안전장치와 통제 구조를 갖춰야 한다는 설명이다.

오픈클로(OpenClaw) 같은 인공지능(AI) 에이전트의 보안 우려가 현실화하고 있다. 오픈클로는 답변형 AI를 넘어 사용자를 대신해 실제 작업을 수행하는 구조라, 오류가 단순 오답에 그치지 않고 정보 유출이나 의도하지 않은 작업 실행으로 번질 수 있다. 최근 실제 사고와 사용 제한 조치가 잇따르면서, 기업들은 AI 에이전트의 권한과 통제 방식부터 다시 따지기 시작했다.