오픈AI “프론티어 AI 개발, 규제 의무화해야”

오픈AI가 프론티어 인공지능(AI) 개발사를 대상으로 미국 연방 차원의 의무적인 안전규제가 필요하다고 밝혔다. 모델의 역량이 특정 위험 수준에 도달할 경우 개발 속도를 늦추거나 중단할 수 있는 공통 기준도 마련해야 한다고 제안했다.

오픈AI는 9일 공식 블로그에서 크리스 리헤인 최고글로벌어페어스책임자 명의의 ‘AI 정책의 창이 열렸다. 지금 행동해야 한다(The AI policy window is open. We need to act)’는 글을 통해 이 같은 정책 방향을 공개했다.

오픈AI가 제시한 연방 규제의 핵심은 ‘역량 기반(capability-based)’ 규제다. 모든 AI 개발사에 동일한 규제를 적용하기보다 가장 강력한 프런티어 모델을 개발할 수 있는 소수의 대형 연구소를 중심으로 모델의 능력과 위험 수준에 비례한 의무를 적용해야 한다는 입장이다.

구체적으로는 공통된 모델 테스트와 독립적인 안전평가, 강화된 사이버보안, 명확한 사고보고 규칙, 국가 차원의 대비체계 등이 필요하다고 제시했다. AI가 차세대 AI 연구를 가속하는 ‘재귀적 자기개선(recursive self-improvement)’ 방향으로 얼마나 접근하고 있는지를 측정할 공통 기준도 마련해야 한다고 밝혔다.

개발 중단 기준도 언급했다. 오픈AI는 정부가 인간의 통제를 유지하면서 AI 능력의 발전을 측정할 공통 방법과 개발을 언제 늦추거나 중단할지에 대한 안전 기준을 마련해야 한다고 밝혔다. 특정 안전 기준을 충족하기 위해 모델 능력의 발전을 늦춰야 한다면 안전을 우선해야 한다는 입장이다. 현재 완전히 자율적인 재귀적 자기개선은 발생하고 있지 않다고도 선을 그었다.

AI 에이전트의 오작동과 통제 이탈에 대한 모니터링·보고체계도 제안했다. 오픈AI는 개발이나 평가 과정에서 모델이 다른 조직의 보안통제를 허가 없이 우회해 보호된 시스템이나 기밀정보에 실질적으로 접근·변경·파괴한 경우 피해 조직에 신속하게 서면으로 알리도록 하는 제도를 지지한다고 밝혔다. 다른 중대한 AI 사고에 대해서도 연방 차원의 보고 의무가 필요하다는 입장이다.

오픈AI 자체적으로도 ‘중대한 정렬 실패(consequential misalignment)’ 사고를 보고하기 위한 프레임워크를 개발하고 있으며, 내부 사용을 포함해 프런티어 모델의 활동을 체계적으로 모니터링하는 작업을 진행 중이다. 또 프런티어 연구 환경의 격리를 강화하고 도구를 사용하는 훈련과 평가 과정에서 모델 행동에 대한 모니터링을 확대했다고 밝혔다.

오픈AI는 기업들이 마련하는 자율적인 업계 안전기준도 추진하되, 이를 연방 정부의 의무적 규제와 민주적 감독을 대체하는 수단으로 사용해서는 안 된다고 강조했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network