오픈AI “프론티어 AI 개발, 규제 의무화해야”

오픈AI “프론티어 AI 개발, 규제 의무화해야”

By곽중희

오픈AI가 프론티어 인공지능(AI) 개발사를 대상으로 미국 연방 차원의 의무적인 안전규제가 필요하다고 밝혔다. 모델의 역량이 특정 위험 수준에 도달할 경우 개발 속도를 늦추거나 중단할 수 있는 공통 기준도 마련해야 한다고 제안했다.

사스포칼립스 공포, 실적으로 반전 맞나
|

사스포칼립스 공포, 실적으로 반전 맞나

By김우용

지난 2월 세일즈포스, 서비스나우, 워크데이 등 주요 소프트웨어 기업의 주가가 일제히 급락했다. 소프트웨어 기업의 시가총액이 약 3000억달러 증발했다. 주가는 10% 내외로 수일에 걸쳐 급락했다. 원인은 1월 30일 출시된 앤트로픽의 업무용 AI 에이전트 서비스 ‘클로드 코워크’와 ‘클로드 리걸’이었다. AI가 키보드와 마우스를 움직이며 결재 문서를 작성하고, 계약서를 작성해 검토하며, 문서 저장 관리 시스템에 저장까지 해주는 완성도 높은 AI 에이전트의 등장에 소프트웨어의 종말론이 퍼진 탓이다. 그리고 200일 뒤 반전의 기미가 보인다.

오픈AI, EU ‘이중 규제’ 본격화

오픈AI, EU ‘이중 규제’ 본격화

By곽중희

오픈AI가 유럽연합(EU)의 두 갈래 규제망에 동시에 들어왔다. 프런티어 인공지능(AI) 모델 자체의 위험은 AI법(AI Act)으로, 챗GPT가 검색·정보유통 서비스로 만들어내는 위험은 디지털서비스법(DSA)으로 관리받는 구조다.

손기욱 한국사이버안보학회장이 조언하는 ‘AI 에이전트 보안 제품화’
| |

손기욱 한국사이버안보학회장이 조언하는 ‘AI 에이전트 보안 제품화’

By곽중희

“인공지능(AI)의 이런 기능이 좋고 이런 것을 잘할 수 있다는 이야기만 해서는 안 됩니다. AI 에이전트가 어떤 근거와 과정을 거쳐 행동했는지 증거 흐름을 남기고, 역할별 권한을 통제하며, 위험할 때는 바로 중지시킬 수 있는지에 답할 수 있어야 합니다.” 손기욱 한국사이버안보학회장 겸 서울과학기술대학교 교수는 ‘AI 에이전트 보안’을 실제 제품으로 만들기 위해 필요한 조건을 설명하며 이렇게 강조했다.

사명 바꾼 프라이빗AI, AI 거버넌스·위험통제 기업으로 탈바꿈
| |

사명 바꾼 프라이빗AI, AI 거버넌스·위험통제 기업으로 탈바꿈

By곽중희

“AI 시대 기업이 원하는 것은 단순한 보안 제품이 아닙니다. AI 위험과 보안 요구, 품질, 비용, 책임을 함께 관리하는 거버넌스가 필요합니다.” 김영랑 프라이빗AI(PRIBIT AI·구 프라이빗테크놀로지) 대표는 4일 서울 반얀트리 클럽 앤 스파 서울에서 열린 ‘프라이빗 AI 테크 서밋(PRIBIT AI Tech Summit)’에서 AI 거버넌스·위험통제 기업으로 전환한다는 비전을 밝혔다. 지난 7월 사명을 바꾼 프라이빗AI는 기존 제로트러스트 기술을 인공지능(AI)의 데이터 접근과 에이전트 실행까지 통제하는 영역으로 넓힌다.

End of content

End of content