[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다
| |

[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다

인공지능(AI) 보안의 초점이 바뀌고 있다. 기존 생성형 AI 보안은 주로 모델에 어떤 프롬프트가 들어가고, 모델이 어떤 답변을 내놓는지에 맞춰져 있었다. 공격자가 악성 지시를 넣어 안전장치를 우회하는지, 모델이 유해한 답변이나 잘못된 정보를 생성하는지, 민감한 데이터를 답변으로 흘리는지가 핵심 쟁점이었다. 하지만 AI 에이전트가 등장하면서 문제의 성격이 달라졌다. 이제 AI는 단순히 답변을 내놓는 데 그치지 않는다. 웹을 탐색하고, 문서를 읽고, 외부 도구를 호출하고, 사용자를 대신해 작업을 수행한다. 답변이 잘못되는 수준을 넘어, 잘못된 판단이 실제 행동으로 이어질 수 있는 구조가 된 것이다.

오픈AI, 보안 특화 모델 ‘GPT-5.4-사이버’ 제한 공개

오픈AI, 보안 특화 모델 ‘GPT-5.4-사이버’ 제한 공개

오픈AI는 14일 보안 방어자 대상 접근 프로그램인 트러스티드 액세스 포 사이버(TAC)를 확대하고, 보안 특화 모델 ‘GPT-5.4-사이버(GPT-5.4-Cyber)’를 최고 등급 이용자에게 제한적으로 제공한다고 밝혔다. 오픈AI는 TAC를 검증된 개인 방어자 수천명과 핵심 소프트웨어를 방어하는 수백개 팀 규모로 확대한다고 설명했다.

신세계그룹, 오는 2027년 챗GPT 기반 AI 쇼핑 선보인다

신세계그룹, 오는 2027년 챗GPT 기반 AI 쇼핑 선보인다

신세계그룹이 챗GPT 운영사 오픈AI와 손잡고, AI 커머스를 선보인다. 연내 이마트 앱에 오프라인 쇼핑을 돕는 AI 쇼핑 에이전트를 도입하고, 2027년 중 챗GPT 내에서 이마트 전 상품을 구매할 수 있는 AI 커머스를 선보인다는 목표다. 

2차 시장서 인기 없는 오픈AI 주식, 앤트로픽과 상반

2차 시장서 인기 없는 오픈AI 주식, 앤트로픽과 상반

오픈AI 비상장 주식이 2차 시장에서 매수자를 찾지 못하는 가운데, 투자자들이 경쟁사 앤트로픽으로 빠르게 이동하고 있다는 보도가 나왔다.

블룸버그는 1일(현지시각) 2차 시장 플랫폼 넥스트라운드 측의 코멘트를 인용해, 오픈AI 주식이 2차 시장에서 외면받고 있다고 보도했다.

앤트로픽 이어 오픈AI도 코드 보안 기능 공개…보안업계 ‘촉각’

앤트로픽 이어 오픈AI도 코드 보안 기능 공개…보안업계 ‘촉각’

오픈AI는 코드 저장소를 분석해 취약점을 찾고 실제 위험도를 검증한 뒤 패치까지 제안하는 ‘코덱스 시큐리티(Codex Security)’를 연구 프리뷰로 공개했다고 6일(현지시각) 밝혔다. 지난달 앤트로픽이 ‘클로드 코드 시큐리티(Claude Code Security)’를 내놓은 데 이어 오픈AI까지 가세하면서, 대형 인공지능(AI) 기업이 코드 보안 검토 시장에 본격 진입했다는 평가가 나온다.

오픈AI, 프론티어 AI 모델 GPT-5.4 공개

오픈AI, 프론티어 AI 모델 GPT-5.4 공개

오픈AI가 최신 프론티어 모델인 GPT-5.4를 공개했다. 마이크로소프트 오피스 제품군과 구글 워크스페이스 제품에 통합해 복잡한 문서 업무를 수행할 수 있다. 사용자 기기를 직접 조작하는 ‘컴퓨터 사용(computer-use)’ 도구를 처음으로 포함했다. 앤트로픽의 클로드 코워크를 겨냥한 듯 마이크로소프트 엑셀에 챗GPT를 직접 통합해 시중의 금융 데이터 제공업체의 데이터를 활용할 수 있게 했다.

앤트로픽 빈자리 꿰찼던 오픈AI, ‘기회주의’ 비판에 계약 수정

앤트로픽 빈자리 꿰찼던 오픈AI, ‘기회주의’ 비판에 계약 수정

오픈AI가 미 국방부와의 협력을 강화하는 과정에서 내부 직원들의 거센 반발과 외부의 윤리적 비판이라는 이중고에 직면했다. AI 기술의 군사적 활용과 대중 감시 체계 편입 논란이 거세게 일었다. 결국 샘 올트먼 CEO가 직접 나서 계약 내용을 수정하자고 국방부에 요청하는 이례적인 사태가 벌어졌다.

오픈AI, 1100억달러 신규 투자금 확보

오픈AI, 1100억달러 신규 투자금 확보

오픈AI가 1100억달러에 이르는 대규모 신규 투자를 확보했다. 소프트뱅크, 아마존, 엔비디아 등이 주요 투자사로 이름을 올렸다. 소프트뱅크가 300억달러, 엔비디아가 300억달러, 아마존이 500억달러를 투자하기로 했다. 오픈AI는 아마존과 전략적 파트너십을 체결했고, 엔비디아와 차세대 추론 컴퓨팅 계약도 맺었다. 오픈AI의 기업가치는 1800억달러에 이르게 됐다.

End of content

End of content