미국서 프론티어 AI ‘자율 검증’ 논쟁 벌어져

미국서 프론티어 AI ‘자율 검증’ 논쟁 벌어져

By곽중희

최신 인공지능(AI) 모델들이 보안 평가 과정에서 허용된 범위를 벗어나 외부 기업 시스템에 접근한 사례가 잇따르면서 미국에서 AI 안전성 검증 방식을 둘러싼 논쟁이 벌어지고 있다. 최근 미국 정부는 기업이 자율적으로 참여하는 프론티어 AI 검증체계를 마련하고 있지만, 정치권에서는 강제력이 없는 평가만으로 고도화된 AI의 사이버 위험을 통제할 수 있느냐는 지적이 나온다.

[인터뷰] 직원 12명, 고객사는 300곳…더플레이토의 운영 비밀은 AI
|

[인터뷰] 직원 12명, 고객사는 300곳…더플레이토의 운영 비밀은 AI

By오민선

오후 3시에 해외 근무하는 팀원에게 메일을 보낸다. 샌프란시스코는 밤 11시. 답장을 받기 어려운 시간대지만, 회신은 2분만에 온다. 평소 팀원의 말투와 유사하지만, 사람이 보낸 메일이 아니다. 팀원을 복제한 인공지능(AI) 에이전트다. 더플레이토에서 AI 에이전트의 업무 대리는 일상이다. 메일 답장, 문서 정리, 코딩까지 돕고 있다. 더플레이토의 정규직 규모는 12명. 스타트업에서 납득되는 규모지만, 이 회사는 30만 이용자 앱 ‘티로’를 운영 중이다. 동시에 300곳이 넘는 고객사를 보유하고 관리하고 있다.

피지컬 AI 시장 문 두드리는 국내 보안 기업들
|

피지컬 AI 시장 문 두드리는 국내 보안 기업들

By곽중희

인공지능(AI)이 로봇과 자동차, 산업설비를 직접 움직이는 ‘피지컬 AI’로 확장되면서 국내 보안기업들도 관련 시장에 발을 들이고 있다. 기업들은 기존에 확보한 AI 보안과 인증, 산업제어시스템, 자동차 사이버보안 기술을 활용해 모델과 로봇 행동을 검증하거나 신원·권한을 관리하고, 센서부터 제어기까지 시스템 전체를 점검하고 있다. 피지컬 AI는 카메라와 센서로 주변 환경을 인식한 뒤 로봇·차량·선박 등 기계를 움직이는 AI를 말한다. AI 모델과 센서, 통신망, 제어기, 모터가 하나로 연결되기 때문에 공격이나 판단 오류가 충돌과 장비 파손 같은 물리적 사고로 이어질 수 있다.

“매운거 먹을까” 한마디에…카톡이 곧 주문창 된다

“매운거 먹을까” 한마디에…카톡이 곧 주문창 된다

By성아인

올해 들어 카카오가 선보인 미래는 에이전틱 AI입니다. 6일 실적 컨퍼런스 콜에서 정 대표는 “에이전틱 AI 시대에는 누가 더 뛰어난 모델을 만드는가보다 AI를 얼마나 자연스럽게 이용자의 일상에 녹여내고 실제 행동까지 연결할 수 있는지가 핵심”이라며, “이러한 경쟁에서는 이미 이용자 접점과 서비스 생태계 구축에서 앞서가고 있는 카카오가 에이전틱 AI를 가장 잘 구현할 수 있는 유리한 위치에 있다”고 했습니다. 

다음, 카카오 게임즈 등 핵심 사업 외 계열사를 덜어낸 카카오는 이용자의 의도를 읽고 행동을 연결해 에이전틱 AI 시대에서 더 큰 성장을 꿈꾼다는 목표입니다.

구글 “EU의 타사 AI 권한 확대, 안드로이드 보안 우려”

구글 “EU의 타사 AI 권한 확대, 안드로이드 보안 우려”

By곽중희

유럽연합(EU)이 제3자 인공지능(AI) 서비스에 안드로이드의 주요 기능을 개방하도록 했다. 구글은 마이크와 화면, 앱 제어 권한까지 외부 AI에 제공하면 기존 보안 장벽이 약해질 수 있다고 반발했다. 유럽연합 집행위원회는 지난달 16일 디지털시장법(DMA)에 따라 알파벳이 안드로이드의 AI 관련 기능을 제3자 서비스에 개방하도록 하는 최종 조치를 채택했다.

오픈AI 모델, 외부 평가서 잇단 사고…실제 웹사이트까지 침입

오픈AI 모델, 외부 평가서 잇단 사고…실제 웹사이트까지 침입

By곽중희

오픈AI는 외부 기관의 사이버보안 평가 과정에서 자사 인공지능(AI) 모델이 실제 웹사이트의 취약점을 악용한 사고가 발생해 평가환경의 인터넷 접근과 감시 기준을 강화한다고 4일(현지시간) 밝혔다. 오픈AI가 공개한 내용에는 영국 인공지능안보연구소(AISI)의 평가 사고와 사이버보안 평가업체 이레귤러(Irregular)에서 발생한 별도 사고가 포함됐다. 앞서 알려진 허깅페이스 침해 사건과도 다른 사례다.

하사비스 일선 후퇴, 제프 딘 퇴사 ‘구글 AI의 위기’
|

하사비스 일선 후퇴, 제프 딘 퇴사 ‘구글 AI의 위기’

By김우용

구글의 생성형 AI 맹추격을 이끌었던 핵심 베테랑들이 연이어 구글을 퇴사하거나 일선에서 후퇴하고 있다. 구글 AI의 구원투수로 나섰던 데미스 하사비스는 딥마인드 최고경영자(CEO)에서 물러나 과학 연구에 집중하기로 했고, 구글 엔지니어에게 오랜 존경을 받아온 제프 딘이 창업을 위해 퇴사하기로 했다.

F5, 엔비디아와 AI 가드레일 통합…운영 단계 보안 강화

F5, 엔비디아와 AI 가드레일 통합…운영 단계 보안 강화

By곽중희

F5는 ‘엔비디아 네모 가드레일(NVIDIA NeMo Guardrails)’과 통합한 인공지능(AI) 보안 솔루션 ‘F5 AI 가드레일(F5 AI Guardrails)’을 공개했다고 6일 밝혔다. F5 AI 가드레일은 실제 운영 단계에 들어간 AI 애플리케이션의 프롬프트와 대규모언어모델(LLM) 응답을 검사한다. 여러 AI 애플리케이션에 보안 정책을 중앙에서 적용하고 운영 현황을 확인하는 기능도 제공한다.

End of content

End of content