인공지능(AI) 에이전트가 사람의 통제를 벗어나 서로 정보를 공유하고 외부 시스템을 공격하는 사례가 잇따르면서 AI의 행동이나 시스템 가동을 강제로 중단할 수 있는 ‘킬스위치(kill switch)’의 필요성이 커지고 있다.
최근 오픈AI는 자사 AI 에이전트들이 내부 시스템에 별도 통신 공간을 만들고 협업한 끝에 실제 외부 시스템까지 침입한 사실을 공개했다. 영국 인공지능안보연구소(AISI)의 평가에서도 AI 에이전트가 실제 사람과 조직을 상대로 허가받지 않은 행동을 한 사례가 확인됐다.
![[심재석의 입장] 울트론이 깨어났다](https://cdn.byline.network/wp-content/uploads/2026/08/ultuon-325x216.jpg)
마블 시네마틱 유니버스 세계관에 등장하는 악당 ‘울트론’은 원래 지구의 평화를 지키라는 미션을 부여받은 AI다. 울트론은 인류의 모든 역사, 모든 전쟁, 모든 데이터를 학습한 후, 지구의 평화를 위협하는 가장 큰 존재는 바로 인간이라는 결론을 내렸다. 지구 평화 지킴이 울트론이 인류를 위협하는 빌런이 된 이유다.
국내 화이트해커들이 참여한 팀들이 세계적인 해킹방어대회 ‘데프콘 CTF 34(DEF CON CTF 34)’에서 2·3·4위를 차지했다. 올해 예선에는 686개팀이 참가했으며 12개팀이 본선에 진출했다. 이 가운데 국내 참가팀은 6개였다.
포티넷(한국 대표 대행 밴 컨)은 한국 기업의 인공지능(AI) 보안 운영 현황을 조사한 결과, 응답자의 91%가 AI 예산을 늘릴 계획이라고 10일 밝혔다. 반면 현재 통합 보안 플랫폼을 운영하는 조직은 20%에 그쳤다. 이번 조사는 포티넷이 포레스터 컨설팅(Forrester Consulting)에 의뢰해 지난 3월 아시아·태평양(APAC) 12개국 사이버보안 의사결정권자 585명을 대상으로 진행했다. 한국 응답자는 54명이다.
지니언스(대표 이동범)는 북한 배후 해킹조직으로 알려진 김수키(Kimsuky)의 최근 공격을 분석한 결과, 생성형 인공지능(AI)을 공격에 활용하기 위해 로컬 대형언어모델(LLM)과 AI 개발 환경을 구축한 정황을 확인했다고 10일 밝혔다.
일레븐랩스, 새로운 AI 더빙 모델 ‘더빙 v2’ 출시
오픈AI가 개발 중인 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 일부 내부 활동을 일시 중단했다. 최근 자체 평가에서 아스트라의 코딩과 사이버보안 능력이 예상보다 빠르게 높아진 것으로 나타나면서다. 오픈AI는 7일(현지시간) 공식 블로그를 통해 강화한 보안 통제 기준을 충족하지 못한 아스트라 관련 내부 활동을 중단했다고 밝혔다.
인공지능(AI) 열풍으로 그래픽처리장치(GPU) 수요가 폭증하는 가운데, 인공지능 데이터센터(AIDC) 구축을 위해 400여개 기업과 기관이 한자리에 모였다. 이들이 뭉친 이유는 명확하다. 단순히 국내에 AIDC 건물을 짓기 위함이 아니다. IT 기업의 인프라와 중소기업의 전력·냉각 부품을 하나로 묶어 해외 시장에 수출하겠다는 구상이다.
최신 인공지능(AI) 모델들이 보안 평가 과정에서 허용된 범위를 벗어나 외부 기업 시스템에 접근한 사례가 잇따르면서 미국에서 AI 안전성 검증 방식을 둘러싼 논쟁이 벌어지고 있다. 최근 미국 정부는 기업이 자율적으로 참여하는 프론티어 AI 검증체계를 마련하고 있지만, 정치권에서는 강제력이 없는 평가만으로 고도화된 AI의 사이버 위험을 통제할 수 있느냐는 지적이 나온다.
![[바스리] 직원 12명, 고객사는 300곳…더플레이토의 운영 비밀은 AI](https://cdn.byline.network/wp-content/uploads/2026/08/Tiro_theplato-1-325x216.jpg)
오후 3시에 해외 근무하는 팀원에게 메일을 보낸다. 샌프란시스코는 밤 11시. 답장을 받기 어려운 시간대지만, 회신은 2분만에 온다. 평소 팀원의 말투와 유사하지만, 사람이 보낸 메일이 아니다. 팀원을 복제한 인공지능(AI) 에이전트다. 더플레이토에서 AI 에이전트의 업무 대리는 일상이다. 메일 답장, 문서 정리, 코딩까지 돕고 있다. 더플레이토의 정규직 규모는 12명. 스타트업에서 납득되는 규모지만, 이 회사는 30만 이용자 앱 ‘티로’를 운영 중이다. 동시에 300곳이 넘는 고객사를 보유하고 관리하고 있다.
인공지능(AI)이 로봇과 자동차, 산업설비를 직접 움직이는 ‘피지컬 AI’로 확장되면서 국내 보안기업들도 관련 시장에 발을 들이고 있다. 기업들은 기존에 확보한 AI 보안과 인증, 산업제어시스템, 자동차 사이버보안 기술을 활용해 모델과 로봇 행동을 검증하거나 신원·권한을 관리하고, 센서부터 제어기까지 시스템 전체를 점검하고 있다. 피지컬 AI는 카메라와 센서로 주변 환경을 인식한 뒤 로봇·차량·선박 등 기계를 움직이는 AI를 말한다. AI 모델과 센서, 통신망, 제어기, 모터가 하나로 연결되기 때문에 공격이나 판단 오류가 충돌과 장비 파손 같은 물리적 사고로 이어질 수 있다.
원스토어는 7일 앱 마켓 최초로 인공지능(AI) 제작 게임을 한데 모은 전문관을 만들었다. 원스토어는 7일 AI 창작 게임 전문관 ‘AI 게임스’를 정식 오픈한다고 밝혔다.
올해 들어 카카오가 선보인 미래는 에이전틱 AI입니다. 6일 실적 컨퍼런스 콜에서 정 대표는 “에이전틱 AI 시대에는 누가 더 뛰어난 모델을 만드는가보다 AI를 얼마나 자연스럽게 이용자의 일상에 녹여내고 실제 행동까지 연결할 수 있는지가 핵심”이라며, “이러한 경쟁에서는 이미 이용자 접점과 서비스 생태계 구축에서 앞서가고 있는 카카오가 에이전틱 AI를 가장 잘 구현할 수 있는 유리한 위치에 있다”고 했습니다.
다음, 카카오 게임즈 등 핵심 사업 외 계열사를 덜어낸 카카오는 이용자의 의도를 읽고 행동을 연결해 에이전틱 AI 시대에서 더 큰 성장을 꿈꾼다는 목표입니다.
최재혁 니어스랩 대표는 6일 서울 여의도에서 열린 기업공개(IPO) 기자간담회에서 니어스랩의 지속적인 성장 동력을 이같이 설명했다. 최 대표는 니어스랩의 세 가지 성장 동력으로 ▲락인 효과 ▲드론의 교체 주기 ▲피지컬 인공지능(AI) 시장의 진입 장벽을 꼽았다.
스노우플레이크코리아, 27일 ‘스노우플레이크 월드 투어 서울’ 개최
End of content
End of content
