김승주 고려대 교수가 본 ‘AI 보안 내재화의 필수 조건’
“요구사항 분석조차 안 되는데 다른 것을 논해서 무엇을 하겠습니까?” 김승주 고려대학교 정보보호대학원 교수는 7일 경기 성남시 밀리토피아 호텔 바이마린에서 열린 ‘AIDC 보안 기술 워크숍’에서 AI 보안 내재화의 출발점은 보안 제품이나 도구 도입이 아니라 요구사항을 제대로 정의하는 것이라고 강조했다. 김 교수는 이날 ‘AI 보안내재화는 왜 특히 더 어려운가?’를 주제로 발표했다.
“요구사항 분석조차 안 되는데 다른 것을 논해서 무엇을 하겠습니까?” 김승주 고려대학교 정보보호대학원 교수는 7일 경기 성남시 밀리토피아 호텔 바이마린에서 열린 ‘AIDC 보안 기술 워크숍’에서 AI 보안 내재화의 출발점은 보안 제품이나 도구 도입이 아니라 요구사항을 제대로 정의하는 것이라고 강조했다. 김 교수는 이날 ‘AI 보안내재화는 왜 특히 더 어려운가?’를 주제로 발표했다.
인공지능(AI)이 사용자 대신 검색하고 판단하며 각종 작업을 수행하는 에이전트(Agent) 시대가 본격화하면서, 외부 데이터를 악용해 AI의 판단과 행동을 조작하는 ‘프롬프트 삽입(Prompt Injection)’ 공격이 새로운 보안 위협으로 떠오르고 있다.
이번 법안의 긍정적인 측면은 납품업체들이 대금을 보다 빠르게 받을 수 있다는 점입니다. 그동안 쿠팡, 컬리처럼 규모가 큰 기업들이 대금을 오랜 기간 쥐고 있었던 탓에, 납품업체는 대금을 받기 전까지 현금 부족에 시달려야 했습니다.
하지만 이 법안이 정말 납품업체에 무조건 좋은 일인지, 업계 안에서는 의문도 나옵니다.
유통업체는 그동안 납품업체에 지급할 대금을 쥐고 있는 기간 동안 그 자금을 굴려왔습니다. 지급기한이 줄면 이 자금을 굴릴 시간이 그만큼 짧아집니다. 유통업체 입장에서는 이 부족분을 어떻게든 메워야 하는데, 그 방식에 따라 정작 손해를 보는 쪽이 달라질 수 있다는 우려가 나옵니다.
또 이번 입법의 배경으로 제시된 티몬·위메프(티메프), 홈플러스 사태는 사실 대금을 늦게 받은 게 아니라 아예 받지 못한 ‘지급불능’ 문제였습니다. 지급기한을 줄인다고 이 문제가 풀리는 건 아니라는 이야기도 나옵니다.
오픈AI의 에이전트들이 독일의 한 위키 사이트를 점령한 사건이 벌어졌다. 사람이 사용하기 위해 만들어진 위키 사이트에 AI 에이전트가 수많은 글을 쓴 것이다.
무대는 독일어로 된 프로그래밍 개발자용 위키 DSEwiki다. 지난 5월부터 7월까지 석 달 가까이, 오픈AI 에이전트로 추정되는 계정들이 이 사이트에 약 1만8000건의 글을 남겼다.
한전KDN이 국가망보안체계(N2SF)를 적용한 에너지 특화 인공지능 데이터센터(AIDC)를 구축한다. 2페타바이트(PB) 이상의 데이터와 1000개 이상의 고성능 그래픽처리장치(GPU)를 기반으로 발전·설비·계통·전력시장 데이터를 통합하고, 이를 AI 서비스로 연결하는 것이 핵심이다.
토큰증권(STO) 플랫폼 기업 크레도스파트너스가 프리시리즈A 투자에서 20억원 이상의 투자금을 유치했다. 금융위원회가 조각투자를 넘어 주식·채권·펀드 등 기존 금융상품의 토큰화까지 추진하기로 하면서 시장 확대가 예상되는 가운데, 전통 금융자산의 토큰화 사업에 속도를 낸다는 계획이다.
금융권의 인공지능(AI) 활용이 확대되면서 금융사와 금융소비자가 AI를 보다 쉽고 안전하게 활용할 수 있는 환경을 갖추는 일이 중요해지고 있다. 한국신용정보원은 금융권의 AI 활용을 지원하기 위해 금융사를 대상으로 한 ‘금융권 AI 플랫폼’과 금융소비자를 대상으로 한 ‘모두의 금융 AI 러닝 플랫폼’을 운영하고 있다. 금융권의 AI 도입 과정에서 나타나는 어려움과 이를 해결하기 위한 신용정보원의 역할에 대해 이철흠 본부장과 최성민 금융AI데이터부 AI전략팀 팀장을 만나 이야기를 들어봤다.
네이버가 11월 말부터 새벽배송 서비스를 네이버플러스 멤버십 회원 전용 혜택으로 전환한다.
요즘 국내 게임사들이 다중접속역할수행게임(MMORPG)을 연달아 선보이고 있습니다. 컴투스에서 지난달 26일 출시한 ‘제우스: 오만의 신’도 그중 하나입니다. 회사는 이전부터 이 작품에 큰 기대를 걸고 있다고 거듭 강조해왔습니다. 오랜만에 대규모 미디어 쇼케이스도 열었었죠. 그래서 궁금해졌습니다. 도대체 어떤 게임인지 말이죠.
국내 주요 통신·플랫폼 기업들이 별도 애플리케이션(앱) 설치 없이 카카오톡이나 전화·문자 등으로 쉽게 이용할 수 있는 대국민 인공지능(AI) 비서를 연내 출시한다. 복잡한 사용법을 새로 익혀야 하는 외산 AI와 달리, 전 국민에게 익숙한 기존 채널을 활용해 진입 장벽을 대폭 낮춘 것이 특징이다.
“인공지능(AI)의 이런 기능이 좋고 이런 것을 잘할 수 있다는 이야기만 해서는 안 됩니다. AI 에이전트가 어떤 근거와 과정을 거쳐 행동했는지 증거 흐름을 남기고, 역할별 권한을 통제하며, 위험할 때는 바로 중지시킬 수 있는지에 답할 수 있어야 합니다.” 손기욱 한국사이버안보학회장 겸 서울과학기술대학교 교수는 ‘AI 에이전트 보안’을 실제 제품으로 만들기 위해 필요한 조건을 설명하며 이렇게 강조했다.
“AI 시대 기업이 원하는 것은 단순한 보안 제품이 아닙니다. AI 위험과 보안 요구, 품질, 비용, 책임을 함께 관리하는 거버넌스가 필요합니다.” 김영랑 프라이빗AI(PRIBIT AI·구 프라이빗테크놀로지) 대표는 4일 서울 반얀트리 클럽 앤 스파 서울에서 열린 ‘프라이빗 AI 테크 서밋(PRIBIT AI Tech Summit)’에서 AI 거버넌스·위험통제 기업으로 전환한다는 비전을 밝혔다. 지난 7월 사명을 바꾼 프라이빗AI는 기존 제로트러스트 기술을 인공지능(AI)의 데이터 접근과 에이전트 실행까지 통제하는 영역으로 넓힌다.
마이크로소프트(MS)가 엑스박스 클라우드 게임 서비스 무제한 사용을 끝낸다. 오는 11월부터 요금제에 따라 정해진 시간만 서비스를 이용할 수 있게 된다. 시간을 모두 소진하면 별도 이용권을 구매해야 한다. 클라우드 게임은 별도 서버에서 게임을 구동한 다음 인터넷을 통해 이용자 기기에 화면을 전송하는 ‘게임 스트리밍’ 서비스다.
엔비디아가 오픈소스 AI 플랫폼 허깅페이스를 129억달러(약 18조원)에 인수하기로 합의했다고 발표했다. 엔비디아는 허깅페이스 주주들에게 119억달러를 지급하고, 핵심 인력의 이탈을 막기 위한 잔류 인센티브로 10억달러 규모의 지분을 별도로 배정했다.
오픈AI가 차세대 프론티어 모델 ‘GPT-6 아스트라(Astra)’를 출시했다. 오랜만의 세대 변경으로, 그렉 브록만 오픈AI 사장은 ‘세대적 도약’이라 표현하며 “인공일반지능(AGI)의 시대가 도래했다”고 말했다. 인류 역사상 가장 위험한 AI 모델이 등장했다.
End of content
End of content