이상근 고려대 교수 “미토스, AI의 사이버 무기화 앞당겼다”
|

이상근 고려대 교수 “미토스, AI의 사이버 무기화 앞당겼다”

By곽중희

앤트로픽이 새로운 AI 모델 ‘클로드 미토스 프리뷰’를 공개한 이후, AI 기반 사이버 위협에 대한 우려가 점점 커지고 있다. 이상근 고려대학교 정보보호대학원 스마트보안학부 교수(AI보안연구소장)는 23일 서울 여의도 FKI타워 컨퍼런스센터에서 열린 ‘프론티어 AI 미토스 공개 보류 사태와 국가 및 기업 사이버 위기 대응 전략 긴급좌담회’에서 “미토스는 사이버보안 자체의 무기화 순간”이라고 진단했다.

“미토스는 현실의 경영 리스크”…AI 보안 체계 전환 논의

“미토스는 현실의 경영 리스크”…AI 보안 체계 전환 논의

By곽중희

PwC컨설팅과 유동수 더불어민주당 의원은 23일 서울 여의도 FKI타워 컨퍼런스센터에서 ‘프론티어 AI 미토스 공개 보류 사태와 국가·기업 사이버 위기 대응 전략’ 긴급 좌담회를 열고, 프론티어 AI 확산이 국가 안보와 산업, 사회에 미칠 영향과 대응 방안을 논의했다. 좌담회에는 학계와 정·관계, 산업계 관계자 100여명이 참석했다.

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”
| |

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”

By곽중희

앤트로픽의 인공지능(AI) 모델 ‘미토스’를 계기로 AI가 사이버보안에 미칠 영향에 대한 논의가 커지고 있다. 핵심은 AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지다. 바이라인네트워크는 ‘전문가가 본 미토스’ 시리즈를 통해 AI 보안 위협의 실체와 국내 대응 방향을 전문가별로 짚어본다. 첫 번째로 시스템 보안과 소프트웨어 보안을 연구해온 윤인수 카이스트 교수의 견해를 들어봤다.

[에이전트와 보안②] AI 에이전트 보안 위협 현실화…메일 삭제부터 코드 실행까지
| |

[에이전트와 보안②] AI 에이전트 보안 위협 현실화…메일 삭제부터 코드 실행까지

By곽중희

AI 에이전트의 보안 위협은 이미 메일함, 내부 문서, 코드 저장소, 플러그인 생태계에서 구체적인 사례로 드러나고 있다. 시장은 아직 초기 단계지만, 사고와 연구 사례는 이미 나오기 시작했다. 공통점은 분명하다. 에이전트가 읽는 입력이 명령으로 바뀌고, 에이전트가 가진 권한이 곧 사고의 범위를 결정한다는 점이다. 최근 공개된 사례만 봐도 승인 없는 메일 삭제, 기밀 메일 요약, 개발 도구를 통한 원격 코드 실행, 플러그인 생태계의 자격증명 노출 문제가 잇따랐다.

[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다
| |

[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다

By곽중희

인공지능(AI) 보안의 초점이 바뀌고 있다. 기존 생성형 AI 보안은 주로 모델에 어떤 프롬프트가 들어가고, 모델이 어떤 답변을 내놓는지에 맞춰져 있었다. 공격자가 악성 지시를 넣어 안전장치를 우회하는지, 모델이 유해한 답변이나 잘못된 정보를 생성하는지, 민감한 데이터를 답변으로 흘리는지가 핵심 쟁점이었다. 하지만 AI 에이전트가 등장하면서 문제의 성격이 달라졌다. 이제 AI는 단순히 답변을 내놓는 데 그치지 않는다. 웹을 탐색하고, 문서를 읽고, 외부 도구를 호출하고, 사용자를 대신해 작업을 수행한다. 답변이 잘못되는 수준을 넘어, 잘못된 판단이 실제 행동으로 이어질 수 있는 구조가 된 것이다.

AI가 재편한 사이버 전장…보안의 중심, ‘취약점’에서 ‘회복력’으로
| |

AI가 재편한 사이버 전장…보안의 중심, ‘취약점’에서 ‘회복력’으로

By이유지

한때 취약점 스캐너의 등장은 보안의 판도를 바꾼 사건이었다. 공격자만이 활용하던 도구가 방어자에게 넘어오면서, 보안은 경험과 직관의 영역에서 데이터와 프로세스 기반의 관리 체계로 전환됐다. 그러나 최근 인공지능(AI)이 취약점 발굴을 넘어 익스플로잇 생성까지 수행하기 시작하면서, 보안은 또 한 번의 구조적 전환점에 직면하고 있다. 이번 변화는 단순한 기술 발전이 아니다. 보안의 전제 자체를 바꾸고 있다.

금융보안원, 금융권 AI 보안 전문인력 양성 확대

금융보안원, 금융권 AI 보안 전문인력 양성 확대

By곽중희

금융보안원은 금융회사 임직원을 대상으로 ‘인공지능(AI) 보안 전문인력 양성과정’을 개설하고 금융권 AI 보안 인력 양성 지원에 나선다고 17일 밝혔다. 최근 미토스 등 인공지능(AI)을 활용한 해킹과 AI 대상 공격 위협이 커지는 가운데, 금융권 현장에서 바로 활용할 수 있는 실무형 인력을 키우겠다는 취지다.

오픈AI, 보안 특화 모델 ‘GPT-5.4-사이버’ 제한 공개

오픈AI, 보안 특화 모델 ‘GPT-5.4-사이버’ 제한 공개

By곽중희

오픈AI는 14일 보안 방어자 대상 접근 프로그램인 트러스티드 액세스 포 사이버(TAC)를 확대하고, 보안 특화 모델 ‘GPT-5.4-사이버(GPT-5.4-Cyber)’를 최고 등급 이용자에게 제한적으로 제공한다고 밝혔다. 오픈AI는 TAC를 검증된 개인 방어자 수천명과 핵심 소프트웨어를 방어하는 수백개 팀 규모로 확대한다고 설명했다.

블랙덕, AI 코드·모델 함께 관리하는 보안 방안 제시
|

블랙덕, AI 코드·모델 함께 관리하는 보안 방안 제시

By곽중희

생성형 AI가 소프트웨어 개발 현장에 빠르게 퍼지면서 코드 생산 속도는 빨라졌지만, 그만큼 보안 검증과 라이선스 관리, AI 모델 추적의 중요성도 함께 커지고 있다는 분석이 나왔다. 제병주 블랙덕 부장(세일즈 엔지니어)은 14일 서울 코엑스에서 열린 ‘KTC & 소프트플로우 공동 세미나: 2026년 보안적합성 검증 및 SW 공급망 보안 전략’ 세미나에서 AI가 만든 코드와 AI 모델을 함께 관리하는 애플리케이션 보안 방안을 소개했다.

[심재석의 입장] 앤트로픽 새 AI가 가져온 공포
| |

[심재석의 입장] 앤트로픽 새 AI가 가져온 공포

By심재석

앤트로픽의 새 모델 클로드 미토스가 오픈BSD에서 27년 된 취약점을 찾아냈다는 소식을 들었을 때, 약간 오싹한 기분이 들었다. 강산이 세 번 가까이 바뀌는 긴 시간 동안 아무도 발견하지 못한 취약점을 AI는 순식간에 찾아냈다. 아니, 정확히는 아무도 열심히 찾지 않았던 것을 미토스는 그냥 찾아냈다.

End of content

End of content