[미토스 이후, 전문가에게 듣는다⑩] 보안 전문가들이 본 AI 보안 대응, 무엇이 바뀌어야 하나
| | |

[미토스 이후, 전문가에게 듣는다⑩] 보안 전문가들이 본 AI 보안 대응, 무엇이 바뀌어야 하나

미토스 이슈는 이제 AI 모델의 성능 논쟁을 넘어 국가의 안보 문제로까지 번지고 있다. 앤트로픽은 최근 일반 사용자용 모델 ‘클로드 페이블5(Claude Fable 5)’와 제한 접근 모델 ‘클로드 미토스5(Claude Mythos 5)’를 출시했다. 하지만 출시 직후 미국 정부가 국가안보 권한을 근거로 두 모델에 대한 외국 국적자 접근 중단을 지시하면서 논란이 커지고 있다. 앤트로픽은 정부 요청에 따라 페이블5와 미토스5 접근을 일시 중단했고, 접근 중단 문제를 해결하기 위해 백악관과 협의하는 등 대응에 나선 것으로 알려졌다. 전문가들이 미토스 이후의 대응을 서둘러야 한다고 보는 이유도 여기에 있다. 대응은 보안 특화 모델 개발이나 취약점 탐지, 빠른 패치 중 어떤 하나의 주제로 매몰되면 안 된다. 취약점을 찾는 속도가 빨라졌다면, 방어자는 패치 대응 체계를 바꾸고, AI를 활용한 방어 전략을 만들며, 장기적으로는 국가 안보와 직결되는 AI 기반 보안 역량을 높일 수 있는 방안을 마련해야 한다.

[미토스 이후, 전문가에게 듣는다⑨] 보안 전문가들이 본 AI 시대의 사이버보안, 무엇이 달라졌나
| | |

[미토스 이후, 전문가에게 듣는다⑨] 보안 전문가들이 본 AI 시대의 사이버보안, 무엇이 달라졌나

미토스 이후의 변화에 대해 국내 보안 전문가들의 진단을 종합하면 이렇다. “미토스는 단순히 취약점을 잘 찾는 AI 모델이 아니라, 사이버 공격의 비용과 속도, 방어자의 대응 구조, 국가안보와 기업 거버넌스의 전제를 함께 흔드는 강력한 신호”라는 것이다.

[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대, ‘책임 있는 이용’ 논의 시작해야”
| | | |

[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대, ‘책임 있는 이용’ 논의 시작해야”

앤트로픽의 새 인공지능(AI) 모델 ‘클로드 미토스(Claude Mythos)’ 등장을 계기로 AI가 사이버보안 분야에 미칠 영향에 대한 논의가 커지고 있다. AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지 등을 두고 우려가 커지고 있다. 바이라인네트워크는 ‘미토스 이후, 전문가에게 듣는다’ 시리즈로 미토스 프리뷰를 접한 전문가들의 견해와 에이전틱 AI 시대의 사이버보안 대응 방향을 살펴본다. 그 여섯 번째로 최경진 가천대학교 법과대학 교수를 인터뷰했다. 최 교수는 한국인공지능법학회 회장으로 활동하고 있다. [편집자주]

[해시드와 AI 창업자③] GPTO가 ‘AI판 옥외광고’ 만드는 법
| |

[해시드와 AI 창업자③] GPTO가 ‘AI판 옥외광고’ 만드는 법

어크로스는 지난해 8월 창업해 프라이머와 해시드의 기술 심사를 거쳐 초기 투자를 유치했다. 투자 유치 배경으로는 바이브코딩을 기반으로 한 빠른 개발 속도가 꼽힌다. 현재 200개 이상의 고객사를 확보하고 있으며 손익분기점을 맞춘 상태다. 매달 매출이 2배씩 성장하고 있어 수익성 또한 빠르게 개선되고 있다. 또한 아마존웹서비스(AWS), 대홍기획 등 국내외 기업들과 파트너십을 확대하고 있다. 이재홍 대표는 ‘나이트로 바이 해시드(Nitro by Hashed)’ 프로그램을 해시드와 공동으로 기획하며 협업을 이어가고 있다. 이 대표를 만나 창업 계기와 향후 목표를 들어봤다.

[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”
| | |

[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”

윤두식 이로운앤컴퍼니 대표는 미토스 이후 기업 AI 보안의 핵심을 ‘거버넌스’에서 찾았다. 여기서 거버넌스는 추상적인 관리 체계를 뜻하지 않는다. 기업 안에서 누가 어떤 AI 모델을 쓰고, 어떤 데이터를 입력했으며, 어떤 답변을 받았는지 볼 수 있게 하는 가시성 체계에 가깝다. 여기에 민감정보 필터링, 유해 프롬프트 분류, 사용자·부서별 권한 관리, 사용량과 비용 관리, 감사 로그를 결합해야 실제 통제가 가능하다는 설명이다.

[미토스 이후, 전문가에게 듣는다④] 최영철 SGA솔루션즈 대표 “미토스는 핵폭탄급, 제로 트러스트 전환 앞당겨야”
| | |

[미토스 이후, 전문가에게 듣는다④] 최영철 SGA솔루션즈 대표 “미토스는 핵폭탄급, 제로 트러스트 전환 앞당겨야”

최영철 SGA솔루션즈 대표는 미토스의 영향을 크게 두 갈래로 봤다. 하나는 시큐어코딩, 취약점 점검, 모의해킹 같은 보안산업 일부가 직접 받을 충격이다. 다른 하나는 미토스 같은 AI 모델이 상용화됐을 때 기업과 공공기관의 보안 운영 방식이 어떻게 바뀌어야 하는지의 문제다.

[에이전트와 보안④] AI 에이전트 보안, ‘거버넌스’가 관건이다
| | |

[에이전트와 보안④] AI 에이전트 보안, ‘거버넌스’가 관건이다

인공지능(AI) 에이전트를 안전하게 쓰기 위한 기술 논의는 많이 이뤄지고 있다. 가시성 확보, 권한 분리, 신원 검증, 가드레일, 샌드박스, 레드팀 평가가 대표적이다. 하지만 기술 통제만으로 AI 에이전트의 보안을 완성할 수는 없다. 기업은 어떤 AI를 허용할지, 어떤 업무에는 금지할지, 어떤 데이터와 연결할지, 어떤 행동에는 사람 승인을 요구할지 정해야 한다. 사고가 났을 때 책임 소재도 분명히 해야 한다. AI 에이전트가 업무 시스템에 연결되는 순간 보안은 기술 문제가 아니라 운영 기준과 정책 거버넌스 문제로 확장된다.

[AI 전환 커머스 ⑤] MCP 구축하는 이커머스 플랫폼
| |

[AI 전환 커머스 ⑤] MCP 구축하는 이커머스 플랫폼

챗GPT와 같은 AI 챗봇이 인기를 끌면서, 이커머스 플랫폼들도 AI 챗봇에  자사 서비스를 노출하거나 하려는 시도가 늘고 있다. 대표적인 방법론은 MCP(Model Context Protocol) 활용이다. MCP는 AI와 데이터를 직접 주고 받을 수 있는 개방형 표준이다. AI 전략에 적극적인 국내 이커머스 플랫폼들은 MCP 서버를 마련하기 위해 데이터 정비 등 여러 선행 작업을 진행하고 있다.

[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움”
| | |

[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움”

박관순 티오리 CISO는 미토스 논란을 오펜시브 보안 현장의 관점에서 짚었다. 오펜시브 보안은 공격자의 방식으로 시스템을 점검하고 취약점을 검증하는 보안 영역이다. 박 CISO는 미토스를 단순히 ‘강한 AI 모델’로만 보면 안 된다고 했다. 그는 “취약점을 찾는 모델도 중요하지만, 어떤 코드를 볼지 정하고, 결과가 실제 공격 가능한 취약점인지 검증하고, 오탐을 걸러내는 운영 체계가 함께 있어야 한다”고 강조했다.

[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”
| | |

[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”

이상근 고려대 교수는 같은 문제를 더 넓은 국가안보와 거버넌스 관점에서 봤다. 그는 미토스를 단순히 취약점을 잘 찾는 AI 모델로 보지 않았다. 코딩을 잘하는 AI가 보안을 잘하게 되고, 그 능력이 취약점 탐지와 공격 도구 생성, 심각도 분류, 패치 자동화로 이어지면 사이버보안 자체가 전략 자산이 된다는 설명이다. 이 교수는 “미토스는 코딩, 추론, 장문맥, 사이버보안 능력이 결합된 모델”이라며 “코딩을 잘하는 AI를 선점하는 것이 곧 사이버 역량을 선점하는 일이 될 수 있다”고 말했다.

[생산적금융 대전환⑦] 하나금융, 84조 투입해 ‘성장산업 중심 전환’
| |

[생산적금융 대전환⑦] 하나금융, 84조 투입해 ‘성장산업 중심 전환’

하나금융지주는 2030년까지 5년간 총 84조원 규모의 생산적금융을 공급하는 것을 목표로 하고 있다. 올해 공급 목표는 기존 계획보다 1조6000억원 늘어난 17조8000억원으로 확정했다. 주요 분야는 첨단인프라 및 인공지능(AI) 2조5000억원, 모험자본·지역균형발전 등 직접투자 2조5000억원, 핵심 첨단산업 10조원, K-밸류체인·수출공급망 지원 2조8000억원 등이다.

[에이전트와 보안③] AI 에이전트, 어떻게 통제해야 하나?
| |

[에이전트와 보안③] AI 에이전트, 어떻게 통제해야 하나?

메일을 읽고, 문서를 찾고, 외부 도구를 호출해 일을 처리하는 AI 에이전트는 이미 업무 환경에 들어왔다. AI 에이전트는 단순히 답을 내놓는 도구가 아니라 권한을 가진 실행 주체다. 그만큼 보안도 모델의 답변을 점검하는 수준에서 멈춰서는 안된다. AI 에이전트를 통제하려면 어떤 권한을 줄 것인지, 어떤 도구와 연결할 것인지, 어떤 환경에서 실행할 것인지부터 정해야 한다. 위험한 입력과 출력은 중간에서 걸러야 하고, 실행 환경은 격리해야 한다. 어떤 행동을 했는지 추적할 수 있는 로그와 배포 전 시험 평가도 필요하다.

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”
| |

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”

앤트로픽의 인공지능(AI) 모델 ‘미토스’를 계기로 AI가 사이버보안에 미칠 영향에 대한 논의가 커지고 있다. 핵심은 AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지다. 바이라인네트워크는 ‘전문가가 본 미토스’ 시리즈를 통해 AI 보안 위협의 실체와 국내 대응 방향을 전문가별로 짚어본다. 첫 번째로 시스템 보안과 소프트웨어 보안을 연구해온 윤인수 카이스트 교수의 견해를 들어봤다.

[에이전트와 보안②] AI 에이전트 보안 위협 현실화…메일 삭제부터 코드 실행까지
| |

[에이전트와 보안②] AI 에이전트 보안 위협 현실화…메일 삭제부터 코드 실행까지

AI 에이전트의 보안 위협은 이미 메일함, 내부 문서, 코드 저장소, 플러그인 생태계에서 구체적인 사례로 드러나고 있다. 시장은 아직 초기 단계지만, 사고와 연구 사례는 이미 나오기 시작했다. 공통점은 분명하다. 에이전트가 읽는 입력이 명령으로 바뀌고, 에이전트가 가진 권한이 곧 사고의 범위를 결정한다는 점이다. 최근 공개된 사례만 봐도 승인 없는 메일 삭제, 기밀 메일 요약, 개발 도구를 통한 원격 코드 실행, 플러그인 생태계의 자격증명 노출 문제가 잇따랐다.

End of content

End of content