[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대, ‘책임 있는 이용’ 논의 시작해야”
| | | |

[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대, ‘책임 있는 이용’ 논의 시작해야”

By곽중희

앤트로픽의 새 인공지능(AI) 모델 ‘클로드 미토스(Claude Mythos)’ 등장을 계기로 AI가 사이버보안 분야에 미칠 영향에 대한 논의가 커지고 있다. AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지 등을 두고 우려가 커지고 있다. 바이라인네트워크는 ‘미토스 이후, 전문가에게 듣는다’ 시리즈로 미토스 프리뷰를 접한 전문가들의 견해와 에이전틱 AI 시대의 사이버보안 대응 방향을 살펴본다. 그 여섯 번째로 최경진 가천대학교 법과대학 교수를 인터뷰했다. 최 교수는 한국인공지능법학회 회장으로 활동하고 있다. [편집자주]

[해시드와 AI 창업자③] GPTO가 ‘AI판 옥외광고’ 만드는 법
| |

[해시드와 AI 창업자③] GPTO가 ‘AI판 옥외광고’ 만드는 법

By이수민

어크로스는 지난해 8월 창업해 프라이머와 해시드의 기술 심사를 거쳐 초기 투자를 유치했다. 투자 유치 배경으로는 바이브코딩을 기반으로 한 빠른 개발 속도가 꼽힌다. 현재 200개 이상의 고객사를 확보하고 있으며 손익분기점을 맞춘 상태다. 매달 매출이 2배씩 성장하고 있어 수익성 또한 빠르게 개선되고 있다. 또한 아마존웹서비스(AWS), 대홍기획 등 국내외 기업들과 파트너십을 확대하고 있다. 이재홍 대표는 ‘나이트로 바이 해시드(Nitro by Hashed)’ 프로그램을 해시드와 공동으로 기획하며 협업을 이어가고 있다. 이 대표를 만나 창업 계기와 향후 목표를 들어봤다.

[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”
| | |

[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”

By곽중희

윤두식 이로운앤컴퍼니 대표는 미토스 이후 기업 AI 보안의 핵심을 ‘거버넌스’에서 찾았다. 여기서 거버넌스는 추상적인 관리 체계를 뜻하지 않는다. 기업 안에서 누가 어떤 AI 모델을 쓰고, 어떤 데이터를 입력했으며, 어떤 답변을 받았는지 볼 수 있게 하는 가시성 체계에 가깝다. 여기에 민감정보 필터링, 유해 프롬프트 분류, 사용자·부서별 권한 관리, 사용량과 비용 관리, 감사 로그를 결합해야 실제 통제가 가능하다는 설명이다.

[미토스 이후, 전문가에게 듣는다④] 최영철 SGA솔루션즈 대표 “미토스는 핵폭탄급, 제로 트러스트 전환 앞당겨야”
| | |

[미토스 이후, 전문가에게 듣는다④] 최영철 SGA솔루션즈 대표 “미토스는 핵폭탄급, 제로 트러스트 전환 앞당겨야”

By곽중희

최영철 SGA솔루션즈 대표는 미토스의 영향을 크게 두 갈래로 봤다. 하나는 시큐어코딩, 취약점 점검, 모의해킹 같은 보안산업 일부가 직접 받을 충격이다. 다른 하나는 미토스 같은 AI 모델이 상용화됐을 때 기업과 공공기관의 보안 운영 방식이 어떻게 바뀌어야 하는지의 문제다.

[에이전트와 보안④] AI 에이전트 보안, ‘거버넌스’가 관건이다
| | |

[에이전트와 보안④] AI 에이전트 보안, ‘거버넌스’가 관건이다

By곽중희

인공지능(AI) 에이전트를 안전하게 쓰기 위한 기술 논의는 많이 이뤄지고 있다. 가시성 확보, 권한 분리, 신원 검증, 가드레일, 샌드박스, 레드팀 평가가 대표적이다. 하지만 기술 통제만으로 AI 에이전트의 보안을 완성할 수는 없다. 기업은 어떤 AI를 허용할지, 어떤 업무에는 금지할지, 어떤 데이터와 연결할지, 어떤 행동에는 사람 승인을 요구할지 정해야 한다. 사고가 났을 때 책임 소재도 분명히 해야 한다. AI 에이전트가 업무 시스템에 연결되는 순간 보안은 기술 문제가 아니라 운영 기준과 정책 거버넌스 문제로 확장된다.

[AI 전환 커머스 ⑤] MCP 구축하는 이커머스 플랫폼
| |

[AI 전환 커머스 ⑤] MCP 구축하는 이커머스 플랫폼

By성아인

챗GPT와 같은 AI 챗봇이 인기를 끌면서, 이커머스 플랫폼들도 AI 챗봇에  자사 서비스를 노출하거나 하려는 시도가 늘고 있다. 대표적인 방법론은 MCP(Model Context Protocol) 활용이다. MCP는 AI와 데이터를 직접 주고 받을 수 있는 개방형 표준이다. AI 전략에 적극적인 국내 이커머스 플랫폼들은 MCP 서버를 마련하기 위해 데이터 정비 등 여러 선행 작업을 진행하고 있다.

[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움”
| | |

[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움”

By곽중희

박관순 티오리 CISO는 미토스 논란을 오펜시브 보안 현장의 관점에서 짚었다. 오펜시브 보안은 공격자의 방식으로 시스템을 점검하고 취약점을 검증하는 보안 영역이다. 박 CISO는 미토스를 단순히 ‘강한 AI 모델’로만 보면 안 된다고 했다. 그는 “취약점을 찾는 모델도 중요하지만, 어떤 코드를 볼지 정하고, 결과가 실제 공격 가능한 취약점인지 검증하고, 오탐을 걸러내는 운영 체계가 함께 있어야 한다”고 강조했다.

[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”
| | |

[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”

By곽중희

이상근 고려대 교수는 같은 문제를 더 넓은 국가안보와 거버넌스 관점에서 봤다. 그는 미토스를 단순히 취약점을 잘 찾는 AI 모델로 보지 않았다. 코딩을 잘하는 AI가 보안을 잘하게 되고, 그 능력이 취약점 탐지와 공격 도구 생성, 심각도 분류, 패치 자동화로 이어지면 사이버보안 자체가 전략 자산이 된다는 설명이다. 이 교수는 “미토스는 코딩, 추론, 장문맥, 사이버보안 능력이 결합된 모델”이라며 “코딩을 잘하는 AI를 선점하는 것이 곧 사이버 역량을 선점하는 일이 될 수 있다”고 말했다.

[생산적금융 대전환⑦] 하나금융, 84조 투입해 ‘성장산업 중심 전환’
| |

[생산적금융 대전환⑦] 하나금융, 84조 투입해 ‘성장산업 중심 전환’

By이수민

하나금융지주는 2030년까지 5년간 총 84조원 규모의 생산적금융을 공급하는 것을 목표로 하고 있다. 올해 공급 목표는 기존 계획보다 1조6000억원 늘어난 17조8000억원으로 확정했다. 주요 분야는 첨단인프라 및 인공지능(AI) 2조5000억원, 모험자본·지역균형발전 등 직접투자 2조5000억원, 핵심 첨단산업 10조원, K-밸류체인·수출공급망 지원 2조8000억원 등이다.

[에이전트와 보안③] AI 에이전트, 어떻게 통제해야 하나?
| |

[에이전트와 보안③] AI 에이전트, 어떻게 통제해야 하나?

By곽중희

메일을 읽고, 문서를 찾고, 외부 도구를 호출해 일을 처리하는 AI 에이전트는 이미 업무 환경에 들어왔다. AI 에이전트는 단순히 답을 내놓는 도구가 아니라 권한을 가진 실행 주체다. 그만큼 보안도 모델의 답변을 점검하는 수준에서 멈춰서는 안된다. AI 에이전트를 통제하려면 어떤 권한을 줄 것인지, 어떤 도구와 연결할 것인지, 어떤 환경에서 실행할 것인지부터 정해야 한다. 위험한 입력과 출력은 중간에서 걸러야 하고, 실행 환경은 격리해야 한다. 어떤 행동을 했는지 추적할 수 있는 로그와 배포 전 시험 평가도 필요하다.

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”
| |

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”

By곽중희

앤트로픽의 인공지능(AI) 모델 ‘미토스’를 계기로 AI가 사이버보안에 미칠 영향에 대한 논의가 커지고 있다. 핵심은 AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지다. 바이라인네트워크는 ‘전문가가 본 미토스’ 시리즈를 통해 AI 보안 위협의 실체와 국내 대응 방향을 전문가별로 짚어본다. 첫 번째로 시스템 보안과 소프트웨어 보안을 연구해온 윤인수 카이스트 교수의 견해를 들어봤다.

[에이전트와 보안②] AI 에이전트 보안 위협 현실화…메일 삭제부터 코드 실행까지
| |

[에이전트와 보안②] AI 에이전트 보안 위협 현실화…메일 삭제부터 코드 실행까지

By곽중희

AI 에이전트의 보안 위협은 이미 메일함, 내부 문서, 코드 저장소, 플러그인 생태계에서 구체적인 사례로 드러나고 있다. 시장은 아직 초기 단계지만, 사고와 연구 사례는 이미 나오기 시작했다. 공통점은 분명하다. 에이전트가 읽는 입력이 명령으로 바뀌고, 에이전트가 가진 권한이 곧 사고의 범위를 결정한다는 점이다. 최근 공개된 사례만 봐도 승인 없는 메일 삭제, 기밀 메일 요약, 개발 도구를 통한 원격 코드 실행, 플러그인 생태계의 자격증명 노출 문제가 잇따랐다.

[생산적금융 대전환⑤] 신한, 핵심은 ‘성장성 신용평가’ 개발
| |

[생산적금융 대전환⑤] 신한, 핵심은 ‘성장성 신용평가’ 개발

By이수민

신한금융지주가 2030년까지 최대 98조원을 생산적금융에 투입한다. 생산적금융을 통해 자금중개·위험분담·성장지원 등 금융의 본질적 기능을 강화하고, 산업 전반의 혁신과 균형 있는 성장을 뒷받침하겠다는 취지다. 신한금융은 총 93조~98조원 규모의 생산적금융 공급 계획을 밝혔다. 첨단전략산업 육성과 혁신기업 중심의 자금순환 강화를 목표로 한다. 향후 5년간의 경제 상황과 산업구조 변화 등을 고려해 그룹 자체 금융지원 규모는 탄력적으로 운용할 방침이다.

[K-게임사 체질개선②] 넥슨, 검증된 리더십의 선택과 집중
| |

[K-게임사 체질개선②] 넥슨, 검증된 리더십의 선택과 집중

By윤정환

지난해 매출 4조5072억원, 영업이익 1조1765억원. 지난해 넥슨이 달성한 성적표다. 매출은 전년 동기 대비 6% 증가했고, 영업이익은 비슷한 수준이다. 기존 지식재산권(IP)의 안정적인 성과와 신작 ‘아크 레이더스’의 글로벌 흥행이 맞물린 결과다. 국내 게임 업계 맏형다운 실적이라는 평가가 나온다. 외형적 성장세를 이어가고 있지만, 회사는 이에 안주하지 않을 계획이다. 체질개선을 통한 성장을 도모하고 있다.

End of content

End of content