KISA, 앤트로픽 글래스윙 여파에 기업 보안점검 요청…“AI 기반 보안 체계 필요”

KISA, 앤트로픽 글래스윙 여파에 기업 보안점검 요청…“AI 기반 보안 체계 필요”

By곽중희

인공지능(AI) 기업 앤트로픽이 지난 22일 ‘프로젝트 글래스윙(Project Glasswing)’의 첫 성과를 발표한 후 정부가 국내 기업에 사이버 보안 점검과 대비태세 강화를 요청했다. AI가 소프트웨어 취약점을 대규모로 찾아내는 단계에 들어서면서, 기업도 기존의 수동 점검 중심 보안 체계를 재정비해야 한다는 취지다.

술렁이는 보안업계, 티오리 대표 ‘폄하성 발언’ 논란
| |

술렁이는 보안업계, 티오리 대표 ‘폄하성 발언’ 논란

By곽중희

오펜시브 보안 전문기업 티오리(Theori)를 둘러싸고 국내 일부 보안업계에서 우려가 나오고 있다. 박세준 티오리 대표가 지난 8일 과학기술정보통신부(이하 과기정통부) 장관 주재 미토스(Mythos) 관련 간담회에서 국내 보안업계에 대한 의견을 밝힌 뒤, 업계에서는 발언의 수위와 취약점 정보 관리 문제에 대한 지적이 나오고 있다.

[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대, ‘책임 있는 이용’ 논의 시작해야”
| | | |

[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대, ‘책임 있는 이용’ 논의 시작해야”

By곽중희

앤트로픽의 새 인공지능(AI) 모델 ‘클로드 미토스(Claude Mythos)’ 등장을 계기로 AI가 사이버보안 분야에 미칠 영향에 대한 논의가 커지고 있다. AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지 등을 두고 우려가 커지고 있다. 바이라인네트워크는 ‘미토스 이후, 전문가에게 듣는다’ 시리즈로 미토스 프리뷰를 접한 전문가들의 견해와 에이전틱 AI 시대의 사이버보안 대응 방향을 살펴본다. 그 여섯 번째로 최경진 가천대학교 법과대학 교수를 인터뷰했다. 최 교수는 한국인공지능법학회 회장으로 활동하고 있다. [편집자주]

[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”
| | |

[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”

By곽중희

윤두식 이로운앤컴퍼니 대표는 미토스 이후 기업 AI 보안의 핵심을 ‘거버넌스’에서 찾았다. 여기서 거버넌스는 추상적인 관리 체계를 뜻하지 않는다. 기업 안에서 누가 어떤 AI 모델을 쓰고, 어떤 데이터를 입력했으며, 어떤 답변을 받았는지 볼 수 있게 하는 가시성 체계에 가깝다. 여기에 민감정보 필터링, 유해 프롬프트 분류, 사용자·부서별 권한 관리, 사용량과 비용 관리, 감사 로그를 결합해야 실제 통제가 가능하다는 설명이다.

과기정통부, 앤트로픽과 AI 보안 협력 논의

과기정통부, 앤트로픽과 AI 보안 협력 논의

By곽중희

과학기술정보통신부(이하 과기정통부)는 외교부·국가정보원·금융위원회·인공지능안전연구소(AISI)·한국인터넷진흥원(KISA)·금융보안원과 함께 미국 인공지능(AI) 기업 앤트로픽과 AI·사이버보안 분야 협력 방안을 논의하는 간담회를 11일 열었다고 밝혔다.

[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움”
| | |

[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움”

By곽중희

박관순 티오리 CISO는 미토스 논란을 오펜시브 보안 현장의 관점에서 짚었다. 오펜시브 보안은 공격자의 방식으로 시스템을 점검하고 취약점을 검증하는 보안 영역이다. 박 CISO는 미토스를 단순히 ‘강한 AI 모델’로만 보면 안 된다고 했다. 그는 “취약점을 찾는 모델도 중요하지만, 어떤 코드를 볼지 정하고, 결과가 실제 공격 가능한 취약점인지 검증하고, 오탐을 걸러내는 운영 체계가 함께 있어야 한다”고 강조했다.

[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”
| | |

[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”

By곽중희

이상근 고려대 교수는 같은 문제를 더 넓은 국가안보와 거버넌스 관점에서 봤다. 그는 미토스를 단순히 취약점을 잘 찾는 AI 모델로 보지 않았다. 코딩을 잘하는 AI가 보안을 잘하게 되고, 그 능력이 취약점 탐지와 공격 도구 생성, 심각도 분류, 패치 자동화로 이어지면 사이버보안 자체가 전략 자산이 된다는 설명이다. 이 교수는 “미토스는 코딩, 추론, 장문맥, 사이버보안 능력이 결합된 모델”이라며 “코딩을 잘하는 AI를 선점하는 것이 곧 사이버 역량을 선점하는 일이 될 수 있다”고 말했다.

End of content

End of content