AI 악용 사이버위협 ‘비상’…정부, 민관 합동 대응 본격 추진
| |

AI 악용 사이버위협 ‘비상’…정부, 민관 합동 대응 본격 추진

정부가 앤트로픽 미토스 같은 고성능 인공지능(AI)을 악용한 사이버위협에 대응하기 위한 본격 행보에 나섰다. 과학기술정보통신부는 29일 열린 제9회 과학기술관계장관회의에서 ‘AI 기반 사이버위협에 대응하기 위한 민간 정보보호 추진계획(안)’을 발표했다.

[미토스 이후, 전문가에게 듣는다⑦] 곽진 아주대 교수 “AI 기업이 글로벌 안보 지형 바꾸는 시대 왔다”
| | |

[미토스 이후, 전문가에게 듣는다⑦] 곽진 아주대 교수 “AI 기업이 글로벌 안보 지형 바꾸는 시대 왔다”

곽진 아주대학교 사이버보안학과 교수는 앤트로픽의 ‘미토스’ 등장을 사이버보안 패러다임이 바뀌는 변곡점으로 봤다. 처음에는 기술 공개 범위가 제한돼 있어 마케팅 성격도 있다고 봤지만, 이후 공개된 사례를 보며 생각이 달라졌다는 설명이다.

IBM-레드햇, 오픈소스 보안 강화에 50억달러 투자
|

IBM-레드햇, 오픈소스 보안 강화에 50억달러 투자

앤트로픽의 미토스 모델 발표 후 AI 도구를 활용한 소프트웨어 보안 취약점 발견이 급증하는 가운데, 현재 가장 큰 타격을 입고 있는 오픈소스 소프트웨어의 공급망 보안 분야에 IBM과 레드햇이 대규모 투자를 단행한다. 내부 AI 기술과 2만여명의 엔지니어를 투입해 기업에서 즉시 활용가능한 오픈소스 소프트웨어 보안성 관리 체계를 구축한다는 계획이다.

KISA, 앤트로픽 글래스윙 여파에 기업 보안점검 요청…“AI 기반 보안 체계 필요”

KISA, 앤트로픽 글래스윙 여파에 기업 보안점검 요청…“AI 기반 보안 체계 필요”

인공지능(AI) 기업 앤트로픽이 지난 22일 ‘프로젝트 글래스윙(Project Glasswing)’의 첫 성과를 발표한 후 정부가 국내 기업에 사이버 보안 점검과 대비태세 강화를 요청했다. AI가 소프트웨어 취약점을 대규모로 찾아내는 단계에 들어서면서, 기업도 기존의 수동 점검 중심 보안 체계를 재정비해야 한다는 취지다.

술렁이는 보안업계, 티오리 대표 ‘폄하성 발언’ 논란
| |

술렁이는 보안업계, 티오리 대표 ‘폄하성 발언’ 논란

오펜시브 보안 전문기업 티오리(Theori)를 둘러싸고 국내 일부 보안업계에서 우려가 나오고 있다. 박세준 티오리 대표가 지난 8일 과학기술정보통신부(이하 과기정통부) 장관 주재 미토스(Mythos) 관련 간담회에서 국내 보안업계에 대한 의견을 밝힌 뒤, 업계에서는 발언의 수위와 취약점 정보 관리 문제에 대한 지적이 나오고 있다.

[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대, ‘책임 있는 이용’ 논의 시작해야”
| | | |

[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대, ‘책임 있는 이용’ 논의 시작해야”

앤트로픽의 새 인공지능(AI) 모델 ‘클로드 미토스(Claude Mythos)’ 등장을 계기로 AI가 사이버보안 분야에 미칠 영향에 대한 논의가 커지고 있다. AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지 등을 두고 우려가 커지고 있다. 바이라인네트워크는 ‘미토스 이후, 전문가에게 듣는다’ 시리즈로 미토스 프리뷰를 접한 전문가들의 견해와 에이전틱 AI 시대의 사이버보안 대응 방향을 살펴본다. 그 여섯 번째로 최경진 가천대학교 법과대학 교수를 인터뷰했다. 최 교수는 한국인공지능법학회 회장으로 활동하고 있다. [편집자주]

[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”
| | |

[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”

윤두식 이로운앤컴퍼니 대표는 미토스 이후 기업 AI 보안의 핵심을 ‘거버넌스’에서 찾았다. 여기서 거버넌스는 추상적인 관리 체계를 뜻하지 않는다. 기업 안에서 누가 어떤 AI 모델을 쓰고, 어떤 데이터를 입력했으며, 어떤 답변을 받았는지 볼 수 있게 하는 가시성 체계에 가깝다. 여기에 민감정보 필터링, 유해 프롬프트 분류, 사용자·부서별 권한 관리, 사용량과 비용 관리, 감사 로그를 결합해야 실제 통제가 가능하다는 설명이다.

End of content

End of content