이상근 고려대 교수 “미토스, AI의 사이버 무기화 앞당겼다”
|

이상근 고려대 교수 “미토스, AI의 사이버 무기화 앞당겼다”

앤트로픽이 새로운 AI 모델 ‘클로드 미토스 프리뷰’를 공개한 이후, AI 기반 사이버 위협에 대한 우려가 점점 커지고 있다. 이상근 고려대학교 정보보호대학원 스마트보안학부 교수(AI보안연구소장)는 23일 서울 여의도 FKI타워 컨퍼런스센터에서 열린 ‘프론티어 AI 미토스 공개 보류 사태와 국가 및 기업 사이버 위기 대응 전략 긴급좌담회’에서 “미토스는 사이버보안 자체의 무기화 순간”이라고 진단했다.

“미토스는 현실의 경영 리스크”…AI 보안 체계 전환 논의

“미토스는 현실의 경영 리스크”…AI 보안 체계 전환 논의

PwC컨설팅과 유동수 더불어민주당 의원은 23일 서울 여의도 FKI타워 컨퍼런스센터에서 ‘프론티어 AI 미토스 공개 보류 사태와 국가·기업 사이버 위기 대응 전략’ 긴급 좌담회를 열고, 프론티어 AI 확산이 국가 안보와 산업, 사회에 미칠 영향과 대응 방안을 논의했다. 좌담회에는 학계와 정·관계, 산업계 관계자 100여명이 참석했다.

“사고, 해킹, AI 등 트라우마를 회복력으로 연결하라”
|

“사고, 해킹, AI 등 트라우마를 회복력으로 연결하라”

심리학은 회복력을 트라우마 극복 메커니즘으로 정의한다. 사고에서 살아남는 능력이면서 그 경험으로 배우고 새로운 현실에서 번영할 수 있는 능력이다. 지난 몇년 간 우리의 시스템은 끊임없는 트라우마를 겪고 있다. 과거의 디지털 회복력은 너무 오랫동안 방어적이었고 추락을 견디기 위해서 만들어졌다. 고가용성 아키텍처, 재해복구, 지속적 보안 패치 주기 등으로 생존 메커니즘을 익혔다고 생각했다. 지금 디지털 회복력은 전환점에 서 있다. – 토마스 디 지아코모 수세 CTO.

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”
| |

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”

앤트로픽의 인공지능(AI) 모델 ‘미토스’를 계기로 AI가 사이버보안에 미칠 영향에 대한 논의가 커지고 있다. 핵심은 AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지다. 바이라인네트워크는 ‘전문가가 본 미토스’ 시리즈를 통해 AI 보안 위협의 실체와 국내 대응 방향을 전문가별로 짚어본다. 첫 번째로 시스템 보안과 소프트웨어 보안을 연구해온 윤인수 카이스트 교수의 견해를 들어봤다.

[에이전트와 보안②] AI 에이전트 보안 위협 현실화…메일 삭제부터 코드 실행까지
| |

[에이전트와 보안②] AI 에이전트 보안 위협 현실화…메일 삭제부터 코드 실행까지

AI 에이전트의 보안 위협은 이미 메일함, 내부 문서, 코드 저장소, 플러그인 생태계에서 구체적인 사례로 드러나고 있다. 시장은 아직 초기 단계지만, 사고와 연구 사례는 이미 나오기 시작했다. 공통점은 분명하다. 에이전트가 읽는 입력이 명령으로 바뀌고, 에이전트가 가진 권한이 곧 사고의 범위를 결정한다는 점이다. 최근 공개된 사례만 봐도 승인 없는 메일 삭제, 기밀 메일 요약, 개발 도구를 통한 원격 코드 실행, 플러그인 생태계의 자격증명 노출 문제가 잇따랐다.

데이터독, GPU 모니터링 공개…AI 운영 비용 관리 겨냥

데이터독, GPU 모니터링 공개…AI 운영 비용 관리 겨냥

데이터독이 GPU 모니터링 기능을 23일 정식 출시했다. GPU 모니터링은 기업의 인공지능(AI) 인프라 운영 과정에서 발생하는 비용과 성능 문제를 관리하기 위한 기능이다. 회사 측은 이를 통해 워크로드 병목과 리소스 비효율을 파악할 수 있다고 전했다.

한컴 “AI가 대신 일한다”…에이전틱 OS 상반기 출시

한컴 “AI가 대신 일한다”…에이전틱 OS 상반기 출시

한글과컴퓨터(이하 한컴)는 23일 온라인 행사 ‘한컴 AX 데이’를 열고 전사 AI 전환 전략을 발표했다. 사용자 업무를 대신 수행하는 ‘디지털 쌍둥이’ 개념을 적용한 ‘트윈형 에이전틱 OS’ 출시 계획도 함께 공개했다. 김연수 한컴 대표는 “해당 OS를 상반기 내 출시하고, 연내 상용화하겠다”고 밝혔다.

AWS, ‘에이전틱 AI’ 성공사례 대방출…“파트너와 측정가능한 비즈니스 성과 창출”
|

AWS, ‘에이전틱 AI’ 성공사례 대방출…“파트너와 측정가능한 비즈니스 성과 창출”

“AWS는 가장 포괄적인 에이전틱 AI 스택을 제공해, 현업에 도움이 되는 가치를 창출하고 있고, 측정 가능한 성과를 도출하고 있다.” 아마존웹서비스(AWS)가 국내외 고객과 파트너들이 AI를 활용해 실제 비즈니스 성과를 올리고 있는 성공 사례를 대거 공개하고, 1000개 기업을 분석해 도출한 AI 성공 공식을 제시했다.

IT 세계에 나타나는 열린 사회와 그 적들
|

IT 세계에 나타나는 열린 사회와 그 적들

안타깝게도, 우리는 선택권이 공격받는 시대에 살고 있다. 전세계적인 정치 환경이 그 상황을 돕지 못하고 있다. 선택지가 사라지면 지렛대, 즉 비즈니스를 하는 방식이든 관계를 맺는 방식이든 다 사라진다. 지렛대가 사라지면 결국 회복력이 사라질 것이다. 당신은 직접 하지 않은 선택에 얽매이게 될 것이다.

소프트캠프 “AI 시대, 문서보안도 진화해야 한다”
| |

소프트캠프 “AI 시대, 문서보안도 진화해야 한다”

“사람과 사람의 소통하는 도구로 문서가 사용됐다면, 이제는 사람과 대규모언어모델(LLM)의 소통도 문서로 이뤄집니다. 인공지능(AI)이 문서를 읽고 처리할 수 있기 때문입니다. 문서보안은 AI가 문서를 읽고 행동하는 환경까지 통제하는 모델로 확장돼야 합니다.” 배환국 소프트캠프 대표는 22일 바이라인네트워크와의 인터뷰에서 이같이 말했다. 문서가 사람 사이의 협업 도구를 넘어 인공지능(AI) 에이전트가 업무를 이해하고 실행하는 통로로 바뀌면서, 문서보안 기업 소프트캠프도 AI·서비스형 소프트웨어(SaaS) 시대에 맞춰 보안 전략을 확장하고 있다는 설명이다.

End of content

End of content