[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”
| |

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”

앤트로픽의 인공지능(AI) 모델 ‘미토스’를 계기로 AI가 사이버보안에 미칠 영향에 대한 논의가 커지고 있다. 핵심은 AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지다. 바이라인네트워크는 ‘전문가가 본 미토스’ 시리즈를 통해 AI 보안 위협의 실체와 국내 대응 방향을 전문가별로 짚어본다. 첫 번째로 시스템 보안과 소프트웨어 보안을 연구해온 윤인수 카이스트 교수의 견해를 들어봤다.

[에이전트와 보안②] AI 에이전트 보안 위협 현실화…메일 삭제부터 코드 실행까지
| |

[에이전트와 보안②] AI 에이전트 보안 위협 현실화…메일 삭제부터 코드 실행까지

AI 에이전트의 보안 위협은 이미 메일함, 내부 문서, 코드 저장소, 플러그인 생태계에서 구체적인 사례로 드러나고 있다. 시장은 아직 초기 단계지만, 사고와 연구 사례는 이미 나오기 시작했다. 공통점은 분명하다. 에이전트가 읽는 입력이 명령으로 바뀌고, 에이전트가 가진 권한이 곧 사고의 범위를 결정한다는 점이다. 최근 공개된 사례만 봐도 승인 없는 메일 삭제, 기밀 메일 요약, 개발 도구를 통한 원격 코드 실행, 플러그인 생태계의 자격증명 노출 문제가 잇따랐다.

소프트캠프 “AI 시대, 문서보안도 진화해야 한다”
| |

소프트캠프 “AI 시대, 문서보안도 진화해야 한다”

“사람과 사람의 소통하는 도구로 문서가 사용됐다면, 이제는 사람과 대규모언어모델(LLM)의 소통도 문서로 이뤄집니다. 인공지능(AI)이 문서를 읽고 처리할 수 있기 때문입니다. 문서보안은 AI가 문서를 읽고 행동하는 환경까지 통제하는 모델로 확장돼야 합니다.” 배환국 소프트캠프 대표는 22일 바이라인네트워크와의 인터뷰에서 이같이 말했다. 문서가 사람 사이의 협업 도구를 넘어 인공지능(AI) 에이전트가 업무를 이해하고 실행하는 통로로 바뀌면서, 문서보안 기업 소프트캠프도 AI·서비스형 소프트웨어(SaaS) 시대에 맞춰 보안 전략을 확장하고 있다는 설명이다.

[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다
| |

[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다

인공지능(AI) 보안의 초점이 바뀌고 있다. 기존 생성형 AI 보안은 주로 모델에 어떤 프롬프트가 들어가고, 모델이 어떤 답변을 내놓는지에 맞춰져 있었다. 공격자가 악성 지시를 넣어 안전장치를 우회하는지, 모델이 유해한 답변이나 잘못된 정보를 생성하는지, 민감한 데이터를 답변으로 흘리는지가 핵심 쟁점이었다. 하지만 AI 에이전트가 등장하면서 문제의 성격이 달라졌다. 이제 AI는 단순히 답변을 내놓는 데 그치지 않는다. 웹을 탐색하고, 문서를 읽고, 외부 도구를 호출하고, 사용자를 대신해 작업을 수행한다. 답변이 잘못되는 수준을 넘어, 잘못된 판단이 실제 행동으로 이어질 수 있는 구조가 된 것이다.

안랩 “클로드 다운로드 사칭 피싱 주의”

안랩 “클로드 다운로드 사칭 피싱 주의”

안랩은 최근 생성형 인공지능(AI) 서비스 ‘클로드(Claude)’ 다운로드 페이지로 위장한 피싱 사이트에서 정보 탈취형 악성코드가 유포되는 사례를 확인하고 사용자 주의를 당부했다고 22일 밝혔다.

티오리, 삼성전자에 AI 해커 ‘진트’ 공급

티오리, 삼성전자에 AI 해커 ‘진트’ 공급

티오리는 인공지능(AI) 해커 솔루션 ‘진트(Xint)’를 삼성전자에 공급했다고 21일 밝혔다. 진트는 대규모 기업이 운영하는 서버, 도메인, 애플리케이션 프로그래밍 인터페이스(API) 등 IT 자산의 보안 점검을 자동화하는 솔루션이다.

End of content

End of content