[에이전트와 보안③] AI 에이전트, 어떻게 통제해야 하나?
| |

[에이전트와 보안③] AI 에이전트, 어떻게 통제해야 하나?

메일을 읽고, 문서를 찾고, 외부 도구를 호출해 일을 처리하는 AI 에이전트는 이미 업무 환경에 들어왔다. AI 에이전트는 단순히 답을 내놓는 도구가 아니라 권한을 가진 실행 주체다. 그만큼 보안도 모델의 답변을 점검하는 수준에서 멈춰서는 안된다. AI 에이전트를 통제하려면 어떤 권한을 줄 것인지, 어떤 도구와 연결할 것인지, 어떤 환경에서 실행할 것인지부터 정해야 한다. 위험한 입력과 출력은 중간에서 걸러야 하고, 실행 환경은 격리해야 한다. 어떤 행동을 했는지 추적할 수 있는 로그와 배포 전 시험 평가도 필요하다.

스패로우, 블랙햇 아시아서 공급망 보안 체계 소개

스패로우, 블랙햇 아시아서 공급망 보안 체계 소개

스패로우(대표 장일수)는 4월21일부터 24일까지 싱가포르 마리나 베이 샌즈에서 열린 ‘블랙햇 아시아 2026(Black Hat Asia 2026)’에 참가해 인공지능(AI) 전환 환경에서 필요한 소프트웨어(SW) 공급망 보안 관리 체계를 소개했다고 27일 밝혔다.

정부, 공공 문서 유통망서 hwp 첨부 제한 추진

정부, 공공 문서 유통망서 hwp 첨부 제한 추진

국가인공지능(AI)전략위원회와 행정안전부, 문화체육관광부는 AI 시대 개방형 포맷 전환을 위해 공공 문서 유통의 핵심 채널에서 hwp 파일 첨부 제한을 추진한다고 23일 밝혔다. 공무원 내부 유통망인 온나라시스템은 5월부터, 대민 소통 창구인 공직자통합메일은 10월부터 단계적으로 제한에 들어간다.

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”
| |

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”

앤트로픽의 인공지능(AI) 모델 ‘미토스’를 계기로 AI가 사이버보안에 미칠 영향에 대한 논의가 커지고 있다. 핵심은 AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지다. 바이라인네트워크는 ‘전문가가 본 미토스’ 시리즈를 통해 AI 보안 위협의 실체와 국내 대응 방향을 전문가별로 짚어본다. 첫 번째로 시스템 보안과 소프트웨어 보안을 연구해온 윤인수 카이스트 교수의 견해를 들어봤다.

소프트캠프 “AI 시대, 문서보안도 진화해야 한다”
| |

소프트캠프 “AI 시대, 문서보안도 진화해야 한다”

“사람과 사람의 소통하는 도구로 문서가 사용됐다면, 이제는 사람과 대규모언어모델(LLM)의 소통도 문서로 이뤄집니다. 인공지능(AI)이 문서를 읽고 처리할 수 있기 때문입니다. 문서보안은 AI가 문서를 읽고 행동하는 환경까지 통제하는 모델로 확장돼야 합니다.” 배환국 소프트캠프 대표는 22일 바이라인네트워크와의 인터뷰에서 이같이 말했다. 문서가 사람 사이의 협업 도구를 넘어 인공지능(AI) 에이전트가 업무를 이해하고 실행하는 통로로 바뀌면서, 문서보안 기업 소프트캠프도 AI·서비스형 소프트웨어(SaaS) 시대에 맞춰 보안 전략을 확장하고 있다는 설명이다.

[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다
| |

[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다

인공지능(AI) 보안의 초점이 바뀌고 있다. 기존 생성형 AI 보안은 주로 모델에 어떤 프롬프트가 들어가고, 모델이 어떤 답변을 내놓는지에 맞춰져 있었다. 공격자가 악성 지시를 넣어 안전장치를 우회하는지, 모델이 유해한 답변이나 잘못된 정보를 생성하는지, 민감한 데이터를 답변으로 흘리는지가 핵심 쟁점이었다. 하지만 AI 에이전트가 등장하면서 문제의 성격이 달라졌다. 이제 AI는 단순히 답변을 내놓는 데 그치지 않는다. 웹을 탐색하고, 문서를 읽고, 외부 도구를 호출하고, 사용자를 대신해 작업을 수행한다. 답변이 잘못되는 수준을 넘어, 잘못된 판단이 실제 행동으로 이어질 수 있는 구조가 된 것이다.

안랩 “클로드 다운로드 사칭 피싱 주의”

안랩 “클로드 다운로드 사칭 피싱 주의”

안랩은 최근 생성형 인공지능(AI) 서비스 ‘클로드(Claude)’ 다운로드 페이지로 위장한 피싱 사이트에서 정보 탈취형 악성코드가 유포되는 사례를 확인하고 사용자 주의를 당부했다고 22일 밝혔다.

End of content

End of content