카스퍼스키 “AI·LLM 취약점, 작년보다 10배 증가”

카스퍼스키 “AI·LLM 취약점, 작년보다 10배 증가”

인공지능(AI)과 대규모언어모델(LLM) 서비스에서 발견된 취약점이 지난해 말과 비교해 크게 증가한 것으로 나타났다. 카스퍼스키(한국 지사장 이효은)는 ‘분기별 익스플로잇·취약점 보고서(Quarterly Exploits and Vulnerabilities Report)’를 분석한 결과 올해 2분기 AI·LLM 서비스에서 기록된 취약점이 935건으로 집계됐다고 7일 밝혔다. 2025년 4분기와 비교하면 10배 증가한 수치다.

벤치마크 1위 모티프 탈락…독파모, 성능보다 ‘사용성’ 봤다
|

벤치마크 1위 모티프 탈락…독파모, 성능보다 ‘사용성’ 봤다

글로벌 벤치마크 평가 1위를 기록한 모티프테크놀로지스(모티프)가 정부 주관 ‘독자 인공지능(AI) 파운데이션 모델(독파모)’ 2차 단계평가에서 탈락했다. 사용자 평가에서 상대적으로 높은 점수를 확보한 업스테이지와 SK텔레콤, LG AI연구원이 3차 단계 진출을 확정했다. 실험실 환경의 기술 점수보다 실제 서비스 적용 능력을 확인하는 사용성이 최종 결과를 갈랐다.

AI는 리눅스 보안을 어떻게 재구성하고 있나
|

AI는 리눅스 보안을 어떻게 재구성하고 있나

“LLM은 현재 충분히 좋다. LLM과 AI는 단순히 패턴을 찾는 것이고, 코드는 특정 형식의 패턴일 뿐이다. 과거의 버그를 살펴보고, 현재 코드에서 부족한 부분을 찾아 수정하는 것이다. 복잡한 기술이 아니다. 아주 간단한 패턴 매핑이고, 표준화된 데이터에서 아주 잘 작동한다. 이런 걸 찾아낼 수 있다는 건 좋은 일이다. 문제는 취약점이 드러나는 데 걸리는 시간이 엄청나게 줄어든다는 것이다. 기업과 개인은 더 이상  보안 취약점을 천천히 수정하고 다시 배포할 시간이 없다.” -그렉 크로아하트만 리눅스커널 유지관리자.

독파모 2차 평가 막바지…4개 팀 전략은
|

독파모 2차 평가 막바지…4개 팀 전략은

정부가 추진하는 독자 인공지능(AI) 파운데이션 모델(독파모) 프로젝트의 2차 단계평가가 이달 11일 마무리된다. 지난 8일부터 진행된 국민평가단 200명의 사용자 평가가 종료되고 이르면 12일 전후로 최종 3차 평가에 진출할 3개 정예팀이 발표될 예정이다.

[인터뷰] 직원 12명, 고객사는 300곳…더플레이토의 운영 비밀은 AI
|

[인터뷰] 직원 12명, 고객사는 300곳…더플레이토의 운영 비밀은 AI

오후 3시에 해외 근무하는 팀원에게 메일을 보낸다. 샌프란시스코는 밤 11시. 답장을 받기 어려운 시간대지만, 회신은 2분만에 온다. 평소 팀원의 말투와 유사하지만, 사람이 보낸 메일이 아니다. 팀원을 복제한 인공지능(AI) 에이전트다. 더플레이토에서 AI 에이전트의 업무 대리는 일상이다. 메일 답장, 문서 정리, 코딩까지 돕고 있다. 더플레이토의 정규직 규모는 12명. 스타트업에서 납득되는 규모지만, 이 회사는 30만 이용자 앱 ‘티로’를 운영 중이다. 동시에 300곳이 넘는 고객사를 보유하고 관리하고 있다.

F5, 엔비디아와 AI 가드레일 통합…운영 단계 보안 강화

F5, 엔비디아와 AI 가드레일 통합…운영 단계 보안 강화

F5는 ‘엔비디아 네모 가드레일(NVIDIA NeMo Guardrails)’과 통합한 인공지능(AI) 보안 솔루션 ‘F5 AI 가드레일(F5 AI Guardrails)’을 공개했다고 6일 밝혔다. F5 AI 가드레일은 실제 운영 단계에 들어간 AI 애플리케이션의 프롬프트와 대규모언어모델(LLM) 응답을 검사한다. 여러 AI 애플리케이션에 보안 정책을 중앙에서 적용하고 운영 현황을 확인하는 기능도 제공한다.

End of content

End of content