이재명 대통령 “사후 수습 넘어 선제 투자”…AI 보안 생태계 육성
|

이재명 대통령 “사후 수습 넘어 선제 투자”…AI 보안 생태계 육성

By곽중희

이재명 대통령은 8일 “피해가 발생한 이후 수습하는 기존 방식에서 벗어나 기업의 선제적인 정보보호 투자를 촉진하는 환경을 조성하겠다”고 강조했다. 인공지능(AI)을 활용한 공격이 정교해지는 만큼 범부처 대응체계를 확대하고 AI 기반 보안 기술과 산업 생태계를 육성하겠다는 구상이다.

[기획/미토스 이후, 취약점 대응①] 취약점 쏟아져도, 패치는 느린 이유
| |

[기획/미토스 이후, 취약점 대응①] 취약점 쏟아져도, 패치는 느린 이유

By곽중희

앤트로픽의 인공지능(AI) 모델 미토스를 기점으로 AI의 소프트웨어 취약점 탐색 능력이 빠르게 발전하고 있다. AI가 대량의 취약점을 찾고 공격코드까지 만들 수 있게 되면서, 이를 어떻게 빠르게 분석, 검증하고 대응, 관리할 지가 주요 과제로 떠올랐다. 바이라인네트워크는 ‘미토스 이후, 취약점 대응’ 기획 시리즈로 AI 이후 취약점 관리와 대응 체계가 어떻게 달라져야 하는지 살펴본다. 첫 회에서는 기업의 패치 과정에서 발생하는 병목을 짚어 봤다.

AI 안전의 경계 넓어진다…에이전트에서 피지컬 AI까지 검증해야
|

AI 안전의 경계 넓어진다…에이전트에서 피지컬 AI까지 검증해야

By곽중희

인공지능(AI)이 챗봇에서 외부 도구를 사용하는 에이전트와 현실의 장비를 움직이는 피지컬 AI로 진화하고 있다. 이제 단순히 유해한 답변을 차단하는 것만으로는 안전을 확보하기 어려워졌다. 이에 AI가 어떤 정보에 접근하고 누구에게 정보를 보내는지, 현실에서는 어떤 행동을 하는지까지 검증해야 한다는 지적이 나온다.

가짜뉴스법 본격 시행…허위정보 판단 주체는 ’플랫폼’
|

가짜뉴스법 본격 시행…허위정보 판단 주체는 ’플랫폼’

By김원민

내일(7일)부터 온라인상 허위조작정보 유통을 방지하는 개정 정보통신망법이 본격 시행된다. 위반 시 최대 10억원의 과징금이 부과될 수 있다. 플랫폼 업계에서는 무엇이 가짜뉴스인지 판별할 법적 기준이 모호하다고 지적한다. 이런 상황에서 실무 규제가 가동되면 현장의 운영 부담과 법적 리스크가 커질 수 있다는 우려도 제기된다.

딥엑스, 일본 피지컬 AI 엑스포서 상용화 논의

딥엑스, 일본 피지컬 AI 엑스포서 상용화 논의

By오민선

반도체 기업 딥엑스가 일본 도쿄에서 열린 피지컬 AI 전문 전시회에서 일본 주요 기업들과 상용화 논의를 본격화했다.
딥엑스는 지난 1일에서 3일까지 일본 도쿄 빅사이트에서 열린 ‘제1회 피지컬 AI 엑스포’에 참가해 현지 제조·IT·산업 인프라 기업들과 자사 NPU의 실제 제품 적용 가능성과 후속 협력 방안을 논의했다고 6일 밝혔다.

앤트로픽, AI 탈옥 위험도 평가 프레임워크 ‘CJS’ 초안 공개
|

앤트로픽, AI 탈옥 위험도 평가 프레임워크 ‘CJS’ 초안 공개

By곽중희

앤트로픽이 인공지능(AI) 모델의 안전장치를 우회하는 ‘탈옥’의 위험도를 5단계로 평가하는 체계를 제안했다. 단순히 모델이 금지된 답변을 내놓았는지를 판단하는 데서 나아가, 탈옥으로 공격자의 능력이 얼마나 높아졌는지와 실제 공격으로 이어질 가능성을 함께 평가한다.

End of content

End of content