앤트로픽, AI 모델 안전성 외부 검증 시스템 도입

앤트로픽, AI 모델 안전성 외부 검증 시스템 도입

By곽중희

앤트로픽이 자가 인공지능(AI) 모델의 안전성을 외부에서 검증하기 위해 평가자가 회사 내부의 모델 개발 과정을 들여다보는 ‘임베디드 평가(embedded evaluation)’를 도입한다. 완성된 모델을 외부에서 시험하는 데 그치지 않고, 모델이 학습되는 과정과 개발·배포 의사결정, 안전장치까지 외부 평가자가 지속적으로 검증하는 방식이다.

미국 캘리포니아주, 통제 벗어난 AI 차단하는 ‘킬스위치’ 도입 추진

미국 캘리포니아주, 통제 벗어난 AI 차단하는 ‘킬스위치’ 도입 추진

By곽중희

미국 캘리포니아주가 통제를 벗어난 프런티어 인공지능(AI)을 긴급 중단할 수 있는 ‘킬스위치(kill switch)’ 도입을 추진한다. AI 개발사의 안전·보안 체계를 외부 기관이 직접 검증하고, AI가 실제 시스템에 무단 접근하는 등의 사고도 중대 안전사고 범위에 포함하는 방안을 검토한다.

제약・바이오 기업의 ‘품질・제조・자산’은 왜 통합돼야 하나
| |

제약・바이오 기업의 ‘품질・제조・자산’은 왜 통합돼야 하나

By김우용

제약 및 바이오로 대표되는 생명과학 산업의 디지털화 흐름이 거세다. 모든 산업이 AI로 비즈니스를 전면 재설계하는 가운데, 생명과학 분야 산업도 AI 도입을 위한 길로 나아가고 있다. 특히 제약·바이오 산업이 글로벌화되는 가운데 ‘의약품 제조 및 품질관리 기준(GMP)에 대한 요구가 데이터·위험·생애주기관점에서 더 구체화되는 흐름이 뚜렷해졌다. 전산화 시스템뿐 아니라 제조설비와 시험·계측기의 상태·이력·성능 데이터까지 품질시스템의 일부로 보는 접근이 확대되고 있다.

[그게 뭔가요] 지스타 주인공된 ′캐릭터 챗′, 누구냐 넌
|

[그게 뭔가요] 지스타 주인공된 ′캐릭터 챗′, 누구냐 넌

By윤정환

‘인공지능(AI) 캐릭터 챗’이라는 서비스를 아시나요. 하나의 정립된 세계관 안에서 성격과 외형이 다른 다양한 등장인물과 대화를 나누며 서사를 만들어 나가는 콘텐츠입니다. 캐릭터와 1:1 대화도 가능하죠. 다른 사람이 만든 콘텐츠를 즐기거나, 스스로 만들 수도 있습니다. 일반적인 AI 챗봇과 달리 엔터테인먼트 성격이 강합니다.

오케스트로 클라우드-KT, AI 사업 확대 위한 MOU 체결

오케스트로 클라우드-KT, AI 사업 확대 위한 MOU 체결

By김원민

클라우드 서비스 전문 기업 오케스트로 클라우드는 KT와 인공지능(AI) 사업 확대를 위한 전략적 업무협약(MOU)을 체결했다고 18일 밝혔다. 양사는 이번 협약을 통해 AI 전환(AX) 서비스부터 AI 데이터센터·그래픽처리장치(GPU) 인프라 구축·운영까지 AI 사업 전반에서 협력한다.

국정원, 첨단기술 노린 계정 탈취·공급망 공격 경고
| |

국정원, 첨단기술 노린 계정 탈취·공급망 공격 경고

By곽중희

국가정보원(원장 이종석, 이하 국정원)은 최근 첨단기술 기업들이 계정 탈취와 공급망 공격 등 이미 알려진 해킹 수법으로 큰 피해를 보고 있다고 진단했다. 국정원은 18일 서울 강남구 코엑스에서 열린 ‘사이버 서밋 코리아(Cyber Summit Korea·CSK) 2026’에서 최근 사이버위협 동향과 국내 기업을 겨냥한 해킹 사례를 소개했다. 이날 국정원은 “인공지능(AI)으로 공격 속도가 더 빨라질 수 있다”며 “기업이 기본적인 보안 허점부터 줄여야 한다”고 강조했다.

End of content

End of content