서울대 CTAI “AI 신뢰성 문제, 보상 함수 설계 때문”
서울대학교 인공지능신뢰성 연구센터(CTAI)는 28일 서울대에서 제2회 월례 세미나를 열고 인공지능(AI) 기반모델(Foundation Model)의 신뢰성 문제를 논의했다고 밝혔다.
AI 모델 혁신의 최소 조건은 공급망 보안…“기준 명확해야 속도 낸다”
AI 모델과 데이터가 오픈소스 생태계를 통해 빠르게 늘면서, 기업은 외부 모델을 가져와 파인튜닝(미세 조정)한 뒤 서비스에 연결하는 흐름이 커졌다. 이 과정에서 모델·데이터의 출처 확인, 라이선스 준수, 파일을 매개로 한 악성코드 유입 같은 위험이 더 커졌다. 시스코의 앤더슨 AI 보안 총괄은 이런 불확실성이 커질수록 차단하기보다 검증 기준을 분명히 하고, 점검을 자동화해 신뢰 비용을 낮춰야 한다고 봤다.
AMD, AI 최적화 스타트업 ‘브리움’ 인수…“개방형AI SW 구축에 도움”
AMD가 AI 소프트웨어 최적화 스타트업 ‘브리움’을 인수했다고 4일(현지시각) 발표했다. 인수 조건은 공개하지…
오픈AI, 이미지 보고 추론하는 AI 모델 ‘o3’, ‘o4 미니’ 출시
오픈AI가 신형 추론 모델 ‘o3’와 ‘o4 미니’를 16일(현지시각) 출시했다. 회사는 두 모델이 사용자가 업로드한 그림, 그래프, 도표 같은 이미지를 이해하고 추론 과정에 반영한다고 밝혔다.
End of content
End of content