서울대 CTAI “AI 신뢰성 문제, 보상 함수 설계 때문”
서울대학교 인공지능신뢰성 연구센터(CTAI)는 28일 서울대에서 제2회 월례 세미나를 열고 인공지능(AI) 기반모델(Foundation Model)의 신뢰성 문제를 논의했다고 밝혔다.
LLM 악용 급증…이상근 고려대 교수 “AIBOM·안전성 확보 서둘러야”
생성형 인공지능(AI)이 공격자의 새로운 도구로 활용되고 있어, 설계 단계부터 안전성을 검증하고 보안을…
S2W, LLM 환각 일으키는 토크나이저 결함 규명
에스투더블유(S2W, 대표 서상덕)는 대규모언어모델(LLM)의 토큰화 구조에서 발생하는 근본적 취약점을 규명한 논문이 글로벌…
‘AI 환각’ 없애야만 할까? NC AI의 고민
생각지 못한 오답, 크리에이티브로도 활용 업계 고민으로 떠올라…자유로운 대화 위한 접근도 ‘이미지…
시스코의 AI 보안 솔루션, ‘AI 디펜스’의 접근법
시스코는 지난달 기업의 인공지능(AI)을 보호할 수 있는 새로운 차원의 보안 솔루션이 필요하다며…
![[그게 뭔가요] 어려운 ‘생성AI’ 용어, 정리했습니다](https://cdn.byline.network/wp-content/uploads/2024/04/240415_gen-AI-325x216.jpg)
[그게 뭔가요] 어려운 ‘생성AI’ 용어, 정리했습니다
생성형 인공지능(AI)이 IT 환경에 깊게 뿌리내렸지만 여전히 어려운 용어들은 제대로 된 이해를…
End of content
End of content