텍스트 한 줄에 뚫리는 AI, “듀얼 LLM 격리가 해법”
인공지능(AI)이 사용자 대신 검색하고 판단하며 각종 작업을 수행하는 에이전트(Agent) 시대가 본격화하면서, 외부 데이터를 악용해 AI의 판단과 행동을 조작하는 ‘프롬프트 삽입(Prompt Injection)’ 공격이 새로운 보안 위협으로 떠오르고 있다.
인공지능(AI)이 사용자 대신 검색하고 판단하며 각종 작업을 수행하는 에이전트(Agent) 시대가 본격화하면서, 외부 데이터를 악용해 AI의 판단과 행동을 조작하는 ‘프롬프트 삽입(Prompt Injection)’ 공격이 새로운 보안 위협으로 떠오르고 있다.
이번 기자간담회는 아시아태평양 지역 사업 확대 전략을 공유하고 소버린 인공지능(AI) 플랫폼의 비용 효율성을 알리기 위한 목적으로 주최됐다. 현재 대다수 거대언어모델(LLM) 공급사는 데이터 처리 단위인 토큰을 기준으로 요금을 매긴다. 사용자가 질문을 던지고 답변을 받을 때마다 실시간으로 비용이 발생하는 시스템이다. 전사적으로 기술을 도입할수록 사용량이 급증해 기업 입장에서는 정확한 정보기술(IT) 예산을 세우기 어렵다는 의견도 존재한다.
인공지능(AI)이 사람을 대신해 금융 업무를 자율적으로 수행하는 AI 에이전트 기술에 대해 국내 금융사들이 다소 소극적인 태도를 취하고 있다는 분석이 나온다. 이에 빅테크 기업과의 기술 경쟁에서 뒤처질 수 있다는 가능성이 제기된다.
최근 챗GPT, 바드(Bard) 등 생성형 인공지능(AI) 거대언어모델(LLM)이 기업 업무 프로세스 전반을 빠르게…
인터넷전문은행 카카오뱅크가 LLM의 성능을 평가, 검증할 수 있는 프로젝트를 최근 마쳤다. 카카오뱅크가 고려대학교와 함께 한 ‘듀오 프로젝트’는 LLM의 전반적인 능력을 측정한다. 쉽게 말해, 대화를 잘 하는 LLM이 금융 서비스에서도 문제 없이 잘 작동하는지, 사용자(고객)의 의도를 잘 이해했는지, 정확한 정보를 전달했는지, 답이 편향되진 않았는지 등을 평가하기 위한 것이다. 즉, 써도 되는 LLM인지 시험문제를 내고, 결과에 따라 도입 여부를 결정할 수 있다.
코어에이아이가 기업용 생성형 인공지능(AI) 및 대규모언어모델(LLM) 플랫폼인 ‘게일(GALE)’을 출시한다고 24일 발표했다. 게일은…
“데이터웨어하우스(DW)나 데이터레이크와 비교하지 마세요. 디노도는 독립적인 데이터 패브릭으로 DW와 데이터레이크를 포함해 모든…
“지난 1년간 아주 다양한 크기의 거대언어모델(LLM)이 새롭게 등장했다. 소형언어모델(sLLM)이 새로운 트렌드로 자리잡았고,…
삼성SDS가 기업 업무 자동화를 위한 생성형 인공지능(AI) 서비스인 ‘패브릭스(FabriX)’와 ‘브리티 코파일럿(Brity Copilot)’을…
생성형 인공지능(AI)이 IT 환경에 깊게 뿌리내렸지만 여전히 어려운 용어들은 제대로 된 이해를…
생성 인공지능(AI)이라는 폭탄을 투하했던 오픈AI. 늘 새로운 것이 등장하는 게 IT 시장이지만,…
계속되는 생성 인공지능(AI) 열풍 속 거대언어모델(LLM) 시장도 변화를 맞이하고 있다. 지난해 상반기…
알리바바클라우드가 자체 개발한 거대언어모델(LLM) ‘통이치엔원(Tongyi Qianwen)’의 새로운 버전인 ‘큐원-72B(Qwen-72B)’와 ‘큐원-1.8B(Qwen-1.8B)’를 오픈소스로 5일…
서비스나우가 기업의 모든 워크플로우에 생성형 인공지능(AI)를 제공하고 자동화 방식의 업무를 수행할 수…
챗GPT 이후 열풍을 이어온 생성인공지능(AI). 놀라움의 시선은 생성AI가 만들어 낸 결과물에 향하지만…
End of content
End of content