챗GPT가 그럴듯한 거짓말을 하는 이유
언어 모델이 사실이 아닌 답을 확신에 차서 이야기하는 이유는 현재 언어 모델의 평가 방식 때문이라는 연구 결과가 나왔다. 현재 챗GPT와 같은 챗봇은 잘 모를 때, ‘모르겠다’라는 답변보다는 틀리더라도 답을 자신감 있게 추측하도록 유도하고 있다. 객관식 시험에서 빈칸으로 제출하면 0점이지만, 답을 모르더라도 아무 답이라도 고르면 맞을 가능성이 높아지기 때문이다.
언어 모델이 사실이 아닌 답을 확신에 차서 이야기하는 이유는 현재 언어 모델의 평가 방식 때문이라는 연구 결과가 나왔다. 현재 챗GPT와 같은 챗봇은 잘 모를 때, ‘모르겠다’라는 답변보다는 틀리더라도 답을 자신감 있게 추측하도록 유도하고 있다. 객관식 시험에서 빈칸으로 제출하면 0점이지만, 답을 모르더라도 아무 답이라도 고르면 맞을 가능성이 높아지기 때문이다.
2025년 상반기 사이버보안 기업들은 잇따른 대형 해킹 사고와 정책 변화에 힘입어 전반적으로 실적 성장을 이어갔다. 특히, SK텔레콤, 예스24, 서울보증보험 등 대규모 정보 유출 사건이 발생하면서 공공·민간 전반에 걸쳐 보안 투자가 확대됐고, 정부의 망분리 완화 정책과 제로트러스트 도입 논의도 기업 전략에 큰 영향을 미쳤다. 동시에 생성형 인공지능(AI)의 확산은 보안업계에 위협과 기회를 동시에 안기며, 각 기업의 연구개발 투자 방향을 결정짓는 핵심 요인으로 작용하고 있다.
구글의 최신 AI 비디오 생성 모델 ‘비오3’가 구글 포토에 통합되면서, 구글 포토에서 쓸 수 있는 다양한 생성 인공지능(AI) 기능이 강화된다. 기존 ‘만들기’ 탭에 있는 ‘사진-비디오 변환’이나 ‘리믹스’ 등 기능을 더욱 고품질로 이용할 수 있다.
디지털 마케팅 시장에서도 인공지능(AI) 도입은 필수다. 실시간 의사결정, 정교한 개인화, 투자수익률(ROI) 최적화, 크리에이티브 효율 등 마케팅 고도화 측면에서 AI 도입이 이어졌고 이제 스스로 행동하는 ‘에이전틱(Agentic) AI’로도 놀라운 발전을 거듭하고 있다.
롯데카드 해킹 사태 이후 국내 카드사들의 보안 역량에 관심이 쏠리고 있다. 롯데카드뿐…
구글이 고성능 코드 편집기 ‘제드(Zed)’와 손잡고 통합개발환경(IDE)와 AI 에이전트 간 통합을 위한 새 프로토콜을 선보였다. 현재 전세계 AI 코딩도구의 근간을 장악한 VS코드의 종속에서 벗어나려는 시도다.
“생성형 인공지능(AI) 기업에 투자한 조직의 95%는 아무런 성과가 없었고, 단 5%만이 수백만달러의 가치를 창출하고 있다.”
롯데카드 해킹 사고가 금융권 전체에 충격을 주고 있다. 카드 정보 유출 여부는…
① 티몬이 지난 3일 서울 동대문구에서 연 ‘파트너사 간담회’에서는 행사가 완전히 끝나지도 않은 상황에서 판매자 30여명 이상이 말없이 퇴장했습니다. 질의응답 중에는 울먹이는 목소리와 “지금 내가 여기 왜 앉아 있는 거냐”는 항의가 나오기도 했습니다.
② 이번 파트너사 간담회는 지난 1일 티몬 영업 재개 무기한 연기를 발표한 이후 열린 설명회였습니다. 티몬은 지난해 7월 큐텐 그룹의 대규모 미정산 사태 이후, 회생절차를 밟았습니다. 이후 지난 6월 새벽배송 기업 오아시스가 인수하면서 안정기에 들어서는가 싶었지만요. 현실은 녹록치 않지요.
이날 입점 파트너사 약 400여곳 이상이 자리했지만요, 설명회 중 참석자 30여명 이상이 연이어 퇴장하고, 고성이 터지는 등 큰 반발이 일기도 했습니다. 복수의 판매자들은 티몬에게 구체적인 계획이 있어보이지 않는다며 실망하는 모습을 보이기도 했습니다.
③ 또 판매자들은 이날 티몬이 자리를 연 목적에 대해 상황을 제대로 설명하거나 해결하는 게 아니라, ‘재오픈 동의 서명서’를 받기 위한 것 아니었냐고 비판하기도 했습니다. 한 번 상황을 볼까요?
“디지털 자산과 스테이블 코인으로 인한 금융시장 생태계 변화는 피할 수 없는 세계적…
코리아스타트업포럼(의장 한상우, 코스포)이 지난 3일 여의도 국회의원회관 제9간담회의실에서 ‘AI가 이끄는 앱 생태계의 진화: K-스타트업의 글로벌 도약과 성장 지원’ 정책세미나를 개최했다. 세미나는 디지털경제3.0포럼 공동대표 김종민 의원과 이성권 국민의힘 의원이 공동 주최하고, 코스포와 앱생태계포럼이 공동 주관했다.
국산 전사적자원관리(ERP) 솔루션 시장을 이끄는 더존비즈온과 영림원소프트랩이 상반기에 호실적을 기록하며, 하반기 전략으로 적극적인 해외 진출을 꼽았다.
최근 몇 년간 인공지능(AI)과 데이터 플랫폼의 결합으로 기업의 기술 환경은 근본적인 변화를 겪고 있다. 이제 개발자와 데이터베이스 관리자(DBA)가 과연 AI로 실질적인 성과를 낼 수 있을지를 고민하는 단계는 지났다.
지난 29일 김범수 카카오 창업자가 법정에 섰다. 검찰은 그에게 징역 15년 및 벌금 5억원을 구형했다. 왜 재계 서열 15위인 카카오 그룹 창업자인 그가 법정에 서게 됐을까. 이수만 SM엔터테인먼트(이하 SM) 창업자의 지분을 얻은 하이브와 경쟁해 얻은 SM이 발목을 잡았다.
“금융 분야에서 인공지능(AI)은 가장 큰 잠재력을 갖는 동시에 파생되는 리스크가 가장 큰…
End of content
End of content