AI 안전의 경계 넓어진다…에이전트에서 피지컬 AI까지 검증해야
|

AI 안전의 경계 넓어진다…에이전트에서 피지컬 AI까지 검증해야

By곽중희

인공지능(AI)이 챗봇에서 외부 도구를 사용하는 에이전트와 현실의 장비를 움직이는 피지컬 AI로 진화하고 있다. 이제 단순히 유해한 답변을 차단하는 것만으로는 안전을 확보하기 어려워졌다. 이에 AI가 어떤 정보에 접근하고 누구에게 정보를 보내는지, 현실에서는 어떤 행동을 하는지까지 검증해야 한다는 지적이 나온다.

“AI 버블 터지면 금융 시스템 전체 흔들린다“ 미 재무부 보고서
|

“AI 버블 터지면 금융 시스템 전체 흔들린다“ 미 재무부 보고서

By심재석

재무부 내부에서 현재의 AI 투자 열기가 금융 시스템 전체를 위협할 수 있다는 경고를 담은 보고서가 작성돼 눈길을 끌고 있다. 보고서의 핵심 우려는 AI 기업들이 닷컴 시대보다 미국 경제에 훨씬 깊이 뿌리내리고 있다는 점이다. 보고서는 금융 여건이 악화되거나, AI가 기대하는 생산성 목표를 달성하지 못하거나, 각종 병목 현상이 성장을 막을 경우 시스템 전반에 중대한 위험이 초래될 수 있다고 결론지었다.

[커머스BN] 올리브영은 왜 매장마다 다른 옷을 입나
|

[커머스BN] 올리브영은 왜 매장마다 다른 옷을 입나

By성아인

CJ올리브영(이하 올리브영)의 올해 출점 전략이 독특합니다. 지금까지는 주요 거점 지역에 큰 점포를 내는 데 집중했다면, 최근 들어 거점별 특화 전략이 본격화되는 모양새입니다. 단순 쇼핑 뿐만 아니라 글로벌 고객이 바라는 K뷰티 관련 서비스와 체험 요소를 강화하는 게 특징입니다.

[금융권 인공지능 활용②] 신한금융, ‘AI 네이티브 컴퍼니’ 전환
| |

[금융권 인공지능 활용②] 신한금융, ‘AI 네이티브 컴퍼니’ 전환

By이수민

신한금융지주가 인공지능 전환(AX)과 디지털 전환(DX)을 그룹의 생존과 직결된 핵심 전략으로 삼고 ‘AI 네이티브(AI Native) 컴퍼니’ 구현에 속도를 내고 있다. AI를 특정 부서의 기술이 아닌 전 임직원이 활용하는 업무 기반으로 정착시키기 위해 그룹 차원의 거버넌스(관리체계), 조직, 인프라를 동시에 강화하고, 고객 서비스와 내부 업무 전반으로 AI 활용 범위를 확대하는 모습이다. 신한금융은 현업 부서가 직접 AI를 활용해 업무 혁신을 이끄는 AI 네이티브 컴퍼니를 목표로 삼고 있다. 이를 위해 그룹 차원의 AX추진센터가 AI 전략과 방향성을 수립하고 계열사의 AI 추진을 지원한다. 각 계열사는 업무 특성과 사업 환경에 맞춰 자체 AI 플랫폼을 구축하거나 외부 솔루션을 도입하는 방식으로 AI 활용 기반을 마련하고 있다.

가짜뉴스법 본격 시행…허위정보 판단 주체는 ’플랫폼’
|

가짜뉴스법 본격 시행…허위정보 판단 주체는 ’플랫폼’

By김원민

내일(7일)부터 온라인상 허위조작정보 유통을 방지하는 개정 정보통신망법이 본격 시행된다. 위반 시 최대 10억원의 과징금이 부과될 수 있다. 플랫폼 업계에서는 무엇이 가짜뉴스인지 판별할 법적 기준이 모호하다고 지적한다. 이런 상황에서 실무 규제가 가동되면 현장의 운영 부담과 법적 리스크가 커질 수 있다는 우려도 제기된다.

맥 미니는 왜 AI 에이전트 머신이 되었나
|

맥 미니는 왜 AI 에이전트 머신이 되었나

By심재석

애플 실리콘 시니어 PM 더그 브룩스는 최근 미국 테크 미디어 더딥뷰(The Deep View)와의 인터뷰에서 맥 미니가 왜 에이전트 시대 최고의 머신으로 평가받는지 설명했다. 그에 따르면, 애플 실리콘의 핵심은 통합 메모리 아키텍처(UMA)다. CPU, GPU, 뉴럴엔진이 메모리를 함께 쓴다. 일반 PC는 CPU가 쓰는 시스템 램과 GPU가 쓰는 그래픽 메모리가 분리돼 있어, 대용량 AI 모델을 돌리려면 수백만원짜리 엔비디아 GPU가 필요했다. 맥은 다르다. 24GB 통합 메모리면 700억개 파라미터급 LLM을 로컬에서 구동할 수 있다.

자바의 숙원 ‘프로젝트 발할라’ 마침내 JDK 포함
|

자바의 숙원 ‘프로젝트 발할라’ 마침내 JDK 포함

By김우용

자바 플랫폼의 성능과 메모리 효율을 올려줄 숙원 사업 ‘프로젝트 발할라(Project Valhalla)’가 개발 시작 12년만에 드디어 오픈JDK 메인라인에 통합된다. 이달중 나올 오픈JDK 28에 프로젝트 발할라의 일부인 ‘값 클래스와 객체(Value Classes and Objects, JEP 401)’가 미리보기로 포함될 예정이다. 커뮤니티는 내년 나올 장기지원(LTS) 버전인 오픈JDK 29에 정식 출시될 지 주목하고 있다.

앤트로픽, AI 탈옥 위험도 평가 프레임워크 ‘CJS’ 초안 공개
|

앤트로픽, AI 탈옥 위험도 평가 프레임워크 ‘CJS’ 초안 공개

By곽중희

앤트로픽이 인공지능(AI) 모델의 안전장치를 우회하는 ‘탈옥’의 위험도를 5단계로 평가하는 체계를 제안했다. 단순히 모델이 금지된 답변을 내놓았는지를 판단하는 데서 나아가, 탈옥으로 공격자의 능력이 얼마나 높아졌는지와 실제 공격으로 이어질 가능성을 함께 평가한다.

[웨비나] 도구로보틱스가 로봇이 길을 찾도록 만든 방법
|

[웨비나] 도구로보틱스가 로봇이 길을 찾도록 만든 방법

By오민선

로봇은 어떻게 10층 건물을 길 잃지 않고 순찰할까. 로봇은 항상 좌표로 위치를 인식하지만 좌표만으로는 다층 건물의 구조를 파악하기 힘들다. 층과 층 사이 이동은 직선 거리가 아니기 때문이다. 그렇다면 계단이나 구조물 사이를 이동해야 할 때 로봇은 어떤 원리로 작동할까.
인공지능(AI) 자율주행 순찰 로봇 솔루션 전문 기업 도구로보틱스는 지난달 23일 바이라인플러스에서 진행된 웨비나에서 로봇에 위치 연결 정보를 제공하는 ‘3차원(3D) 내비게이션’을 소개했다. 3D 내비게이션은 로봇이 길을 잃지 않고 10층 건물을 통과할 수 있도록 위치 연결 정보를 제공한다.

“무조건 큰 LLM은 그만”…네이버, 서비스에 맞춘 ‘프로덕트 네이티브 LLM’ 승부수

“무조건 큰 LLM은 그만”…네이버, 서비스에 맞춘 ‘프로덕트 네이티브 LLM’ 승부수

By성아인

네이버가 올해 클로바X와 큐를 종료하며 글로벌 빅테크와의 범용 챗봇 경쟁에서 한 발 물러났습니다. 대신 검색·쇼핑·플레이스 등 자사 서비스에 AI를 깊게 녹이는 길을 택했습니다. 그 무대가 대화형 검색 ‘AI탭’으로, 여기에 서비스에 특화된 ‘프로덕트 네이티브 LLM’과 하네스 엔지니어링을 얹어 검색부터 예약까지 끝까지 실행하는 AI로 승부한다는 구상입니다.

[금융권 인공지능 활용①] KB금융, ‘KB with AI’ 본격화
| |

[금융권 인공지능 활용①] KB금융, ‘KB with AI’ 본격화

By이수민

KB금융지주가 인공지능(AI)을 그룹 전반에 내재화하는 ‘KB with AI’ 전략을 추진하고 있다. AI를 단순한 기술이 아니라 실전 인재이자 동료로 활용한다는 철학을 바탕으로, 영업 현장과 경영 지원을 넘어 고객 서비스까지 AI 활용 범위를 확대하며 사람과 AI가 함께 일하는 금융 환경 구축에 나서고 있다. 이를 위해 그룹 공동 생성형 AI 플랫폼 ‘KB Gen AI 포털’을 중심으로 AI 활용을 전사적으로 확산하고 있다. 모든 임직원이 AI를 활용하는 조직문화를 정착시키고, 개별 업무를 넘어 엔드투엔드(End-to-End) 자율 업무 체계를 구현해 반복 업무부터 고객 접점까지 AI 활용 범위를 단계적으로 확대한다는 구상이다. 궁극적으로는 고객이 가장 편안하고 신뢰할 수 있는 AI 기반 금융 경험을 제공하는 금융 동반자로 자리매김하는 것이 목표다.

End of content

End of content