사티아 나델라 “AI 모델 정렬 접어두고, 모델 밖에 통제 수단 만들자”
만약 GPT나 클로드 같은 AI 모델이 기업의 고객 정보를 외부로 유출했다면, 그 책임은 누가 져야 할까.
AI 모델을 만든 회사들은 안전을 보증하겠다고 말한다. 하지만 막상 사고가 터지면 고객에게 책임을 지는 쪽은 모델 회사가 아니라 그 모델을 쓴 기업이고, 피해도 고스란히 기업이 떠안는다.
만약 GPT나 클로드 같은 AI 모델이 기업의 고객 정보를 외부로 유출했다면, 그 책임은 누가 져야 할까.
AI 모델을 만든 회사들은 안전을 보증하겠다고 말한다. 하지만 막상 사고가 터지면 고객에게 책임을 지는 쪽은 모델 회사가 아니라 그 모델을 쓴 기업이고, 피해도 고스란히 기업이 떠안는다.
생성형 인공지능(AI) 전문 기업 딥브레인AI(대표 장세영)는 인물 도용 판별, 유해 입력 차단, 딥페이크 판별까지 생성형 AI의 악의적 활용 위험을 통합 관리하는 안전 엔진 ‘AI 가드’ 개발을 완료했다고 12일 밝혔다.
래블업, 한국어 답변 속도 높이는 추론 가속 모델 공개
네이버클라우드, 베트남 대표 IT 기업과 AI 팩토리 사업 추진
일레븐랩스, 기업가치 220억달러 달성
팔란티어, 22일 한남동에 서울 팝업 스토어 연다
팀뷰어, ‘팀뷰어 원’으로 엔드포인트 IT 장애 해결 자동화 기능 강화
과학기술정보통신부는 ‘피지컬 AI 테크 위크’를 개최한다고 12일 밝혔다. 행사는 13일부터 14일까지 이틀간 서울 코엑스에서 진행된다.
게임 엔진 유니티가 한국게임산업협회와 공동으로 ‘유니티 AI 게임잼’ 참가자를 모집한다고 12일 밝혔다.
소프트프릭(대표 김동철)은 인공지능(AI) 모델의 프라이버시 취약점을 진단하는 기술과 AI 게이트웨이의 보안 제어 기술에 관한 특허 2건을 등록했다고 12일 밝혔다.
데이터센터(DC) 건물이 완성되면 공사 중 버려지던 수많은 설계 도면과 건설 데이터가 건물 수명과 함께 관리되는 ‘디지털 자산’으로 활용되고 있다. 설계부터 시공 단계까지 생성된 방대한 정보를 운영 조직으로 끊김 없이 넘겨주는 빌딩정보모델링(BIM) 기술이 건설 현장에 적용되면서 운영 방식에도 변화가 나타나고 있다.
공간지능 인프라 기업 모빌테크는 국방과학연구소(ADD)와 ‘무인자율차량 시험평가를 위한 가상 시험환경 고도화 기술 개발’ 사업에서 가상 시험 플랫폼 구축을 수행하고 있다고 12일 밝혔다. 군용 무인자율차량의 기능과 성능을 가상환경에서 검증하는 시험평가 플랫폼을 구축해 실제 시험의 비용과 안전상 제약을 보완하고, AI 기반 자율주행 알고리즘의 신뢰성을 높이기 위한 사업으로 2028년 4월까지 진행된다.
최근 국내 금융권 연쇄 침해사고에서 인공지능(AI) 기반 자율 침투테스트 도구 ‘ARTEX(아르텍스)’가 활용된 정황이 구체화되고 있다. 보안업체 크라우드스트라이크가 공격자가 관리한 서버에서 아르텍스 설정파일과 AI 작업 기록 등을 확보해 분석한 가운데, 아르텍스 개발자는 도구가 악용된 상황을 이유로 공개 개발과 배포를 중단했다.
인텔리빅스(대표 장정훈)가 악천후와 야간에도 원거리 객체를 탐지하고 위험 상황을 분석하는 국방 인공지능(AI) 영상감시 플랫폼 개발에 나선다. 인텔리빅스는 방위사업청의 ‘방산혁신기업 R&D 과제’ 주관기관으로 선정돼 총 연구비 62억원 규모의 차세대 국방 AI 영상감시 플랫폼 개발에 착수했다고 8일 밝혔다.
End of content
End of content