에임인텔리전스 “AI 에이전트의 행동, 업무 맥락에서 판단해야”
| | |

에임인텔리전스 “AI 에이전트의 행동, 업무 맥락에서 판단해야”

기업들이 인공지능(AI) 에이전트를 도입하는 방식은 다양하다. 업무에 맞는 에이전트를 직접 개발하기도 하고, 여러 에이전트를 연결해 협업하도록 플랫폼을 구축하기도 한다. 하지만 어떤 방식을 선택하든 빠뜨려서는 안 될 것이 있다. 바로 ‘보안’이다. 자동차에 브레이크와 안전벨트가 필요하듯 AI 에이전트에도 위험한 행동을 막고 피해를 줄이는 안전장치가 필요하다. 국내 AI 보안기업 에임인텔리전스는 AI 에이전트가 사용하는 데이터와 도구, 다른 에이전트와의 상호작용을 확인하고 실제 행동까지 통제하는 보안체계가 필요하다고 강조했다. 특히 개별 행동이 허용된 범위에 있는지뿐 아니라 전체 업무의 맥락에서 적절한지 판단하는 것이 중요하다는 설명이다.

기업 AI, 만들고 쓰고 지킨다…아이티센 ‘에이전트고’
| | |

기업 AI, 만들고 쓰고 지킨다…아이티센 ‘에이전트고’

아이티센그룹이 AI 에이전트 구축부터 운영, 보안까지 통합 관리하는 플랫폼 ‘에이전트고 2026’을 선보였다. 독립형 보안 플랫폼 ‘에이전트고 가드’로 섀도우 AI와 데이터 유출 위험에 대응하고, 자체 개발한 AI 비서 ‘세니 3.0’을 통해 그룹 내 업무 효율을 높였다. 향후 기업의 업무 경험과 암묵지를 AI 에이전트에 반영해 맞춤형 업무 자동화를 고도화할 계획이다.

가트너 “AI에 입력한 업무 정보, 기록 삭제해도 남는다”

가트너 “AI에 입력한 업무 정보, 기록 삭제해도 남는다”

직원이 인공지능(AI) 서비스에 업무 정보를 입력했다면 대화 기록을 삭제하더라도 해당 정보가 AI 서비스 제공업체의 서버에 남아 있을 수 있다는 분석이 나왔다. 특히 유출된 정보가 AI 모델 학습에 활용되면 완전히 제거하기 어려워 기업의 신속한 대응이 필요하다는 지적이다.

파수AI “회사가 사용 금지해도 직원 77.3%가 개인 계정 AI 사용”

파수AI “회사가 사용 금지해도 직원 77.3%가 개인 계정 AI 사용”

파수AI(대표 조규곤)는 국내 기업·기관의 인공지능(AI)·IT·보안 담당자 151명을 대상으로 생성형 AI 사용 실태를 조사한 결과를 담은 ‘통제 밖의 지능-국내 조직의 섀도우 AI 사용 실태와 대응 현황’ 보고서를 발간했다고 28일 밝혔다. 섀도우 AI(Shadow AI)는 조직의 승인이나 관리 없이 임직원이 생성형 AI 서비스를 업무에 사용하는 것을 뜻한다.

End of content

End of content