AI 에이전트의 긴 여정, 안전벨트는 준비됐나
| | |

AI 에이전트의 긴 여정, 안전벨트는 준비됐나

AI 에이전트를 기업 업무에 도입하는 여정은 이제 막 시작됐다. 기업은 AI 에이전트를 만들고 데이터와 업무 시스템을 연결하는 일부터 어려움을 겪고 있다. 그러나 기술과 데이터를 준비하는 것만으로는 충분하지 않다. 출발 단계에서부터 함께 설계해야 할 것이 있다. 바로 ‘보안’이다. 기업이 AI의 편리함과 생산성에 주목하는 사이, 그 이면에서는 AI의 판단과 행동을 어디까지 통제할 수 있느냐는 문제가 커지고 있다. AI 에이전트가 사람을 대신해 업무를 수행하고 자율적으로 행동하는 범위가 넓어질수록 보안의 중요성도 커질 수밖에 없다.

[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다
| |

[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다

인공지능(AI) 보안의 초점이 바뀌고 있다. 기존 생성형 AI 보안은 주로 모델에 어떤 프롬프트가 들어가고, 모델이 어떤 답변을 내놓는지에 맞춰져 있었다. 공격자가 악성 지시를 넣어 안전장치를 우회하는지, 모델이 유해한 답변이나 잘못된 정보를 생성하는지, 민감한 데이터를 답변으로 흘리는지가 핵심 쟁점이었다. 하지만 AI 에이전트가 등장하면서 문제의 성격이 달라졌다. 이제 AI는 단순히 답변을 내놓는 데 그치지 않는다. 웹을 탐색하고, 문서를 읽고, 외부 도구를 호출하고, 사용자를 대신해 작업을 수행한다. 답변이 잘못되는 수준을 넘어, 잘못된 판단이 실제 행동으로 이어질 수 있는 구조가 된 것이다.

[STO 인터뷰①] 펀블, 토큰증권 플랫폼 기반 ‘제도권 수익증권사’ 도전
| |

[STO 인터뷰①] 펀블, 토큰증권 플랫폼 기반 ‘제도권 수익증권사’ 도전

토큰증권 플랫폼 펀블은 혁신금융서비스 지위 아래 조각투자 서비스를 제공해왔다. 롯데월드타워 시그니엘과 해운대 엘시티 등 대형 우량자산을 기초로 한 토큰증권 상품을 선보였다. 현재 펀블은 금융위원회에 비금전신탁수익증권 투자중개업자 인가를 위한 예비인가 신청서를 지난해 6월 접수해 둔 상태다. 조찬식 대표를 만나 토큰증권 시장 진출 전략과 향후 성장 방향에 대해 들어봤다.

End of content

End of content