ETRI AISI, AI안전성 위한 컨소시엄 활동 본격화

한국전자통신연구원(ETRI)이 인공지능 안전성과 신뢰성 확보를 위해 AI안전컨소시엄을 본격 운영한다고 30일 밝혔다.

ETRI의 인공지능안전연구소(AISI)는 지난 11월 개소 이후 정부와 함께 국내 AI 안전 확보를 위한 대표 전담 연구 조직으로서 활동해왔다. AISI는 오는 1일 그랜드 인터컨티넨탈 서울 파르나스에서 AI 안전컨소시엄 합동회의를 개최한다.

이날 회의에서는 ▲AI안전연구소 주요 추진 현황 및 성과의 공유 ▲AI안전컨소시엄의 운영체계의 확정 및 분과별 의제에 대한 심도 있는 논의가 이뤄질 전망이다.

ETRI에 따르면 국내·외 AI 안전성 확보를 선도하는 과정에서 중요한 점은 국내 AI 주요 기업 및 기관들과의 교류와 역량 확산, 그리고 국내 AI 안전성 확보·확산을 위한 담론 형성이다. 이를 위해 인공지능 안전연구소는 개소와 함께 24개 기업·기관으로 구성된 ‘AI안전컨소시엄’을 구축한 바 있다.

AI안전컨소시엄은 ▲인공지능 안전연구소의 연구 성과의 확산·공유 ▲정책 방향의 설정과 공동 논의 ▲안전 평가 방안의 마련 및 공동 수행 등 국내 AI 안전 논의의 구심점으로서 활동하는 것이 주요 목적이다. 이를 통해 정부에 시의적절한 정책 제안과 거버넌스 정립 기여를 목표로 한다.

AI안전 연구를 수행 중인 미국(AI표준혁신센터)과 일본(AI안전연구소)는 민간 기업·기관을 중심으로 AI안전 논의를 위한 컨소시엄을 구성해 운영하고 있다. AI안전 분야 주요 연구·평가 이슈를 공유하고 논의함으로써, 자국 내 AI안전 역량을 극대화하고 확산하는 것이 목적이다.

AI안전컨소시엄은 보다 효율적이고 효과적인 논의를 위해 3개 분과 ▲정책 ▲평가 ▲연구로 구성했다.

먼저 정책 분과는 국내외를 둘러싼 AI 안전 정책 전반에 걸쳐 논의하는 중이다. 인공지능 안전연구소는 우선 대응 중인 유럽 연합의 인공지능 규제에 대한 의견 수렴과 대응 방안 논의가 시급하다고 강조했다.

평가 분과는 글로벌 AI 안전 평가 사례를 공유한다. 또 실제 AI 안전 평가 수행을 위한 방안을 논의하는 중이다. 국제 AI안전 네트워크에서 수행 중인 공동 평가에의 참여·공유 방안을 모색하고 있다.

연구 분과에서는 인공지능 안전연구소가 수행 중인 연구 이슈를 중심으로 연구 성과의 연계·확산 방안을 논의한다. 지난 4월 22일에 컨소시엄 멤버를 대상으로 비공식 회의를 거쳐 분과 구성과 분과별 논의 안건을 공유했다. 후속 논의를 위한 제언 사항을 의견 조사서를 통해 수집을 완료했다.

이번 10월 회의에서는 그간의 AISI의 활동과 성과를 공식적으로 공유할 예정이다. 따라서 AI 안전 분야 이슈에 대응하고, 국내 대응 체계를 정립한다. 동시에 AI 안전 역량 확산이라는 구심점 역할을 할 계획이다.

향후 AI안전컨소시엄 논의의 확산을 위해, 멤버 추가를 고려 중이다.

회의에서는 AI안전컨소시엄의 운영 규정과 실행위원회 운영 방안을 공개한다. 올해 중으로 적절한 추가 멤버 합류 절차를 최종 마련해, AI 안전에 관심 있고 역량 있는 기업 및 기관들의 참여와 기여를 유도할 방침이다.

올 하반기에 AISI는 AI안전 확보를 위한 다양한 정책·평가 활동과 연구 성과를 낼 것으로 기대하고 있다. 지속적인 교류와 회의를 통해, AI안전컨소시엄을 중심으로 업계 및 기관들과 활동·성과를 공유할 전망이다. 마지막으로 인공지능 안전연구소의 활동과 성과가 우리나라 AI 안전 확보로 직결될 수 있도록 긴밀한 확산·협력체계를 정립하도록 나아가겠다는 뜻을 내비쳤다.

김명주 ETRI 인공지능안전연구소장은 “AI 안전은 AI 기술 혁신을 뒷받침하는 기반이자, 글로벌 경쟁력을 결정짓는 핵심 기술 요소인 만큼, 반드시 확보해야 하는 필수재”라며 “인공지능 안전연구소가 중심이 되어 정책·평가·연구를 수행하고 국내 산업계를 지원하는 만큼, 이를 효율·효과적으로 확산하고 담론을 형성하는 구심점으로서 AI안전컨소시엄의 활동을 적극적으로 확대해 나가겠다”고 밝혔다.

글. 바이라인네트워크
<최가람 기자> ggchoi@byline.network