세계 두번째 제정 ‘AI 기본법’ 22일 시행

과학기술정보통신부(이하 과기정통부)는 22일부터 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 인공지능기본법)’을 시행한다고 21일 밝혔다.

인공지능기본법은 국가 인공지능 경쟁력을 높이고, 안전하고 신뢰할 수 있는 인공지능 활용 기반 조성을 목적으로 마련돼 지난 2024년 12월 여야 합의를 거쳐 국회를 통과했다. 전세계 두 번째로 제정된 우리나라의 인공지능기본법은 국가 인공지능 거버넌스를 법제화하고, 인공지능 산업 활성화와 인프라 조성, 인공지능 혁신을 뒷받침하는 안전신뢰 기반에 관한 내용을 담고 있다.

국가인공지능 거버넌스의 경우 국가인공지능 정책의 컨트롤 타워인 ‘국가인공지능전략위원회’의 법적 근거와, 전략위원회 내 분과위원회, 지원단, 인공지능책임관 등에 관한 설치 근거를 마련했다.

AI산업 발전을 위해 AI R&D, 학습용데이터 구축, AI 도입·활용 지원, 창업 지원, AI융합촉진, 전문인력 확보, AI데이터센터 구축 지원 등 법률상 지원 사항과 그 세부 기준과 절차 등을 시행령에서 구체화했다.

안전신뢰 기반 조성을 위해 AI윤리, 검·인증, 투명성·안전성 확보, 고영향AI 등을 규정하고, 시행령에서는 안전신뢰 관련 사항의 구체적 내용, 대상, 이행 방법 등을 정해 법률에 정한 사항을 명확히 했다.

인공지능기본법은 AI산업 진흥에 초점을 뒀다. 필요최소 규제 원칙 아래 인공지능사업자에 대한 의무사항이나 제재를 최소화하고, AI산업 진흥을 위한 사항은 폭 넓게 반영했다.

과기정통부는 인공지능기본법의 시행 준비를 위해 작년 1월부터 80여명의 민간 전문가로 구성된 하위법령 정비단을 구성하고, 70여 차례 의견 수렴을 거쳐 인공지능기본법 시행령 초안을 마련했다.

시행령 초안은 작년 9월, 국가인공지능전략위원회 출범식과 함께 공개됐다. 이후 고시, 가이드라인 등 하위법령 전체를 공개하고 의견수렴을 진행하면서 20차례 이상 국내외 기업을 대상으로 설명회를 개최했다.

시행령은 작년 11월 12일 입법예고됐으며, 지난 20일 국무회의 의결을 거쳤다.

시행령은 국가인공지능전략위원회의 구성 및 운영, 전략위원회 내 인공지능책임관 협의회, 분과 및 특별위원회, 지원단에 관한 세부 사항 등을 구체화했다.

선도적인 인공지능 기술력 확보와 학습용데이터 구축을 위해 정부 지원 사업의 범위와 기준을 반영했다. 학습용 데이터 제공을 위한 ‘통합제공시스템’을 과기정통부장관이 구축·관리하되, 시스템이 갖춰야 하는 기능을 규정했다.

기업·공공기관이 AI를 도입하고 그 활용을 확산하기 위해 정부의 지원 사항을 규정하고, 지원 방안을 수립하도록 했다. 기업이 AI기술을 실증 또는 성능시험할 수 있도록 공기업, 정부출연연, 국공립대학 등의 보유 시설을 기업에게 개방 가능하도록 행정적·재정적 지원 근거를 마련했다.

기업의 해외 진출을 지원하기 위해 기술·인력의 국제교류를 지원하고, 관련 업무를 지원하는 공공기관이나 단체를 지정할 수 있는 근거를 마련했다.

기업·기관 등의 인프라를 집적하는 인공지능집적단지 지정 시 ▲인공지능기본계획과의 부합 여부 ▲집적화 효과 ▲지역경제 발전의 기여 등을 종합적으로 고려하고, 집적단지를 지원할 수 있는 전담기관을 별도로 설치하거나 지정할 수 있도록 해, 집적단지가 체계적으로 운영될 수 있는 제도적 기반을 마련했다.

인공지능기본법과 시행령에서 가장 큰 쟁점이었던 고영향 AI 내용도 담았다.

시행령은 고영향 AI나 생성형 AI를 활용하는 AI 제품 또는 서비스를 제공하는 AI 사업자는 해당 인공지능 활용 사실을 사전에 이용자에게 고지하도록 했다. 고지 방법은 다양하게 할 수 있도록 규정했다.

생성형 AI의 결과물, 사회적 부작용이 우려되는 딥페이크 결과물의 경우 이용자의 연령 등을 고려해 명확하게 인식할 수 있는 방법으로 표시하도록 규정했다. 다만, 딥페이크 결과물이 아닌 AI 결과물(애니메이션, 웹툰 등)에 대해 가시적 방법뿐 아니라 눈에 보이지 않는 디지털 워터마크도 허용했다. AI사업자가 알림창이나 UI 등을 통해 생성형AI 결과물을 안내하도록 규정했다.

안전성 의무 확보 대상은 ▲학습에 사용된 누적연산량이 10의 26승 부동소수점 연산(FLOPs)이상이고 ▲최첨단 기술을 적용하며 ▲위험도가 사람의 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우 등을 모두 충족해야 한다. 이 중 기준의 판단 방법은 가이드라인에서 상세하게 규정될 예정이다. 안전성 확보 의무는 고도로 발전한 AI가 통제 불가능한 상황을 가정해, 사회적으로 큰 피해 발생을 사전에 예방하는게 목적이다.

고영향AI의 판단 기준과 고영향AI 사업자의 책무도 구체화됐다. 판단 기준의 경우 ▲AI가 법에서 정하는 영역에서 활용됐는지 여부 ▲위험의 중대성 등을 모두 고려하고, 동시에 최종 의사결정 과정에 사람이 개입하는 경우 통제 가능한 것으로 판단해 고영향 AI 대상에서 제외한다. 관련해 에너지, 먹는물, 의료, 원자력, 범죄수사, 채용, 대출심사, 교통, 공공서비스, 교육 등 10개 영역별 세부 고영향 AI 판단 기준과 사업자 책무의 이행 방법에 관한 내용을 가이드라인을 통해 더욱 세부적으로 구체화했다.

고영향 AI 사업자는 ▲위험관리방안의 수립·운영 ▲주요 기준 등에 대한 설명방안 수립·시행 ▲이용자보호 방안 수립·운영 ▲사람의 관리·감독 ▲안전성·신뢰성 확보 조치 내용 문서 작성·보관 등 안전성·신뢰성 확보 조치를 하도록 의무를 부과받는다.

과기정통부는 기업의 혼란을 최소화하고, 현장에서 충분히 준비할 시간을 제공하기 위해 최소 1년 이상 규제를 유예한다. 해당 기간 동안 사실조사, 과태료 관련 계도기간을 운영하며, 사실조사는 인명사고, 인권훼손 등 중대한 사회적 문제 발생하는 등 극히 예외적인 경우에만 실시할 예정이다.

정부는 기업의 법 이행 준비 지원을 위해 하위법령 제정에 참여한 전문가로 구성된 ‘인공지능기본법 지원데스크’를 개설·운영하기로 했다. 인공지능기본법과 관련된 기업의 문의와 애로사항을 해소하기 위해 전문가들이 검토·분석을 통해 기업에게 상세한 컨설팅을 제공할 예정이다. 영업비밀 유출 등을 우려하는 기업을 고려해 상담 내용을 비밀로 관리하고, 익명 컨설팅도 제공한다.

과기정통부는 규제 유예 기간동안 제도가 합리적으로 운영되고, 기업의 불확실성을 해소할 수 있도록 관련 가이드라인을 보완해나갈 계획이다. 현재까지 수렴된 의견을 바탕으로 보완된 가이드라인 수정본은 22일 법 시행과 함께 공개될 예정이며, 한국지능정보사회진흥원(NIA), 한국인공지능·소프트웨어산업협회(KOSA) 홈페이지에서 확인 가능하다.

또한,‘제도개선 연구반’을 2월부터 운영하되, 산업계, 시민사회, 학계 등 이해관계자의 의견을 청취하여 제도 개선 사항을 발굴해 나갈 예정이다.

스타트업을 위한 인공지능기본법 현장 설명회도 진행한다. 인공지능기본법 대비가 충분치 않은 스타트업과 지역 기업들을 대상으로 규제 유예 기간 중 현장 설명회를 통해 제도안내와 함께 인공지능기본법이 국내 AI산업의 발전과 AI 기본사회 수립을 위한 제도적 기반임을 적극 홍보할 계획이다.

과기정통부는 AI가 경제·사회·문화·국방·안보 등 전 영역에 걸쳐 일상화되는 상황에서 해외 국가의 법 규범 동향 및 기술발전 추세를 면밀히 모니터링하면서 유연하게 대처한다는 방침이다.

과기정통부는“AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 글로벌 기업들이 도입하고 있는 세계적인 추세”라며 “인공지능기본법 시행을 통해 현장에서의 법적불확실성이 제거되고 건강하고 안전한 국내 AI생태계가 조성되기를 기대한다”고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network