정부, ‘대한민국 AI 윤리원칙’ 확정…3대 가치·7대 원칙 제시

정부가 20일 인공지능(AI) 개발과 활용 과정에서 적용할 공통 기준으로 ‘대한민국 인공지능 윤리원칙’을 확정했다. 인간의 존엄성과 사회의 공공선, 인류의 지속가능성을 3대 가치로 제시하고 ▲ 인간중심성, ▲ 프라이버시 보호, ▲ 공정성·포용성, ▲ 책임성, ▲ 안전성, ▲ 신뢰성, ▲ 투명성까지 7대 원칙을 담았다.

과학기술정보통신부(과기정통부)와 정보통신정책연구원(KISDI)은 이날 제12회 과학기술관계장관회의에서 윤리원칙이 심의·의결됐다고 밝혔다. 윤리원칙은 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’ 제27조에 따라 마련됐다.

이번 원칙은 AI 개발·제공자뿐 아니라 이용자와 정부·사회 등 다양한 주체가 지켜야 할 공통 기준을 제시한다. AI 관련 판단에 일률적인 답을 정하기보다 판단 과정에서 고려할 사항을 제시해 분야별 윤리기준과 지침의 토대로 활용하도록 했다.

3대 가치는 AI 시대에 추구해야 할 방향을 담았다. ‘인간의 존엄성’은 모든 사람이 수단이 아닌 목적 자체로 존중받아야 한다는 의미다. ‘사회의 공공선’은 AI 활용에 따른 편익이 개인을 넘어 사회적 신뢰와 공동의 이익으로 이어져야 한다는 내용을 담았다. ‘인류의 지속가능성’은 AI의 혜택을 현재와 미래 세대가 함께 누리고 환경과 사회 기반의 지속가능성을 유지해야 한다는 취지다.

7대 원칙 가운데 인간중심성은 AI가 사람의 판단을 지원하고 창의성과 문제 해결 역량을 높이는 방향으로 개발·활용돼야 한다는 내용을 담았다. 필요한 경우 사람이 AI 작동에 개입할 수 있도록 하고 AI에 대한 과도한 의존도 경계하도록 했다.

프라이버시 보호 원칙은 사생활 침해를 막고 개인정보를 정해진 목적과 필요한 범위에서 처리하도록 요구한다.

공정성·포용성 원칙은 AI의 편향으로 부당한 차별이 발생하지 않도록 하고 사회적 약자를 포함한 모든 사람이 공평하게 접근하고 혜택과 기회를 누릴 수 있도록 하는 데 초점을 맞췄다.

책임성 원칙에서는 주체별 역할과 책임을 명확히 하고 문제가 발생했을 때 책임 소재를 밝히도록 했다. 피해가 발생하면 실질적인 구제를 위해 노력하도록 했으며 영향력이 큰 주체에는 그에 상응하는 책임을 요구했다.

안전성 원칙은 생명·신체·정신적 건강과 재산에 대한 피해를 예방하고 위험 수준에 맞는 안전조치를 마련하도록 했다. 오남용과 외부 공격에 대비하는 내용도 포함됐다.

신뢰성 원칙은 AI의 목적과 활용 환경에 맞는 최소 성능 기준을 설정하고 유지하도록 했다. AI가 의도된 목적과 허용된 권한 범위 안에서 작동하는지 지속적으로 점검하는 내용도 담겼다.

투명성 원칙에 따라 AI 활용 여부와 활용 수준, 한계 등 필요한 정보를 이용자가 이해하기 쉽게 제공하도록 했다. AI의 판단 기준과 위험 수준을 공유하고 이해할 수 있도록 노력하는 내용도 포함됐다.

정부는 AI 확산에 따라 노동·일자리 변화, 저작권과 AI 표절, 노동 감시, 과의존, 채용·평가 등 주요 판단에 AI를 어느 수준까지 활용할지에 대한 논의가 커지고 있다고 설명했다. AI 역량이 높아지면서 개발부터 이용까지 전 과정에서 안전성과 신뢰성을 확보할 필요성도 커졌다고 덧붙였다.

윤리원칙 마련에는 작년 12월부터 올 5월까지 작업반과 자문단이 참여했다. 초안은 지난 5월 29일 공개됐다. 이후 지난달 8일까지 산업계·시민사회·학계·일반 국민·관계부처 등으로부터 116건의 의견을 접수했다. 이달 10일부터 14일까지 35건의 추가 의견을 받고 14일 대토론회를 거쳐 최종안을 마련했다.

이번 윤리원칙은 지난 2020년도에 마련된 ‘인공지능(AI) 윤리기준’을 바탕으로 AI 기술 발전과 인공지능기본법 시행 등 변화한 환경을 반영했다. 정부는 공급자와 이용자를 책임 있는 AI 활용 주체로 규정하고, AI 역량과 자원을 많이 보유한 국가와 기업에는 영향력에 상응하는 책임이 필요하다는 방향도 제시했다.

과기정통부는 앞으로 사례 중심 해설서와 분야별 자율점검표, 대상별 윤리교육 교재를 마련할 계획이다. 윤리원칙을 지속적으로 점검·보완하고 국제사회에도 공유할 방침이다.

배경훈 과기정통부 부총리 겸 장관은 “AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다”며 “대한민국 인공지능 윤리원칙이 AI에 대한 사회적 신뢰를 높이고, 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다”고 강조했다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network