AI 결정 어떻게 따라야 할까…개인정보위 ‘권리 안내서’ 공개

인공지능(AI) 등을 활용한 자동화된 결정이 이뤄지는 영역에서 기업과 기관이 지켜야 할 사항을 담은 안내서가 나왔다.

개인정보보호위원회는 ‘자동화된 결정에 대한 개인정보처리자의 조치 기준’이 시행된다고 26일 밝혔다. 해당 기준에 대한 안내서를 발간해 기업과 정보주체의 이해를 돕기로 했다.

‘자동화된 결정’이란 AI 기술을 적용한 시스템을 포함한 완전히 자동화된 시스템으로 개인정보를 처리해 이뤄지는 결정을 말한다. 정보주체는 자동화된 결정에 대해 설명 또는 검토를 요구할 수 있고, 권리 또는 의무에 중대한 영향을 미치는 경우에는 거부할 수 있다.

제도 시행에 따라 기업과 기관이 정보주체의 권리와 의무에 영향을 미치는 결정을 하면서 사람이 개입하지 않는 방식으로 운영하는 때에는 기준과 절차를 공개하는 등 투명성 확보와 함께 설명이 가능하도록 미리 준비해야 한다.

우선 자동화된 결정에 해당하는지 여부를 확인해야 한다. 최종 결정 전에 사람에 의한 판단 절차를 있는 경우는 자동화된 결정에 해당하지 않는다. 해당 여부는 안내서에 담긴 자율진단표를 통해 확인해 볼 수 있다.

정보주체가 자동화된 결정에 대해 설명을 요구한 경우에는 정보주체에게 도움이 될 수 있는 의미 있는 정보를 선별해 제공해야 한다. 정보 주체가 자신에 대한 자동화된 결정에 대해 의견을 제출한 경우에는 해당 의견을 반영할 수 있는지 검토하고 그 결과를 알려야 한다.

자동화된 결정이 정보주체의 권리 또는 의무에 중대한 영향을 미치는 경우면서 정보 주체가 그 결정을 거부한 경우 적용을 정지하고 조치 결과를 정보주체에게 알려야 한다. 실질적으로 사람이 개입해 재처리한 후 그 결과를 정보주체에게 알리는 것도 가능하다.

자동화된 결정의 기준과 절차 등을 쉽게 확인할 수 있도록 인터넷 홈페이지 등에 사전에 공개하는 한편 권리 행사를 위한 방법과 절차도 함께 안내해야 한다.

이번에 공개한 안내서는 개인정보위 홈페이지에서 확인하면 된다. 양청삼 개인정보정책국장은 “이번에 공개한 안내서를 참고해  그 기준과 내용을 미리 파악하고 정보주체의 요청에 대응할 수 있도록 준비가 필요하다”며 “새로운 제도가 현장에서 안정적으로 정착될 수 있도록 지속적으로 홍보하고 안내해 나갈 계획”이라고 밝혔다.

AI 기업 시정명령 대부분 이행

개인정보위는 이 밖에도 전체회의를 통해 AI 사업자에 대한 개인정보 개선권고 사항 점검 결과를 공개했다. 개인정보위는 대규모언어모델(LLM) 서비스를 제공하는 인공지능(AI)기업 6개사는 올해 3월 처분한 개선권고 사항에 대해 적극적으로 이행 계획을 마련한 것으로 확인했다.

오픈AI를 비롯해 ▲구글 ▲마이크로소프트 ▲메타 ▲네이버 ▲뤼튼 등 6새 사업자와 공공기관 등 43개 피심인에게 처분한 44개의 시정명령(권고), 개선권고내용에 대한 이행실태를 점검한 결과, 이 중 41개가 시정명령(권고) 이행 완료 및 개선권고에 대한 이행 계획 제출을 완료했다고 보고했다.

AI 사업자의 경우 데이터 학습 이용과 관련한 개인정보위의 개선 의견에 따라 공개된 데이터 내 개인정보 제거를 위해 개인정보위 및 한국인터넷진흥원이 제공하는 개인정보 노출 페이지를 삭제하고, 주민등록번호 등이 포함되지 않도록 필터링했다.

또한 이용자 안내를 강화해 데이터 학습시 인적 검토가 이루어지는 사실을 명확하게 고지하고, 거부 설정 기능을 제공한다. 이외에도 3개인정보 침해 예방 및 대응을 위해 개인정보 처리방침을 보완하고, 부적절한 답변에 대한 신고 기능 등을 도입한다

또한 주요 시스템을 운영하는 18개 정부기관에 대해 개인정보위가 지난해 12월에 개선을 권고한 총 10개 과제에 대해서는 이들 기관 모두 이행 계획을 제출했다.

현재 개인정보위는 382개 시스템에 대해 지난해부터 3개년에 걸쳐 순차적으로 안전성을 점검하는 중이다. 개인정보위는 앞으로 시정명령 등을 미이행한 3개 피심엔에 대해서는 이행 독촉 후 과태료를 부과할 방침이다.

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network