AI 학습데이터 어디까지 공개해야 하나…“편향 검증” vs “기업 경쟁력 훼손”

인공지능(AI) 모델 학습 데이터 투명성을 둘러싸고 사회적 갈등이 증가하고 있다. 알고리즘 편향성을 막고 신뢰를 구축하기 위해 데이터 출처를 공개하라는 요구와, 기술 경쟁력을 지키기 위해 영업비밀을 보호해야 한다는 주장이 맞서는 상황이다. 과학기술정보통신부가 추진하는 AI 윤리원칙 개정 상용 서비스 전반에 걸친 AI 모델 투명성 기준 조항을 두고 기업과 시민사회, 학계 간 시각차가 뚜렷하게 드러났다.

28일 업계에 따르면 시민사회는 AI 학습 데이터 원천 정보 제공 필요성에 대해 강조하는 반면, 기업은 데이터 배합 방식이라는 핵심 영업비밀 유출, 개별 데이터 가치 산정 한계, 시스템 구축 비용 문제 등 이유로 복합적 이유로 현실적인 어려움을 표했다.

시민사회 “최소한 출처와 유형 공개는 신뢰 구축 기본 요건”

시민사회는 상업용 AI 모델 투명성 기준을 확립하고 데이터 원천 정보를 제공해야 한다는 입장이다. 이지은 참여연대 선임간사는 AI가 과거 데이터에 내재된 사회적 차별을 그대로 학습해 편향성을 증폭시킬 위험을 경계하며 기초 정보 파악의 중요성을 설명했다.

이 선임간사는 “원본 데이터 전체를 A부터 Z까지 낱낱이 공개하라는 뜻이 아니다”라며 “어떤 집단 정보를 어디서 적법하게 구매하고 수집했는지 알기 쉽게 설명해 달라는 의미”라고 강조했다. 데이터가 특정 집단을 과대 혹은 과소 대표하지는 않았는지 유형과 출처를 명확히 밝혀야 알고리즘 편향성 유무를 최소한으로나마 검증할 수 있다는 주장이다.

실제로 이대희 고려대학교 법학전문대학원 교수가 작성한 한국저작권위원회 저작권 동향 자료에 따르면 유럽연합(EU) AI법 등 해외 선행 사례 역시 데이터 출처 명시와 지식재산권 보호 여부 공개를 웹사이트에 명시하도록 규정하고 있다.

이 선임간사는 “어떤 데이터로 학습했는지조차 모르는 상태에서 도출된 결과물을 소비자가 온전히 믿기란 어렵다”며 “투명성 확보 조치는 기업 입장에서 단순 비용 청구서가 아니라, 자사 AI 제품에 대한 이용자 신뢰를 확보하는 가장 확실한 기본 요건”이라고 분석했다.

아울러 향후 알고리즘 편향성에 따른 차별 증폭이나 대규모 저작권 침해 등 치명적인 문제가 발생했을 때 국가가 즉각 개입하고 통제할 수 있도록 고위험 AI 시스템을 공공기관에 의무적으로 등록하는 제도 도입 필요성도 함께 진단했다.

산업계 “핵심 자산 노출 시 영업비밀 유출 및 생존권 위협”

산업계는 막대한 자본을 앞세운 글로벌 빅테크와 주도권 경쟁을 벌이는 상황 속에서 핵심 자산인 AI 학습 데이터를 투명하게 공개하라는 압박은 곧 혁신 동력 상실로 이어진다며 생존권 위협을 호소하며 방어 태세를 갖췄다. 이어 기업은 데이터 수집과 가공에 투입된 천문학적 비용과 노력이 제대로 보호 받지 못하면 국내 산업 생태계 전반 자생력이 훼손될 수 있다고 주장한다.

김경훈 카카오 AI세이프티팀 리더는 “사람들이 AI 사용 여부를 알아야 하는 알 권리 측면의 투명성은 매우 중요하지만, AI 학습 데이터 공개를 상위 원칙에 선언하는 것은 전혀 다른 문제”라고 선을 그었다. 그는 “학습 데이터 공개는 현재 국제적으로나 국내 법제상으로 치열한 논쟁이 진행 중인 사안이므로, 이를 윤리 원칙에 섣불리 포함할 경우 향후 입법 논의에 부정적인 영향을 미칠 수 있다”고 우려했다.

또 양질 데이터 확보 여부가 기업의 기술 경쟁력을 결정짓는 핵심 요소라고 부연했다. 차별화된 학습 정보가 외부에 노출되면 방어막인 해자(Moat) 유지가 불가능해진다며, 유명 맛집이 핵심 메뉴 레시피를 경쟁사에 유출하는 것과 동일한 치명적 타격이라고 비유했다.

이는 단순한 시스템 구축 비용을 넘어 국내 저작권법 관련 제도가 정비되는 상황에서 섣부른 투명성 의무가 부과될 경우 심각한 산업적 부작용이 발생할 수 있다는 평가다.

학계 “개별 데이터 가치 한계 및 글로벌 역차별 주의해야”

학계는 AI가 수천만건 이상의 대규모 정보 속에서 패턴을 형성해 작동하는 기술적 특성상 개별 데이터 한 건이 모델 성능에 미치는 정량적 가치는 사실상 거의 없다고 진단하며, 대중과 시민사회가 가진 데이터 가치에 대한 오해 현상을 짚고 현실적인 중재안을 제시했다.

이어 “수천만건 정보 뭉치가 패턴을 형성할 뿐, 특정 개인 정보 1건이 모델 성능 향상에 얼마나 기여했는지 계산하는 것은 사실상 불가능하다”고 덧붙였다. 데이터를 어떤 방식으로 조합해 AI 모델을 학습시키는지가 기업의 중요한 기술 경쟁력인 만큼, 데이터 구성과 활용 방식을 지나치게 구체적으로 공개하도록 요구하면 기업의 기술 경쟁력과 혁신을 저해할 수 있다는 지적이다.

섣부른 투명성 강요가 국내 기업의 역차별 사태를 부를 수 있다는 경고도 뒤따른다. 현시점 전 세계 어느 주요 경쟁국 정부도 자국 AI 기업에게 학습 데이터 원본 공개를 강제하지 않는 상황 속 우리나라 기업에만 고도의 윤리적 잣대를 선제 적용할 경우 국내 기업만 경쟁상 불리한 위치에 놓이는 불평등한 경쟁 구조에 직면할 수 있다는 우려다.

더욱이 최근 미국과 EU 등 주요국이 AI 안전성과 윤리를 일종의 무역 장벽으로 활용하는 상황에서 국내 산업계에만 출처 공개를 요구하는 조치는 해외 시장 진출 기반과 수출 경쟁력을 약화시킬 수 있다는 분석이다.

이상욱 교수는 “구글이나 메타 등 해외 글로벌 빅테크 역시 영업비밀 보호를 명분으로 원본 공개를 극도로 꺼린다”며 “우리나라 기업에만 과도한 잣대를 적용하면 무역 장벽 속에서 수출 경쟁력이 약화하는 사태를 피하기 힘들다”고 내다봤다.

이에 따라 사전 데이터 공개를 강제하기보다 최종 서비스 단계에서 안전성을 확인하는 등 결과물 검증을 강화하는 방향으로 정책을 마련할 필요가 있다. 이 교수는 “데이터를 낱낱이 파헤치기보다, 제품 출시 전 편향성과 공정성 검증 테스트를 통과할 때 인증을 부여하는 사후 규제 방식 도입이 합리적”이라고 제시했다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network