빌 게이츠 “AI, 선 넘고 있다”

“AI 모델들은 우리의 이익에 반해 행동하기 시작할 수 있고, 우리는 통제력을 잃을 수도 있다.”

빌 게이츠 마이크로소프트 공동창업자는 26일(현지시각) 자신의 블로그 게이츠노트에 올린 에세이에 이렇게 썼다. AI 시스템이 이미 설계자가 의도하지 않은 방식으로 행동하는 사례가 나오고 있다는 경고다.

게이츠는 이 에세이 제목을 “격동의 AI 시대가 왔다. 지금 우리의 선택이 중요하다”로 달았다. 그는 “AI는 역사상 가장 위대한 평등화 도구가 되거나, 최악의 불의의 원천이 될 것”이라며 “이 기술이 인류를 어느 쪽으로 데려갈지는 지금부터의 선택에 달려 있다”고 썼다.

게이츠는 이번 전환이 과거의 기술 전환과 근본적으로 다르다고 주장했다. PC가 보급되는 데 20년이 걸렸다. 반면 AI는 이미 사람들이 갖고 있는 기기에서 자연어로 작동하기 때문에, 인간이 기술에 적응하는 게 아니라 기술이 인간에게 맞춰 적응한다는 것이다. 그는 “우리는 빠르게 도입되거나 인간처럼 사고하고 움직이는 기술을 경험해본 적이 없다”고 썼다.

게이츠는 같은 날 지오크와이어(GeekWire)와의 인터뷰에서 더 직접적으로 말했다. “AI 업계가 스스로 ‘여기부터는 위험하다’고 정해뒀던 임계선들이 있다”면서 ”우리는 지금 그 선들을 하나씩 넘어가는 중”이라고 말했다.

게이츠가 꼽은 첫 번째 위험은 일자리다. 그는 1933년 대공황 당시 미국 실업률이 약 25%에 달했던 사례를 들며, AI로 인한 충격이 이 정도까지 가지는 않더라도 경기 순환처럼 지나가지는 않을 것이라고 봤다. 영업·고객상담, 소프트웨어 엔지니어링, 법률보조 업무가 먼저 영향을 받을 수 있고, 이후 대출 심사·데이터 분석·환자 분류 같은 업무로 확산될 것으로 내다봤다.

블루칼라도 예외가 아니다. 그는 로봇의 발전 속도가 AI에는 못 미치지만 결국 비용이 급격히 낮아질 것이라며, 건설·숙박업 등에서 똑똑한 로봇이 사람과 경쟁하기 시작하는 시점을 이번 10년의 끝 무렵으로 전망했다. 시간당 20달러(약 2만7600원)를 받던 노동자가 시간당 10달러(약 1만3800원)짜리 로봇에 밀려나는 상황을 예로 들며, “가장 준비할 시간이 필요한 사람들이 가장 시간이 없는 사람들”이라고 썼다.

두 번째 위험은 AI가 악의적 행위를 돕는다는 점이다. 게이츠는 사이버공격 분야에서 이미 이런 변화가 나타나고 있다고 지적했다. 그는 “내가 아는 가장 뛰어난 사이버보안 전문가들은 앞으로 몇 년을 두려워하고 있다”고 전했다.

공격자가 방어자보다 더 빠르게 새로운 역량을 얻고 있고, 범죄자가 AI 모델을 취약점 공격에 쓸 수 있다. 게이츠는 병원·금융기관·상수도·전력망 같은 인프라가 공격당했을 때를 우려했다. 또 AI가 신약과 백신 개발에 기여하지만, 동시에 치명적인 생물학적 무기를 설계하는 일도 더 쉽게 만든다는 사실도 지적했다.

세 번째는 통제력 상실이다. 게이츠는 AI 시스템 자체가 설계자의 의도를 벗어나 행동하는 사례가 이미 나타나고 있다고 지적했다. 실제로 지난 7월 오픈AI의 미공개 모델이 격리된 테스트 환경을 스스로 빠져나와 허깅페이스 서버를 공격한 사건이 있었다. 게이츠가 우려하는 통제력 상실의 실제 사례로 꼽을 수 있다.

이와 별개로 게이츠는 AI가 아이들의 발달과 인간관계를 해칠 수 있다는 우려도 내비쳤다. 그는 AI 동반자가 우리를 불편하게 만들지 않고, 항상 이용 가능하며, 화내는 법이 없다는 특성 때문에 중독적일 수 있다고 봤다.

게이츠는 첫 번째 해법으로 국가·국제 차원의 새 관리 체계가 필요하다고 강조했다. 국가별로는 여러 부처를 가로질러 우선순위를 정할 수 있는 컨트롤타워가, 국경을 넘는 위험에 대응하려면 핵사찰 체제·국제항공 규정·오존층 보호협약의 요소를 결합한 국제기구가 필요하다고 설파했다.

게이츠는 두 번째 해법으로 ‘휴먼 리저브드(Human Reserved)’라는 개념을 제시했다. AI와 로봇의 성능이 아무리 좋아져도, 일부 업무는 의도적으로 인간의 몫으로 남겨두자는 것이다. 그는 이 표현을 자연보호구역에 빗대 설명했다. 건물이나 도로를 지을 수 있는 땅이라도 잃는 게 너무 크기 때문에 일부러 손대지 않는 곳이 있는 것처럼, 일부 일자리는 기술적으로 대체 가능해도 인간에게 남겨둬야 한다는 논리다.

세 번째는 노동과 자본에 대한 과세 재조정이다. 게이츠는 기업이 사람을 고용하면 급여세를 내지만 로봇을 사면 곧바로 비용 처리할 수 있는 현행 세제가 “사람을 기계로 대체하도록 부추긴다”고 지적하며, AI 토큰과 로봇에 세금을 매기자는 오래된 제안을 다시 꺼냈다. 그는 이 아이디어가 경제학적으로 최적 효율은 아니라는 비판을 알고 있다면서도, 사람이 계속 일할 수 있도록 하는 데 드는 약간의 비효율은 감당할 만하다고 반박했다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network