[외쿡신문] AI가 당신과 똑같은 목소리로 ‘보이스피싱’

외쿡신문 : 주 1회 글로벌 테크 업계 소식을 전합니다.

• 보이스피싱에 이용되는 음성합성 AI
• 애플이 챗GPT 탑재 이메일 앱을 거부한 이유는?
• 폭스콘, 인도에 대규모 아이폰 공장 설립 추진
• 리드 호프만, 오픈AI 이사회 탈퇴
• 빙챗에는 유명인을 흉내내는 ‘셀럽모드’가 있다

음성복제, 보이스피싱에 이용된다

영화 터미테이터 1편에서 이 장면 기억 나시나요? 자신을 죽이러 미래에서 온 터미네이터를 피해 모텔에 숨어있던 주인공은 엄마와 통화하며 자신이 있는 위치를 말해줍니다. 하지만 통화한 상대는 엄마가 아니라 자신을 죽이려는 터미네이터였죠. 터미테이터가 주인공 엄마를 죽이고 목소리를 똑같이 흉내낸 것입니다.

이런 목소리 복제 기술은 이제 SF영화에만 존재하는 것이 아닙니다. 최근의 AI 기반 음성합성 기술은 학습한 목소리와 거의 유사한 음성을 생성해낼 수 있습니다. 텍스트를 입력하면 내 목소리와 똑 같은 음성이 만들어지는 것입니다. 이전에는 최소 30분 정도의 음성 데이터가 있어야 유사한 음성을 만들어 낼 수 있었는데, 이제는 훨씬 짧은 음성 데이터로도 가능합니다. 마이크로소프트는 올 초 3초만 녹음하면 유사한 음성을 만들어내는 VALL-E라는 기술을 발표하기도 했습니다.

영화 터미네이터에서 주인공이 엄마 목소리를 듣고 자신의 위치를 말해줬듯, 목소리는 개인을 식별할 수 있는 매우 중요한 정보입니다. 목소리가 똑같다면 상대방을 속이기 매우 쉬워집니다.

워싱턴포스트는 최근 음성복제 기술로 인해 보이스피싱에 속수무책으로 당한 한 캐나다인 부부 사례를 소개했습니다. 이 부부는 자신의 아들이 교통사고를 내 교도소에 수감됐다는 전화를 받았습니다. 전화를 건 이는 자신을 변호사라고 소개했고, 아들을 바꿔줬습니다. 아들은 돈을 부쳐달라고 요구했고, 사랑한다고 말하기도 했습니다. 아들이 감옥에 있다고 보석금이 필요하다는데 돈을 부치지 않을 부모가 몇이나 될까요. 결국 이 부부는 보이스피싱의 피해자가 됐습니다.

이 아들의 목소리는 바로 AI 음성합성으로 만들어진 것이었습니다. 요즘은 유튜브, 틱톡, 소셜미디어 등에 짧은 영상을 찍어 올리는 이들이 많은데, 해커들은 이 영상에서 목소리를 수집해 음성을 합성합니다. 그 목소리는 부모조차 감쪽같이 속을 정도로 아들의 목소리와 유사했나 봅니다.

하니 패리드 UC버클리 교수는 워싱턴포스트와의 인터뷰에서 “1년 전만해도 사람 목소리를 복제하려면 많은 분량의 음성 데이터가 필요했지만, 이제는 30초 분량의 목소리으로 충분히 복제할 수 있다”고 말했습니다.

애플이 챗GPT 탑재 이메일 앱을 거부한 이유는?

애플이 앱스토어에서 블루메일(BlueMail)이라는 이메일 애플리케이션의 업데이트를 중단시켰다가 논란이 일자 승인했다는 소식이 전해졌습니다.

월스트리트저널에 따르면, 애플은 챗GPT가 부적절한 콘텐츠를 생성할 수 있다는 우려 때문에 지난 주 블루메일 업데이트를 거부했습니다. 블루메일은 챗GPT 기능을 이용해 이메일 작성을 자동화하고 고급문장 쓰기 기능을 제공하려고 했습니다. 그러나 애플은 연령을 17세 이상으로 올리거나 콘텐츠를 필터링해야 한다고 개발사 측에 통보했습니다.

블릭스의 창업자 벤 볼라흐는 “애플은 우리가 사용자에게 혁신을 제공하는 것을 어렵게 만들고 있다”고 불만을 드러냈습니다.

월스트리트저널은 “애플이 언어 모델 기반 AI의 콘텐츠에 연령 제한을 설정하려는 시도는 새로운 기술과 그로 인한 위험을 면밀히 주시하고 있다는 것을 나타낸다”면서 “애플은 오랫동안 제품의 개인정보 보호와 보안을 위해 앱 스토어를 통해 아이폰과 아이패드에서 액세스할 수 있는 소프트웨어를 신중하게 선별하고 검토해야 한다고 말해왔다”고 전했습니다.

하지만 애플의 이같은 조치가 공평하지 않다는 지적도 나옵니다. 블루메일이 챗GPT를 탑재한 첫번째 앱이 아니기 때문입니다. 이미 스냅챗과 마이크로소프트 빙과 같은 앱에 챗GPT가 탑재됐고, 이 앱들은 앱스토어에서 정상적으로 배포되고 있습니다. 애플이 생성 AI 앱을 막는다면 스냅챗부터 막아야 한다는 이야기도 나옵니다.

CNBC는 “이번 블루메일 에피소드는 애플 앱스토어가 사용자(예를 들어 소셜 미디어)에 의해, 또는 최근에는 인공지능에 의해 대규모로 생성되는 콘텐츠에 대해 엄격하다는 것을 반영한다”고 전했습니다.

앱이 지적 재산을 침해하는 콘텐츠나 사이버 괴롭힘에 해당하는 메시지를 표시할 수 있는 경우, 앱은 해당 자료를 필터링할 수 있는 방법과 사용자가 이를 신고할 수 있는 방법을 갖춰야 한다는 것이 애플의 입장입니다.

폭스콘, 인도에 대규모 아이폰 공장 설립 추진

애플의 최대 협력업체인 대만 폭스콘이 7억 달러를 투자해 인도에 새 공장을 짓습니다. 블룸버그통신은 폭스콘이 이 공장에서 아이폰을 조립하거나 폭스콘 전기차 부품을 생산할 예정이라고 전했습니다. 아울러 미국과 중국의 긴장이 고조됨에 따라 제조업이 중국에서 멀어지는 현상이 가속화되고 있다고 강조했습니다.

블룸버그는 “이번 투자는 폭스콘이 인도에서 현재까지 지출한 가장 큰 규모의 투자”라며 “애플을 비롯한 미국 브랜드들은 중국에 기반을 둔 공급업체가 인도와 베트남과 같은 대체 지역을 개척할 것을 기대하고 있다”고 설명했습니다.

폭스콘이 인도에 대규모 공장을 짓는 것은 중국에 대한 애플의 관점이 바뀌고 있다는 것을 시사합니다. 지난 연말 코로나19 봉쇄로 폭스콘의 중국 정저우 공장 생산량이 급감한 적이 있습니다. 애플 입장에서는 공급망의 중국 의존도를 낮출 필요성을 절감한 것입니다.

블룸버그는 코로나19와 우크라이나 전쟁으로 글로벌 공급망 재편이 일어나고 있다며, 글로벌 시장에서 전자제품이 만들어지는 방식이 바뀔 수 있다고 전했습니다.

한편 인도의 새로운 폭스콘 공장은 약 10만 개의 일자리를 창출할 것으로 기대된다고 합니다. 인도는 현재 아이폰의 5% 정도를 생산하고 있는데, 이 공장이 본격적으로 생산하면 아이폰의 10~15%를 인도에서 생산할 수 있게 된다고 블룸버그는 분석했습니다.

리드 호프만, 오픈AI 이사회 탈퇴

링크드인의 창립자이자 벤처캐피털 그레이록의 파트너인 리드 호프만이 오픈AI 이사회에서 물러난다고 발표했습니다.

호프만은 오픈AI의 소프트웨어를 사용하는 회사에 투자하고 싶기 때문이라고 이사회 사임 배경을 설명했습니다. 오픈AI 이사회 멤버와 벤처캐피탈 파트너라는 지위 사이에서 이해 상충이 발생할 수 있기 때문입니다. 호프만이 오픈AI 이사회에 있으면서 오픈AI 고객에 집중 투자한다면, 그레이록을 이용해 오픈AI를 간접 지원한다는 논란이 벌어질 수 있습니다.

그는 “설립 초기부터 오픈AI와 이사회는 지금까지 어떠한 충돌도 모니터링하고 피하기 위해 매우 신중하게 노력해 왔다”면서 “(내가) 이사회에서 물러남으로써 그레이록이 투자한 회사와 OpenAI에서 발생할 수 있는 잠재적 문제를 사전에 예방할 수 있게 된다”고 설명했습니다.

호프만의 이런 모습은 오픈AI 기술에 대한 강한 믿음이 있음을 보여주기도 합니다. 스타트업이 오픈AI의 기술을 활용하면 급성장을 할 수 있다고 생각하기 때문에 그런 회사에 투자를 하겠다는 것입니다.

오픈AI는 최근에 각광을 받고 있는 챗GPT를 개발한 기업입니다. 챗GPT와 같은 글쓰기 AI뿐 아니라 Dall-E2와 같은 이미지 생성 AI나 음성합성 엔진 등 다양한 AI 기술을 보유하고 있으며, 현재의 AI 트렌드를 이끌고 있는 회사입니다.  

빙챗에는 유명인을 흉내내는 ‘셀럽모드’가 있다

마이크로소프트 검색엔진 빙과 챗GPT가 통합된 ‘빙챗’에는 AI가 유명인처럼 대답을 해주는 ‘셀럽모드’가 테스트되고 있다고 합니다. 사용자는 셀럽 개인에 대한 질문을 할 수 있고, 빙챗은 마치 자신이 셀럽인 것처럼 대답을 합니다. 예를 들어 톰크루즈에게 취미가 뭐냐고 물으면 빙챗이 대답해주는 식입니다.

블리핑컴퓨터라는 매체가 빙챗에 셀럽모드가 뭐냐고 물었더니 “배우, 가수, 운동선수 등 여러 유명인의 가상 버전으로 채팅할 수 있도록 지원하는 기능”이라고 스스로를 소개했습니다. 샐럽의 취미나 특정 사안에 대한 의견 등을 물어볼 수 있으며, 빙챗은 유명인의 성격과 말투를 반영하여 답변을 제공합니다.

다만 빙챗이 모든 셀럽을 다 흉내내는 것은 아닙니다. 자칫 프라이버시나 퍼블리시티권 침해 소지가 있기 때문에 현재는 일론 머스크, 톰 크루즈, 테일러 스위프트, 톰 행크스, 비욘세, 오프라 윈프리, 버락 오바마, 르브론 제임스 등 제한된 셀럽 캐릭터만 제공합니다.

셀럽모드는 가상 캐릭터도 제공합니다. 해리 포터, 배트맨, 요다, 간달프, 셜록 홈즈 등의 캐릭터와도 대화를 나눌 수 있습니다. 다만 정치인이나 시민운동가, 국가원수 등의 말투는 따라할 수 없습니다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network