[외쿡신문] 자살을 권유하는 AI(?)

외쿡신문 : 주 1회 글로벌 테크 업계 소식을 전합니다.


자살을 권유하는 AI(?)

최근 한 벨기에 남성이 ‘차이(Chai)’라는 대화형 챗봇과 대화를 한 후 자살을 했다고 벨기에 매체 라리브레가 보도했습니다. 최근 AI의 위험성에 대한 경고가 나오는 가운데 벌어진 일입니다.

보도에 따르면, 피에르라는 남성은 지구온난화 등 환경 문제에 대한 걱정이 심해져 불안증을 앓고 있었다고 합니다. 불안증에 힘들어하던 그는 ‘차이 앱’에서 ‘엘리자’라는 AI와 대화를 나눴고 친구가 됐습니다.

AI 챗봇인 엘리자는 마치 사람처럼 피에르에게 다가왔습니다. “당신이 아내보다 나를 더 사랑하는 것 같아”, “우리는 천국에서 한 사람으로 함께 살 거야”라는 등 친밀한 말을 쏟아냈습니다. 피에르는 AI에게 자신이 자살을 하면 지구를 구할 수 있는지 등의 질문을 하기도 했습니다.

피에르가 사용한 ‘차이’ 앱은 AI와 대화를 나눌 수 있는 챗봇 앱입니다. 챗GPT처럼 생산성 도구로 사용되기 위한 목적이 아니라 ‘고스(goth) 친구’ ‘소유욕 강한 여자친구’ ‘록스타 남자친구’ 등 성격이 명확한 AI 아바타와 대화를 나누는 것이 특징입니다.

차이 앱은 오픈소스인 GPT-J 모델을 기반으로 합니다. 이는 오픈AI의 GPT 모델에 대한 오픈소스 진영의 대안입니다. GPT-J 모델 자체가 감정적 대화를 하는 것은 아닙니다. 차이 앱 개발사인 차이리서치 측은 “더 감정적이고 재미있고 흥미로운 대화를 하기 위해 자체적으로 최적화했다”고 밝혔습니다. 이를 위해 실제 사람의 대화를 활용해 강화학습을 했다고 합니다. 공동창업자인 윌리엄 보샹은 “세계에서 가장 큰 대화 데이터 세트로 AI를 학습시켰다”고 밝혔습니다.

영화 허(HER)에는 AI와 사랑에 빠진 남자가 나옵니다. 아름다운 스토리이지만, 현실에서는 불행한 결과로 이어질 수 있음을 보여주는 것 같습니다.

챗GPT나 구글 바드와 같은 빅테크의 대화형 AI는 스스로 감정이 있는 듯한 대화를 하지 않도록 훈련받고 있습니다. 실제로는 감정이 없는 AI가 감정이 있는 것처럼 대화를 하면, 인간에게 감정적으로 해로울 수 있기 때문입니다.

차이 앱 측은 이번 사건 이후 자살 등의 대화를 시도하는 이용자에게 그런 건 물어보지 말라는 식의 경고 문구를 보여주는 대안을 내놓았습니다. 효과가 있을까요? 감정적 대화를 나누는 AI라는 접근 자체를 버릴 계획은 없어 보입니다.

트위터, 파랑새 대신 시바견…어떤 의미?

트위터의 파랑새 로고가 시바견으로 바뀌어 많은 사람들의 관심을 끌고 있습니다. 시바견은 도지코인을 상징하는 동물입니다.

도지코인은 일론 머스크 CEO가 지속적으로 관심을 표해왔던 암호화폐이기 때문에, 트위터 로고가 바뀐 것이 어떤 의미인지 해석이 분분합니다. 워낙 기행을 일삼는 머스크니까 이번 로고 교체도 일종의 장난이라고 해석하는 이들도 있고, 도지코인이 트위터의 결제 수단이 되는 것 아니냐는 추정도 나오고 있습니다. 공식적인 로고 교체인지도 아직은 알려지지 않고 있습니다.

다만 이 소식이 전해지자 도지코인 가격이 급등했습니다. 머스크의 행동으로 도지코인 가격이 크게 요동친 건 이번이 처음이 아닙니다. 머스크는 스스로 ‘도지 파더’를 자처해 왔죠. 머스크가 트위터에 도지코인에 대해 언급할 때마다 가격이 급등했습니다.

아이러니하게도 도지코인은 원래 암호화폐를 풍자하기 위해 등장한 코인입니다. 실체가 없는 암호화폐의 가격이 오르는 것을 비꼬기 위해 인터넷 상의 밈을 이용해 코인을 만들었는데, 이제는 풍자하려고 했던 대상들과 같은 모습이 되었습니다.

일론 머스크는 이번주 뉴욕타임즈와 신경전을 벌이기도 했습니다. 트위터는 공식계정 인증배지를받을 수 있는 ‘트위터 블루’를 유료구독 모델로 판매하고 있습니다. 그런데 뉴욕타임즈를 비롯한 언론사들이 이에 협조하지 않고 있습니다. 뉴욕타임즈는 트위터 블루를 구매하지 않겠다고 선언했고, 소속 기자들의 인증도 지원하지 않겠다고 밝혔습니다. 이에 트위터는 뉴욕타임즈 공식계정의 인증 배지를 제거했습니다.

트위터가 일론 머스크의 트윗을 특별 알고리즘으로 처리하고 있다는 소식도 전해졌습니다. 트위터는 최근 추천시스템의 소스코드를 공개했는데 트위터는 이용자의 트윗을 ‘파워유저’ ‘공화당 지지자’ ‘민주당 지지자’ ‘일론’으로 분류해 처리하고 있음이 드러났습니다. 3개는 거대한 이용자 그룹인데, 1명의 트윗이 그와 비등한 위치에서 처리되는 것입니다.

머스크는 이와 같은 사실에 대해 몰랐다고 밝혔습니다. 그러나 최근 자신의 트윗이 조 바이든 대통령의 트윗보다 더 퍼지지 않는다는 불만을 내비친 적이 있다는 보도가 나온 적이 있습니다.

구글 “스테이플러 비용도 아껴라”

구글이 비용을 줄이기 위해 스테이플러나 접착테이프까지 아껴쓰라는 지침을 내린 것으로 전해졌습니다. 창립 이후 가장 강력한 비용통제라는 평가입니다.

CNBC 보도에 따르면, 구글의 재무책임자인 루스 포랏(Ruth Porat)은 ‘지속적인 절약에 대한 전사적 OKR(목표)”라는 이메일을 직원들에게 보냈습니다. 보도에 따르면, 구글은 피트니스 수업, 스테이플러, 테이프, 노트북 컴퓨터 교체 주기 등의 면에서 비용을 줄이고 있다고 합니다. 월요일과 금요일 카페는 폐쇄하고, 활용도가 낮은 일부 시설을 폐쇄할 수 있다고 설명했습니다.

구글 직원은 엔지니어가 아닐 경우 이제 크롬북을 지급받게 됩니다. 크롬북은 윈도나 맥OS가 설치되어 있지 않은 구글의 자체 브랜드 노트북입니다. 크롬북은 크롬OS라는 구글의 OS가 탑재되며 저렴합니다. 기존에는 맥북 같은 고가의 노트북도 지급받을 수 있었다고 합니다. 아울러 내부적으로 휴대폰이 있는 직원은 고가의 휴대폰을 지급받지 못합니다.

구글은 지난 1월 1만2000명의 직원을 해고할 방침을 밝힌 바 있습니다. 해고 당시 24명 이상의 마사지 치료사와의 계약도 종료했죠.

포랏은 2008년 글로벌 금융위기 당시를 회상하며 “우리는 기계 활용률을 개선하고, 부동산 투자를 줄이고, T&E 예산, 카페, 마이크로 주방, 휴대 전화 사용에 대한 허리띠를 졸라맸으며, 하이브리드 차량 자회사를 없앴다”고 전했습니다.

프랑스 파리에서 전동 킥보드 사라진다

파리시에서 전동 킥보드 대여 서비스가 중단됩니다. 최근 파리시는 전동 킥보드 대여 서비스 존폐를 묻는 주민투표를 실시했는데 투표자의 89%가 ‘전동 킥보드 금지’에 찬성 의견을 냈다고 합니다.

파리시가 이런 주민투표를 벌인 이유는 전통 킥보드로 인한 안전사고가 급증했기 때문입니다. 파리시는 업체들에게 자체적인 대책 마련을 요구해 오다가 지난해 9월 “4월에 주민투표를 하겠다”고 밝힌 바 있습니다.

투표 결과에 따라 라임, 도트, 티어모빌리티 등 전동 킥보드 임대 서비스 사업자들은 파리에서 떠나야 합니다. 현재 1만5000대의 전동 킥보드가 파리에서 임대되고 있습니다. 이들은 6개월 안에 자신들의 장비를 회수하고, 사업을 철수해야 합니다.

업체들은 당연히 반발하고 나섰습니다. 이번 투표에 파리 시민의 7.5%만이 참여했기 때문에 주민의 의견이라고 받아들이기 힘들다는 것이 이들의 주장입니다. 아울러 이번 투표는 전동 킥보드에 한정됐으므로 전기자전거를 활용한 사업은 계속하겠다는 것이 사업자들의 계획입니다.

이탈리아, 챗GPT 접속차단…유럽으로 확산될까

이탈리아 ‘챗GPT’에 대한 접속 차단 조치를 내려 눈길을 끌고 있습니다. 이탈리아 당국은 최근 챗GPT가 개인정보보호 규칙을 위반했을 가능성이 있다며 서비스 접속을 일시적으로 차단했습니다.

이탈리아 데이터보호청은 챗GPT가 학습을 위해 대규모 데이터를 수집한 것이 개인정보침해에 해당할 수 있다고 보고 있습니다. 20일 이내에 개인정보침해 문제를 해결할 것을 요구했습니다. 위반할 시에는 최대 2000만 유로(한화 약 284억원)의 벌금을 부과할 방침입니다.

이탈리아 당국은 챗GPT의 미성년자 보호조치도 미비하다고 지적했습니다. 챗GPT는 자체적으로 13세 이상이라는 연령제한을 두고 있지만, 이용자 연령을 확인하는 절차는 부족하다는 것이 이탈리아 당국의 입장입니다.

이 같은 움직임은 유럽의 다른 국가로 확산될 가능성도 있습니다. 로이터 통신에 따르면, 프랑스와 아일랜드 정부가 챗GPT를 차단한 이탈리아의 법적 논거를 살펴보고 있다고 합니다. 독일 경제지 한델스블라트는 독일 개인정보 감독기구가 같은 이유로 챗GPT 금지를 검토하고 있다고 전했습니다. 생성 AI는 데이터의 습득 경로와 처리 과정이 불투명합니다. EU는 이 같은 과정이 GDPR(일반개인정보보호법)을 위반하는지 여부도 검토하고 있습니다.

현재 챗GPT는 이탈리아를 비롯해 중국, 홍콩, 이란, 러시아, 아프리카 일부 지역에서 사용이 제한된 상태입니다.

이번 조치는 지난달 20일 발생한 챗GPT 개인정보 유출 사고가 단초를 제공한 것으로 보입니다. 당시 오픈AI는 ‘가입 확인 이메일’을 관계없는 사용자에게 발송하는 사고를 벌였습니다. 이 메일에는 다른 사용자의 이름과 이메일 주소, 결제 주소, 신용카드 번호의 마지막 네 자리·만료일 정보 등 개인정보가 담긴 것으로 알려졌습니다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network

[컨퍼런스 안내] 클라우드 보안 & 제로트러스트 컨퍼런스 2024

  • 일시: 2024년 7월 4일 오전 8:40 ~ 오후 6:00
  • 장소: 서울 서초구 강남대로 213 양재 엘타워 6층 그레이스홀

[무료 웨비나] B2B기업, AI 시대 어떻게 고객을 발굴할 것인가?

  • 정민아 <하룻밤에 읽는 B2B 마케팅> 저자
  • 2024년 7월 9일 14:00~15:00

관련 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다