AI 아바타는 오해를 퍼뜨릴 수 있지만, 베네수엘라처럼 검열이 심한 국가에서는 진실을 전파하는데도 사용될 수 있습니다.

몇 년 동안 해외에서 생활한 후, 저는 지난 해 몇 달 동안 고향인 베네수엘라로 돌아갔습니다. 그곳에서 머무는 동안 제게 눈에 띄었던 것 중 하나는 “미국 TV 앵커들”이 베네수엘라의 경제 상황을 설명하고 어떻게 개선되었는지를 영어로 이야기하면서 스페인어 자막이 달린 이런 유명한 비디오였습니다. 그것은 진짜 같지 않았고, 저는 즉시 의심스러워했습니다—불행히도, 그곳에 사는 사람들은 그렇지 않았습니다.

“우리는 베네수엘라가 정말로 미디어가 수년 동안 주장했던 것처럼 완전히 파괴되었는지 알아보고 싶었습니다.”라며 미지의 House of Media라는 뉴스 채널의 금발 “기자”인 노아가 이렇게 말했습니다. 이 비디오는 소셜 미디어에서 화제가 되었고, 정부가 현지 TV에서 공유했으며, 베네수엘라의 독재자인 니콜라스 마두로가 심지어 온라인에서 홍보하기도 했습니다.

“일어나고 있다”라고 생각했습니다. AI 아바타를 실제 기자로 생각하는 몇몇 베네수엘라 사람들과 대화한 뒤에, “마두로 정권이 AI를 이용해 오해를 퍼뜨리고 있고, 그것이 통하고 있다”라는 생각이 들었습니다. 마두로 정부가 이를 주도했다는 것이 확인되지는 않았지만, 나중에 이 비디오들이 인공지능 회사인 Synthesia가 만든 AI 아바타라는 사실이 밝혀졌습니다. Synthesia는 최근에 인간의 감정을 표현할 수 있는 아바타를 개발했습니다. VICE에 따르면, 그 당시 Synthesia는 한 달에 30달러를 요금하였고, 아프리카와 아시아에서는 비슷한 비디오들이 선전용으로 제작되었습니다.

그러나 여러 국가에서 딥페이크가 악의적 목적과 오해를 퍼뜨리는 데 사용된다는 절망감을 느끼기 시작했을 때, 흥미로운 변화가 주목을 되돌리고 희망을 되찾게 했습니다: 베네수엘라의 기자들이 AI를 사용해 진실을 알리고 전파하고 있습니다.

AI 아바타: 익명성이 주는 이점

딥페이크의 문제점 중 하나는 익명성입니다. 뉴올리언스의 마술사가 그의 역할에 대해 기자들에게 고백한 것처럼—대선 예비 선거 동안 조 바이든 대통령의 목소리를 모방한 로보콜—특정 AI 생성 콘텐츠의 저자를 찾는 것은 AI 아바타가 실제 사람에 대한 정보를 제공하지 않기 때문에 어려울 수 있습니다. 그런데 만약 이것이 특정 상황에서 실제로 해결책이라면 어떨까요?

베네수엘라와 같은 국가에서는, 정부에 반하는 정보를 공유하는 것은 위험합니다. 심지어 당신이 기자가 아니더라도, 소셜 미디어에 게시물을 올리는 것만으로도 위험합니다—다수의 사례들에서 볼 수 있듯이, 빌카 페르난데즈와 같은 사람들과 학생들이 트윗 한 번으로 감옥에 가게 되었습니다. 사람들은 여전히 그렇게 하지만, 그것은 매우 위험한 행동입니다.

이 때 AI 아바타가 유용하게 쓰입니다. 로이터에 따르면, 콜롬비아에 기반을 둔 조직인 Connectas는 지난 7월 28일 대통령 선거 후 “Operation Retweet”이라는 새로운 프로젝트를 #LaHoraDeVenezuela 및 Venezuela Vota 이니셔티브와 함께 시작했습니다. 이 프로젝트의 목표는 La Chama (소녀)와 El Pana (베네수엘라 속어로 ‘친구’)라는 두 개의 AI 캐릭터를 사용하여 독립 매체에서 준비한 실제 정보를 공유하는 것입니다.

이 동영상들은 남아 있는 독립 뉴스 채널과 WhatsApp 같은 다른 통신 채널을 통해 소셜 미디어에 공유됩니다. 작년에 본 Media I의 AI 아바타와 달리, 이 새로운 캐릭터들은 좀 더 인공적으로 보이며 그것을 처음부터 공개합니다. “시작하기 전에, 아직 알아채지 못했다면, 우리가 실제가 아니라는 것을 알려드리고 싶습니다.” 라고는 첫 번째 비디오에 La Chama가 말합니다. “우리는 인공 지능에 의해 생성되었지만, 내용은 실제이며, 검증된, 고품질의, 그리고 기자들에 의해 만들어진 것입니다.”라고 El Pana가 덧붙입니다.

여러 비디오들이 영어와 스페인어로 소셜 미디어에 공유되었으며, 다양한 웹사이트와 다른 커뮤니케이션 채널들을 통해서도 공유되었습니다. 이 프로젝트는 국제적으로 칭찬받았고, 검열과 싸우는 전략으로서 존경받았습니다.

📢 Operacion Retuit의 세 번째 에피소드!#InvaluableJournalism

🎥 이 에피소드는 최근에 통과된 🇻🇪의 비영리단체를 규제하는 법에 초점을 맞추고 있습니다. 시민 공간이 영원히 폐쇄되는 것일까요?🚨

🔗 👉🏽 https://t.co/SkFE5KKQBu

읽고 공유해주세요.📲🔄#VenezuelaVota #LaHoraDeVenezuela pic.twitter.com/HAdlqBXwnh

— CONNECTAS (@ConnectasOrg) 2024년 9월 6일

기술, 생존의 핵심으로 부상

디지털 플랫폼은 수년 동안 베네수엘라 사람들에게 필수적이었습니다. 나는 2016년과 2017년에 나의 가족을 도와서 Twitter(지금은 X)를 통해 할머니의 약을 찾을 때를 기억합니다. 그 때 약품 부족 현상이 85%에 달했던 나라에서 말이죠.

많은 베네수엘라 사람들이 필요에 의해 기술에 능통해지며 모든 디지털 플랫폼을 최대한 활용하고 있습니다. 작년에 비즈니스와 고객들이 WhatsApp을 통해 많은 거래를 관리하는 방식에 나는 매우 감명을 받았습니다. Uber Eats, Uber, Lyft와 같은 인기 앱이나 전통적인 국제 온라인 결제 방법이 존재하지 않기 때문에 나는 이 플랫폼을 통해 음식 배달을 주문하고 교통 수단을 예약했습니다. 사람들은 채팅을 통해 낯선 사람들을 신뢰하게 됩니다.

검열을 우회하기 위해 VPN을 사용하는 것—최근에 국가에서 금지된 X에 접근하기 위해 브라질 사람들이 지금하고 있는 것과 비슷하게—부터 비트코인 채굴, 생활비를 버는 데 필요한 온라인 일자리를 찾는 것까지, 베네수엘라 사람들은 정치적, 사회적, 경제적 위기를 타개하기 위한 도구로서 새로운 기술에 계속 적응하고 있습니다. “미국 다음으로 베네수엘라가 세계에서 가장 많은 데이터 근로자를 보유하고 있다”고 올해 초 Rest of World에서 공유한 보고서에 기록되어 있습니다.

인공 지능은 수년 동안 베네수엘라에서 강력한 존재감을 가지고 있었습니다. 수많은 AI 회사들이 이 위기를 이용하여 저렴한 노동력을 고용하였습니다. 2022년에는 MIT Technology Review에서 AI 데이터 라벨링 회사들이 어떻게 유능한 시민들을 이용한 기회를 찾았는지에 대한 보고서를 공유했습니다: “베네수엘라의 위기는 이러한 회사들에게 큰 혜택이 되었고, 그들은 갑자기 가장 저렴한 노동력을 확보하게 되었습니다.”

이제 베네수엘라 사람들은 기술에 대한 그들의 재능과 지식을 위기 대응 뿐만 아니라 정부에 도전하는 강력한 도구로 사용하고 있습니다. 아마도, 그리고 바랄 것이라면, 새로운 AI 아바타들은 시민들의 권력 강화의 새로운 물결의 시작일 것입니다.