구글, AI가 생성한 딥페이크 테러 관련 콘텐츠에 대한 불만 250건 이상 보고됐다

구글이 호주 당국에 인공지능 도구인 ‘제미니’에 대한 보고서를 제출했다고 밝혔는데, 이 도구를 이용한 딥페이크 테러즘을 생성하는 데 대한 전 세계적인 불만이 250건 이상, 아동 학대 관련 자료에 대한 불만이 80건 이상이었다고 한다.

해당 정보는 테크 회사들인 메타, 텔레그램, 레딧, X, 그리고 구글이 2024년 3월에 호주의 온라인 안전법에 따라 현지 법규를 준수하고 신고를 해야 했기 때문에, 호주의 온라인 안전 감시기구인 eSafety Commission에 전달되었습니다.

eSafety는 지난 목요일 AI의 안전성에 대한 우려를 제기하는 공식 문서를 공유했습니다. 이 보고서는 2023년 4월 1일부터 2024년 2월 29일까지 구글 유저들의 신고를 기반으로 작성되었습니다.

eSafety 커미셔너인 줄리 인만 그랜트는 “구글은 자체 생성 AI인 Gemini가 생성한 의심스러운 AI 생성 딥페이크 테러 또는 폭력적인 극단주의 자료에 대한 사용자들의 신고 258건, 그리고 AI에 의해 생성된 의심스러운 아동 성착취 및 학대 자료에 대한 사용자들의 신고 86건을 받았습니다.”라며 “이는 AI 제품을 개발하는 회사들이 이러한 종류의 자료가 생성되는 것을 막기 위한 안전장치를 빌드인하고 그 효과성을 테스트하는 것이 얼마나 중요한지를 강조합니다.”라고 말했습니다.

로이터에 따르면 구글의 대변인은 불법 활동을 허용하지 않았다고 밝혔습니다. “우리가 eSafety에 제공한 Gemini 사용자 보고서의 수는 확인된 정책 위반 사항이 아니라 전 세계 사용자 보고서의 총량을 나타냅니다.”라고 구글의 대변인이 이메일을 통해 로이터에 전했습니다.

인맨 그랜트는 이 보고서를 기술 회사들이 “테러와 폭력적인 극단주의 재료의 온라인 확산”을 어떻게 관리하는지 이해하는 데 있어 “세계 최초의 통찰력”으로 간주하고 있습니다.

위원장은 또한 Facebook, WhatsApp, Telegram과 같은 플랫폼들이 생방송 테러리스트 콘텐츠를 감지하지 못하는 방식을 지적하였습니다. 이먼 그랜트는 2019년 크라이스트처치 공격 – 백인 우월주의자 총기난사범이 2019년 3월 뉴질랜드 크라이스트처치의 두 개의 모스크를 공격하여 51명을 살해한 테러 집단 총격 – 을 극단주의와 치명적인 공격이 감지되거나 제거되지 않은 채로 생방송될 수 있다는 한 예시로 들었습니다.

몇 일 전에, ESafety가 공유한 또 다른 보고서에서는 아이들이 가장 인기있는 소셜 미디어 플랫폼들이 사용하는 현재의 연령 확인 시스템을 쉽게 우회할 수 있다고 밝혔습니다.