Google, 무의미한 성적 딥페이크에 대응하기 위한 정책 업데이트

어제, 구글이 발표한 중요한 정책 업데이트는 개인이 명백한 “딥페이크”를 통제하는 데 도움을 주는 것을 목표로 합니다. 이는 사람들의 동의 없이 성적으로 명시적인 상황에서 사람들을 묘사하는 AI가 생성한 이미지와 비디오를 말합니다.

주요 업데이트 중 하나로, 사람들은 Search에서 동의 없이 만들어진 가짜 명백한 이미지를 제거하도록 요청할 수 있습니다. 구글은 이 과정을 더 간단하고 효과적으로 만들었습니다. 요청이 성공하면, 구글의 시스템은 유사한 검색에 대한 모든 명백한 결과를 필터링하고 중복을 제거할 것입니다.

또한, 해로운 콘텐츠와 싸우기 위해, 구글은 높은 품질의 정보를 우선시하는 랭킹 시스템을 업데이트했습니다. 랭킹 업데이트는 검색 결과에서 명백한 가짜 콘텐츠를 낮추는 역할을 합니다. 사람들의 이름과 함께 명백한 콘텐츠를 특별히 찾는 검색의 경우, 고품질이며 비명백한 콘텐츠가 우선시될 것입니다. 이로 인해 명백한 이미지에 대한 노출이 70% 이상 줄어들었습니다.

구글은 또한 실제적이며 상호 합의된 명백한 콘텐츠와 가짜 명백한 콘텐츠를 더 잘 구분하도록 노력하고 있습니다. 가짜 명백한 이미지가 많이 제거된 사이트는 순위가 하락할 것입니다.

이러한 업데이트의 긴급성을 뒷받침하는 가운데, 독립 연구자가 최근에 WIRED와 함께 비동의 딥페이크 비디오의 광범위한 확산을 보여주는 연구를 공유했습니다. 이 연구에 따르면, 지난 7년 동안 최상위 35개 딥페이크 포르노 호스팅 웹사이트에 적어도 244,625개의 비디오가 업로드 되었다고 합니다. 눈에 띄는 것은 2023년의 처음 9개월 동안에만 113,000개의 비디오가 업로드되었는데, 이는 2022년에 업로드된 비디오 총 수의 54% 증가를 의미합니다. 이런 놀라운 수치는 이 해로운 콘텐츠의 증가하는 유병률을 강조하고 있습니다.

3월의 WIRED 보고서에 따르면, 구글은 인기 있는 여러 웹사이트의 명백한 딥페이크로부터의 링크 제거를 요청하는 13,000건 이상의 요청을 받았습니다. 이 기술 거인은 이러한 요구의 약 82%를 수락했습니다. 이 통계는 해로운 콘텐츠의 상당한 양과 제거 요청에 대한 수요를 보여줍니다.

개인의 이야기들은 딥페이크의 심각한 영향을 드러냅니다. 어제 뉴욕 타임즈는 플로리다의 신흥 정치 스타인 Sabrina Javellana가 인터넷에 자신의 딥페이크가 퍼지는 것을 발견한 이야기를 보도했습니다. 지속적인 괴롭힘에 직면하여 Javellana는 정치에서 물러나 덜 공개적인 역할을 선택했습니다.

또 다른 경우로, 이번 주 BBC는 한 가족이 웨스트 요크셔 경찰이 그들의 12살 딸을 보호하지 못했다고 주장했다고 보도했습니다. 괴롭힘꾼들이 그녀의 딥페이크 선정적 이미지를 Snapchat에 게시했습니다. 처음에 경찰은 Snapchat이 미국 기반임으로 아무것도 할 수 없다고 그 가족에게 말했습니다. 그 이미지로 인해 그 소녀는 깊은 충격을 받았고, 그 이미지는 널리 퍼졌습니다.

구글의 정책 업데이트는 딥페이크 위기에 대처하는데 중요한 단계를 이룹니다. 그러나, 이 문제의 복잡성은 문제를 완전히 해결하기 위한 지속적인 노력과 협력을 필요로 합니다.