구글, 검색에서 AI가 생성한 이미지 표시 예정

구글이 오늘 발표했습니다. 바로 AI 도구를 사용하여 생성되거나 편집된 이미지가 검색 결과에서 어떤 것인지 명확히 표시하기 위한 구글 검색의 변경 사항을 앞으로 도입할 계획이라는 점입니다.

이러한 대기업은 “Provenance”라는 기술을 활용하여 이러한 이미지를 식별하고 라벨링하려고 하며, 이를 통해 사용자의 투명성을 높이고 잘못된 정보의 확산을 막으려는 목표를 가지고 있습니다.

Google은 Provenance 기술이 사진이 카메라로 찍혔는지, 소프트웨어로 수정되었는지, 아니면 생성 AI에 의해 완전히 생성되었는지를 판별할 수 있다고 설명했습니다.

이 정보는 사용자들에게 “이 이미지에 대하여” 기능을 통해 제공되며, 이를 통해 사용자들에게 더 많은 문맥을 제공하고 그들이 소비하는 콘텐츠에 대한 정보를 통해 결정을 내릴 수 있게 돕습니다.

그들의 노력을 강화하기 위해, 구글은 올해 초 콘텐츠 출처 및 진위 확인 연합(C2PA)에 스티어링 커미티 회원으로 참여했습니다. C2PA는 디지털 콘텐츠, 이미지 및 비디오의 역사를 추적하기 위한 표준을 개발하는 데 일조하고 있습니다.

그러나, TechCrunch(TC)는 “C2PA 메타데이터”가 포함된 이미지만이 구글 검색에서 AI에 의해 조작된 것으로 표시될 것이라고 전했습니다.

Google, Amazon, Microsoft, OpenAI, Adobe와 같은 회사들이 C2PA를 지원하고 있지만, TC의 보고에 따르면 이 표준이 널리 채택되지 않았습니다.

The Verge가 지적했듯이, Leica와 Sony의 카메라와 같은 한정된 수의 생성 AI 도구와 카메라만이 C2PA 사양을 지원합니다.

또한 TC는 C2PA 메타데이터가 다른 메타데이터와 마찬가지로 제거되거나 손상되거나 읽히지 않을 수 있다고 지적합니다. xAI의 Grok 챗봇을 구동하는 Flux와 같은 많은 인기 있는 AI 도구들은 개발자들이 해당 표준을 채택하지 않아서 일부 C2PA 메타데이터를 포함하고 있지 않습니다.

이러한 움직임이 유해한 딥페이크 콘텐츠와 싸우는 데 약속을 보이고 있지만, 그 성공은 카메라 제조업체와 생성 AI 개발자들이 C2PA 워터마킹 시스템을 널리 채택하는 데에 달려있습니다.

그러나, C2PA가 도입되었음에도 불구하고, 악의적인 행동자들은 여전히 이미지의 메타데이터를 제거하거나 조작할 수 있어, 구글이 AI로 생성된 콘텐츠를 정확하게 감지하는 능력을 저해할 가능성이 있습니다.