보고서에 따르면 AI의 잘못된 정보는 2024년 유럽 선거에 아무런 영향을 미치지 않았다

AI가 생성한 허위정보와 딥페이크가 2024년 영국, 유럽연합(EU), 그리고 프랑스 선거 결과에 전혀 영향을 미치지 않았다는 사실이 선거기술과보안센터(CETaS)의 새로운 보고서를 통해 밝혀졌습니다.

AI 조작에 대한 광범위한 우려에도 불구하고, 이 연구는 대부분의 AI가 활성화된 허위정보가 미결정 투표자들의 의견을 흔드는 것이 아니라 기존의 정치적 신념을 강화하는 데에 더 많이 사용되었다는 사실을 발견했습니다.

그러나 이 보고서는 AI 사용에 따른 보다 광범위한 결과에 대한 우려를 제기하며, 특히 민주주의 과정에서 제기되는 윤리적 도전에 대해 집중적으로 다룹니다.

보고서에서는 영국 선거에서 AI에 의해 촉발된 바이러스성의 허위 정보 16건, 그리고 EU와 프랑스 선거 동안 11건의 사례를 확인했습니다. 이 연구가 주장하는 바와 같이, 이러한 사례들은 대부분 이미 존재하는 정치적 견해를 강화하는 역할을 했습니다.

그러나 이러한 AI 사건의 여파는 오해의 속살을 드러냈습니다. 많은 사람들이 AI가 생성한 콘텐츠가 실제인지 혼동되었고, 이로 인해 온라인 소스에 대한 신뢰가 훼손되었습니다.

보고서에 따르면 일부 정치인들은 적절한 표시 없이 선거 캠페인 광고에 AI를 사용하여 부정직한 선거 행위를 장려하였습니다.

다른 한 가지 발견으로, 이 보고서는 AI가 생성한 풍자가 종종 실제 콘텐츠로 오해 받음으로써 선거의 공정성에 새로운 유형의 위험을 드러냈다고 지적했습니다.

이 보고서는 국내 행위자와 외부 간섭 모두가 AI 기반의 잘못된 정보를 퍼뜨리는 역할에 주목했습니다. 그러나, 봇이 주도하는 가짜 지지 현상(astroturfing) 및 인간 인플루언서에 의한 잘못된 정보 전파와 같은 전통적인 방법이 AI 콘텐츠보다 훨씬 더 큰 영향을 선거인에게 미쳤다고 강조했습니다.

선거 결과에 대한 AI의 영향은 사소했지만, CETaS는 AI 기술이 보다 접근 가능해짐에 따라 위험이 증가하고 있다고 경고하고 있습니다.

이 보고서는 이러한 도전 과제를 해결하기 위해 법적 및 규제 기관의 개입을 촉구하며, AI 주도의 잘못된 정보 전파를 막는 것과 자유로운 언론을 균형있게 유지할 필요성을 제안합니다. 또한, 비윤리적 선거 캠페인 방식을 방지하기 위해 AI로 생성된 정치 콘텐츠에 명확한 라벨링의 중요성을 강조합니다.

2024년 11월에 제출 예정인 CETaS의 최종 보고서는 미국 선거에서 AI의 역할에 초점을 맞추고, AI 관련 위협으로부터 민주주의 과정을 보호하기 위한 장기적인 권고안을 제시할 것입니다.

이 브리핑은 AI의 잠재적으로 긍정적인 활용 가능성을 인정하며 마무리됩니다. 보고서에 따르면, AI는 인공 온라인 인격체를 통해 유권자와 정치 후보자 간의 연결을 강화하는 플랫폼을 제공했다고 주장합니다.

또한, 생성 AI는 사실 확인자들이 후보들이 제기한 오해의 소지가 있는 주장을 우선 순위에 두는 데 도움을 주었고, 그들이 어떤 문제에 대해 긴급하게 주목해야 하는지 결정하는 데 도움을 주었습니다.