AI에 대한 잘못된 정보가 대량의 은행 출금을 초래할 수 있습니다

새로운 영국 연구에 따르면, 소셜 미디어에서 유통되는 인공지능이 만든 잘못된 정보가 은행 대량 인출 위험을 높이고 있다고 경고하며, 금융 기관들에게 모니터링 노력을 강화할 것을 촉구하였습니다. 이는 처음으로 로이터에서 보도되었습니다.

UK 기반의 Say No to Disinfo와 커뮤니케이션 회사 Fenimore Harper가 공개한 연구에 따르면, AI는 허위 정보를 더 저렴하게, 더 빠르게, 더 효과적으로 만들어내는 방식을 강조하고 있습니다. 이런 취약점을 악용할 수 있는 행위자들은 경제적, 이데올로기적, 또는 정치적 동기를 가질 수 있으며, 그 범위는 더욱 넓어질 것입니다.

온라인 뱅킹의 편리성과 빠른 송금 서비스는 은행들이 이러한 위험에 더욱 노출되게 만듭니다.

이러한 영향력을 분석하기 위해, 연구자들은 은행의 금융 안정성을 목표로 한 AI가 생성한 가짜 뉴스 캠페인을 만들었습니다. 거짓 헤드라인은 기존의 공포를 이용하여 디자인되었고, 이를 위해 도플갱어 웹사이트와 AI가 생성한 소셜 미디어 콘텐츠를 사용하였습니다.

연구자들은 대규모 확대를 시뮬레이션하여, 최소비용으로 분당 1,000개의 트윗을 생성하였습니다. 500명의 영국 고객들에 대한 설문조사 결과, 허위 정보에 노출된 후 33.6%가 극히 확실히, 그리고 27.2%가 어느 정도 확률로 자신의 돈을 옮길 것이라고 답하였으며, 60%는 이런 내용을 공유하려는 경향이 있었습니다.

영국 은행 계좌 평균 잔액을 기준으로, 단일 허위 정보 캠페인으로 1천만 파운드를 이동시킬 수 있으며, 1억 5천만 파운드를 이동시키는 데 드는 비용은 90~150달러에 불과하다고 합니다.

이러한 공격의 속도와 용이성에도 불구하고, 연구자들은 금융 기관들이 여전히 준비되지 않았다고 말합니다. 은행들은 디스인포메이션 전문가, 능동적 모니터링, 그리고 위기 대응 계획을 갖추지 못하고 있습니다. 현재의 보안 조치들은 사이버 위협에만 초점을 맞추고 있으며 AI 주도의 영향력 작전을 간과하고 있습니다.

AI가 강화된 디스인포메이션은 신뢰를 훼손시키고 대규모 인출을 유발함으로써 금융 섹터를 불안정하게 만들 수 있는 잠재력을 가지고 있습니다. 능동적인 조치 없이, 연구자들은 이러한 캠페인들이 광범위한 경제적 피해를 야기할 수 있다고 주장합니다.

로이터 통신은 AI에 의한 디스인포메이션에 대한 우려가 실리콘 밸리 은행의 2023년 붕괴 이후 나타났다고 지적했습니다. 이때 저축자들이 단 하루에 420억 달러를 인출했습니다.

이후 G20의 금융 안정 위원회를 포함한 규제기관들은 생성적 AI가 금융 불안정을 악화시킬 수 있음을 경고하였으며, 지난 11월에는 “악의적인 행위자들이 디스인포메이션을 생성하고 퍼뜨려 급격한 위기를 초래할 수 있다”고 경고하였습니다. 이러한 위기에는 플래시 크래시와 은행 도주와 같은 사태가 포함됩니다. 이 내용은 로이터 통신이 보도하였습니다.

일부 은행들은 로이터와의 인터뷰를 거절했지만, UK Finance는 금융 기관들이 AI 관련 위험을 적극적으로 관리하고 있다고 밝혔습니다.

이 연구의 발표는 프랑스의 AI 서밋과 동시에 이루어졌습니다. 이곳에서 리더들은 AI의 위험성에 대한 주목을 AI의 채택을 촉진하는 데로 전환하고 있습니다.