AI 복제품이 은행 보안을 속여버렸다

AI 음성 복제가 산탄데르와 할리팩스 계좌를 침해하여 음성 ID 보안의 결함을 드러냈습니다. 전문가들은 빠르게 발전하는 AI 기술에 대응하여 강력한 사기 방지를 촉구하고 있습니다

BBC의 조사에서 기자 샤리 베일(Shari Vahl)은 AI가 생성한 그녀의 목소리 버전을 성공적으로 사용하여 산탄데르(Santander)와 할리팩스(Halifax)의 은행 계좌를 침해하였습니다.

발의 실험은 이전 라디오 인터뷰의 오디오를 사용하여 그녀의 목소리를 복제하는 것이었습니다. AI 목소리는 표준 스피커를 통해 재생되었을 때, “내 목소리가 내 비밀번호”와 같은 문구를 사용하여 신원을 확인하는 두 은행의 음성 인식 시스템을 모두 속였습니다.

이것은 깊이 있는 시사점을 가지고 있습니다. 음성 ID는 강력한 보안 수단으로 홍보되지만, 이 테스트는 취약성을 보여줍니다.

산탄데르은 BBC에게 “음성 ID 사용으로 인한 사기를 발견하지 못하였으며, 전통적인 지식 기반 인증 방법보다 더 높은 수준의 보안을 제공한다는 데 확신하고 있다”라고 밝혔습니다.

한편, 할리팩스는 음성 ID를 선택적 기능으로 설명하면서 BBC에 보도된 바와 같이 “전통적인 지식 기반 인증 방법에 비해 더 높은 수준의 보안을 제공한다고 확신하고 있다”라고 주장했습니다.

사이버 보안 전문가 Saj Huq는 AI 음성이 이러한 시스템을 쉽게 침투하는 것에 대해 우려를 표현하였습니다. 그는 AI의 빠른 발전이 이런 유형의 침해를 점점 더 그럴듯하게 만든다고 지적했습니다.

그러나 성공적인 사기를 위해서는 특정 조건이 충족되어야 합니다: 등록된 전화에의 접근과 잠금 해제된 장치. 이것은 이러한 공격을 어렵게 만들지만, 불가능하다고는 할 수 없습니다.

이 실험은 AI 기술이 발전함에 따라 더 강력한 방어가 절실히 필요함을 강조합니다. 아직 음성 ID와 관련된 사기가 보고된 적은 없지만, 위험성은 명확합니다.

이 이야기는 은행의 미래에 대한 중요한 질문을 제기합니다: 세련된 AI 주도 사기의 시대에, 얼마나 안전한 것이 충분히 안전한 것인가요?