‘데이지,’ 폰 스캠을 대응하는 AI 할머니

O2는 사기꾼들을 실시간 통화로 점유하고 고객들을 보호하기 위해 ‘그래니’라는 인간 같은 AI를 개발하였습니다.

O2가 “Daisy”를 공개했습니다. 이것은 인공지능 시스템으로, 사기꾼들과 실제와 같은 긴 대화를 통해 휴대폰 사기를 방지하도록 설계되었습니다. 이 프로젝트는 Virgin Media O2의 더 큰 “Swerve the Scammers” 캠페인의 일부로, 이는 영국 소비자를 대상으로 한 사기 활동을 줄이려는 목표를 가지고 있습니다.

데이지는 사기 전화를 받는 사람들과 자연스럽고 인간 같은 대화를 나눌 수 있는 맞춤형 AI 시스템입니다. 고급 언어 및 음성 기술을 결합한 데이지는 그녀의 창조자들로부터의 입력 없이 사기꾼들을 실시간으로 듣고, 처리하고, 응답할 수 있습니다.

AI ‘데이지’는 실제 사람을 놀랍게도 흉내내어 사기꾼들이 쉬운 표적을 찾았다고 믿게 만들며, 그들의 계획을 방해합니다.

스캠베이팅 컨텐츠로 훈련받은 그녀는 장황한 이야기나 가장한 혼란을 이용해 전화 통화를 길게 늘어뜨리는 전략을 사용하여, 사기꾼들의 시간을 낭비시키고 실제 피해자로부터 그들의 주의를 딴 데로 돌립니다.

국제 사기 방지 주간 (11월 17-23일)을 앞두고 있던 대이지, AI 스캠베이터는 몇 주 동안 사기꾼들과 현실같은 대화를 나누며 그들을 상대하였습니다.

가족에 대한 장황한 이야기를 나누는 것부터 뜨개질에 대한 그녀의 열정을 논의하는 것까지, 데이지는 사기꾼들을 성공적으로 대화에 빠뜨렸습니다. 그녀는 심지어 허구의 은행 정보와 같은 가짜 개인 정보를 제공하여 사기꾼들이 실제 사람을 사기 치는 것으로 믿게 만들었습니다.

범죄자들이 노인에 대한 편견을 이용하는 데이지는 단지 그들의 주의를 잠재적 피해자들로부터 돌리는 것뿐만 아니라 일반적인 사기 수법을 드러내기도 합니다.

O2는 Daisy가 사기꾼들을 40분 이상 전화로 붙잡아 놓았다고 보고했습니다.

버진 미디어 O2의 사기 관리 디렉터인 Murray Mackenzie는 Daisy가 회사의 다양한 방식으로 사기를 막는 방안의 일부라고 설명했습니다. “Daisy의 주요 역할은 사기꾼들의 작업을 방해하는 것이지만, 그녀는 또한 사기 계획의 세련미가 증가하고 있다는 것을 강조합니다,”라고 그는 말했습니다. “그녀의 효과적인 역할은 소비자들이 경계를 늦추지 않고 의심스러운 활동을 신고해야 한다는 것을 뒷받침합니다.”

데이지는 사기 방지의 새로운 경계를 대표하며, AI가 진화하는 사기 전략에 적극적으로 대응하는 방법을 보여줍니다. 인간의 상호작용을 모방함으로써 데이지는 사기꾼들의 가정과 편견, 특히 노인들이 쉬운 목표라는 그들의 믿음을 이용합니다.

O2는 고객들이 의심스러운 전화와 문자를 7726번으로 전달하여 사기 방지를 지원하는 것을 권장합니다. 이는 무료 신고 서비스입니다. 또한, 회사는 스팸 전화를 탐지하고 사기성 메시지를 차단하는 AI 기반 도구에 투자하였습니다. 이를 통해 매월 수백만 건의 사기 시도를 방지하고 있습니다.

전화 사기가 점점 더 진보하고 있고, 복잡한 기술을 이용하여 의심하지 않는 피해자들을 악용하는 시점에 이런 일이 발생하게 되었습니다.

예를 들어, 사이버 보안 연구자들이 최근에 FakeCall이라는 악성 소프트웨어 군을 발견했습니다. 이것은 정교한 음성 피싱 전술을 사용하여 개인들이 민감한 개인 정보를 누설하도록 속입니다.

최근의 또 다른 사례에서는, 사기꾼들이 딸의 목소리를 복제해 미시간 주의 어머니로부터 5만 달러를 갈취하였는데, 이는 사기꾼들이 표적을 속이기 위해 어느정도까지 나아갈 수 있는지를 잘 보여주는 사례입니다.

전화 사기꾼들이 점점 더 세련되어지는 가운데, Daisy는 기술이 소비자를 보호하는 데 중요한 역할을 할 수 있다는 것을 보여주는 좋은 예시입니다. Daisy와 같은 도구들을 끊임없이 세밀하게 개선하고 배포함으로써 O2는 사기 행위를 방해하는 것뿐만 아니라 전화 사기와 관련된 위험에 대한 인식을 더욱 높이려는 목표를 가지고 있습니다.