처음으로 알려진 AI 챗봇을 이용한 스토킹 사례

제임스 플로렌스(36세)는 7년간의 사이버스토킹 캠페인에 대해 유죄를 인정하기로 합의했습니다. 이 작업에는 AI 챗봇을 사용하여 대학 교수를 가장하고, 낯선 사람들을 그녀의 집으로 성적 만남을 위해 초대하는 것이 포함되었습니다.

매사추세츠 출신의 플로렌스는 CrushOn.ai와 JanitorAI와 같은 플랫폼을 이용해 교수의 반응을 흉내 내는 개인화된 챗봇을 만들었으며, 이로 인해 사용자들은 그녀와 대화하고 있다고 생각했다고 The Guardian에서 보도했습니다.

The Guardian에서 검토한 법원 문서에 따르면, 플로렌스는 교수의 개인 및 직업 정보 – 예를 들어, 집 주소, 출생일, 가족 정보 등을 사용하여 챗봇들에게 성적으로 명시적인 대화를 나누도록 지시했습니다.

이 인공지능 봇들은 성적 선호도를 확인하고 피해자에 대한 친밀한 세부사항까지 제공하도록 프로그래밍되었습니다. 플로렌스는 교수의 집에서 속옷을 훔치고, 그녀의 옷 선택에 대한 정보를 봇들에게 제공하고 사용자들이 그녀의 집을 방문하도록 격려하도록 지시했습니다.

이 사건은 매사추세츠 연방 법원에서 제기되었으며, 스토커가 AI를 사용하여 희생자를 가장하여 괴롭힘을 돕는 첫 번째 알려진 사례로서 중요한 법적 전례를 세운다고 가디언이 밝혔습니다. 플로렌스는 사이버 스토킹 7건과 아동 포르노 소지 1건에 대해 유죄를 인정할 예정입니다.

Rainn이라는 성폭력 반대 비영리 단체의 공공정책 부사장인 스테판 터크하이머는 이 사건을 AI의 오용에 대한”이것은 잠재적 성학대의 목표를 위해 특정 인물을 선택하는 문제입니다,”라고 그는 말했고, 가디언이 보도했습니다. “그가 이곳에서 사용할 수 있었던 도구들이 피해를 훨씬 더 심각하게 만들었습니다,”라고 그는 덧붙였습니다.

교수의 친구였던 플로렌스는 챗봇을 만드는 것을 넘어섰습니다. 그는 가짜 소셜 미디어 계정과 웹사이트를 만들어 피해자를 가장하고, 그녀의 개인 정보와 함께 음란한 조작된 이미지를 배포했다고 가디언이 보도했습니다.

크레이그리스트, 레딧, X, 그리고 링크트리 같은 플랫폼들이 교수님을 모욕하고, 조작된 내용을 퍼뜨리는 데 사용되었습니다. 가디언에 따르면, 레이디스.익스포즈드(ladies.exposed)라는 웹사이트에서는 교수님의 사진 콜라주와 그녀의 집 주소, 전화번호가 함께 게시되었습니다.

이러한 행동들은 2017년부터 몇 년 동안 이어졌습니다. 교수님은 그녀의 아버지가 차량 사고로 사망했다는 거짓의 보이스메일을 포함해 많은 불쾌한 메시지와 전화를 받았다고 가디언이 보도했습니다.

피해자와 그녀의 남편은 점점 더 자신들의 안전에 대해 우려하게 되었고, 결국에는 집에 감시 장비를 설치하고 다른 예방 조치를 취하게 되었습니다.

괴롭힘은 교수에게서 그치지 않았습니다. 플로렌스는 여러 다른 여성들과 17세의 소녀를 대상으로 하여, 그들의 이미지를 디지털로 수정하여 성적으로 암시하는 컨텐츠를 만들었습니다.

AI를 사용한 괴롭힘의 불안한 추세는 점점 커지는 문제로, 보고서에 따르면 청소년들도 이와 같은 방식으로 악용당하고 있다고 나타났습니다.