AI로 이끌어진 사이버불링: 청소년의 고난이 분노를 일으키다
14살의 프란체스카 마니는 뉴저지 주 웨스트필드 고등학교의 교장실로 불려갔습니다. 그곳에서 그녀는 인공지능을 이용하여 자신의 사진이 알몸 이미지로 변조되었다는 사실을 알게 되었습니다. 이는 CBS 뉴스에서 보도했습니다.
시간이 부족하신가요? 여기 빠른 사실들이 있습니다!
- 14세의 한 소녀가 동급생에 의해 AI를 이용해 그녀의 누드 이미지를 만드는 표적이 되었습니다.
- AI 기반의 “누드화” 웹사이트, Clothoff는 수많은 학생들의 음란한 이미지를 만드는데 사용되었습니다.
- 전문가들은 가짜일지라도 AI가 생성한 누드 사진으로 인한 심각한 심리적, 명예훼손 피해에 대해 경고하고 있습니다.
지난해 10월, Westfield High에서는 학생들 사이에 여학생들의 선정적인 사진을 소지한 남학생들에 대한 소문이 퍼졌습니다. Mani는 자신과 몇몇 다른 학생들이 그들의 목표가 되었다는 것을 알게 되었습니다.
다른 피해자가 제기한 법적 소송에 따르면, 한 소년이 인기있는 AI 기반 ‘nudify’ 사이트인 ‘Clothoff’에 Instagram 사진을 올렸습니다. CBS가 보도한 바와 같이 이 사이트는 지난달 300만 번 이상 방문을 받았으며, 실제 같은 가짜 누드 사진을 몇 초 안에 생성합니다.
‘Clothoff’는 미성년자 사진의 처리를 금지한다고 주장하지만 그 메커니즘이 검증되지 않았습니다. 사이트의 면책 조항에도 불구하고 적어도 한 명의 학생의 AI 누드 사진이 Snapchat에서 공유했다고 CBS에서 보도했습니다.
마니는 자신의 조작된 이미지를 본 적이 없지만, 학교가 상황을 처리하는 방식에 크게 영향을 받았습니다. 피해자들은 공개적으로 사무실로 불려갔고, 반면에 관련된 남학생들은 비공개로 수업에서 제외되었습니다.
“관련된 나쁜 행동을 한 사람들은 비밀리에 수업에서 빠져나가는 반면, 우리의 사생활을 크게 침해했다고 느꼈습니다.”라고 마니는 CBS에서 보도하면서 말했습니다.
그날, 교장은 학부모들에게 이메일을 보내, 학생들이 AI를 사용해 선정적인 이미지를 만들었다고 CBS가 보도한 것을 확인했습니다. 이메일에서는 해당 이미지들이 삭제되었으며 더 이상 유통되고 있지 않다는 점을 학부모들에게 확신시켰지만, Mani의 어머니인 Dorota는 여전히 회의적이었습니다.
“정말로 완전히 지울 수는 없다”라고 Dorota는 CBS에 말했습니다. 그녀는 스크린샷이나 다운로드에 대한 우려를 표현했습니다.
해당 학교 구역은 이 사건이나 징계 조치에 대한 세부 사항을 제공하는 것을 거부했지만, CBS에서 보도한 바와 같이 Manis 부부가 수개월 동안 요구해온 바에 따라 AI 남용에 대응하기 위한 학대 방지 정책을 업데이트했다고 밝혔습니다.
실종 및 학대아동 구조센터(National Center for Missing and Exploited Children)의 최고 법률 책임자인 Yiota Souras는 이러한 가짜 이미지가 남기는 영구적인 피해에 대해 강조했습니다. CBS에서 언급했듯이, 피해자들은 종종 정신적 스트레스, 명예 훼손, 신뢰상실 등을 겪게 됩니다.
CBS는 지난 20개월 동안 미국 학교에서 AI 누드와 관련된 거의 30건의 유사한 사건이 발생했으며, 전 세계적으로 추가 사건이 보고되었다고 보도했습니다.
적어도 세 가지 경우에서는 Snapchat이 이미지를 전파하는 데 사용되었습니다. CBS에 따르면, 부모들은 플랫폼에서 이러한 컨텐츠를 제거하는 데 최대 8개월이 걸렸다고 보고하였습니다.
Snapchat은 한 부모의 비판에 대응하여 이러한 신고를 처리하는데 “효율적인 메커니즘”을 가지고 있으며, 이러한 콘텐츠에 대해 “제로 허용 정책”을 가지고 있다고 주장하였다고 CBS가 보도했습니다.
연방법은 성적으로 명시적인 행동을 묘사하는 AI 생성 아동 포르노를 금지하고 있지만, Souras는 일부 AI 누드가 법적 정의를 벗어날 수 있다고 경고하였다고 CBS가 지적했습니다.
그 사건 이후, 프란체스카와 도로타 마니는 학교에서의 AI 관련 정책을 촉구하며 국회와 함께 이 문제를 해결하기 위해 노력해 왔다고 CBS가 보도했습니다.
연방 법안인 Take It Down Act는 테드 크루즈와 에이미 클로버샤르 의원이 공동 후원하였으며, 이번 달에 상원을 통과하여 하원에서의 표결을 기다리고 있습니다. 이 법안은 AI 누드를 공유하는 것에 대한 형사 처벌을 제안하고, 소셜 미디어 플랫폼이 신고된 콘텐츠를 48시간 이내에 삭제하도록 요구한다고 CBS가 전했습니다.
댓글 달기
취소