유튜버가 어떻게 자신의 콘텐츠를 훔치는 AI 봇을 속이는지

한 유튜버가 온라인 콘텐츠를 무단으로 스크랩하고 재사용하는 AI 모델에 대해 창조적인 방식으로 저항하고 있습니다.

F4mi라는 이름의 크리에이터는 알려지지 않은 기술에 대한 심층적인 비디오로 잘 알려져 있습니다. 그녀는 인공지능 요약기를 혼란시키는 방법을 개발했는데, 그 방법은 사람들이 읽는 데는 문제가 없지만 기계에게는 혼란스러운 잘못된 정보를 전사본에 가득 채우는 것입니다. 이 내용은 처음으로 ArsTechnica에서 보도되었습니다.

AI로 생성된 “얼굴 없는” YouTube 채널의 급증이 많은 콘텐츠 제작자들에게 걱정거리가 되고 있는데, 이는 Medium에서도 언급되었습니다. 이러한 채널들은 대부분 AI 도구를 사용하여 대본, 음성 오버, 그리고 시각적 요소들을 생성하며, 종종 기존의 비디오에서 자료를 끌어와 거의 즉시 표절작을 만들어냅니다.

많은 유튜버들이 자신들의 작업이 복사되고 재활용되는 것을 보고하였으며, AI 모델들이 직접 그들의 비디오 대본에서 자료를 추출하는 것을 보았습니다.

이에 대응하기 위해, F4mi는 애니메이션 팬 자막 제작을 위해 처음 개발된 수십 년 된 자막 형식인 .ass를 사용하게 되었습니다. 표준 자막 파일과 달리, .ass는 사용자 정의 폰트, 색상, 위치 설정과 같은 고급 형식 옵션을 지원합니다.

이러한 기능을 활용하여 F4mi는 추가적인 텍스트를 그녀의 자막에 포함시키는데, 이는 사람들에게는 보이지 않지만 AI 스크레이핑 도구에게는 매우 방해가 되는 것입니다.

그녀의 방법은 화면의 가시적인 범위 바깥에 추가 텍스트를 삽입하고, 그 단어들을 사람들이 읽을 수 없는 투명한 형태로 만드는 포매팅 기법을 사용하는 것입니다. 삽입된 텍스트에는 소소한 단어 변경이 이루어진 공개 도메인의 문장들과 요약 도구를 압도하도록 디자인된 AI가 생성한 nonsensical한 내용이 포함되어 있습니다.

AI가 이러한 자막을 추출하고 요약하려고 하면, 원래의 내용을 왜곡하고 부정확한 버전으로 끝나게 됩니다.

F4mi는 기본적인 AI 도구들이 그녀의 접근법에 어려움을 겪는 반면, OpenAI의 Whisper와 같은 보다 고급 모델들은 여전히 의미있는 정보를 추출할 수 있음을 발견했습니다.

이에 대응하기 위해, 그녀는 파일 수준에서 텍스트를 더 섞어 읽을 수 있는 상태로 유지하면서 재생시에도 읽을 수 있게 했습니다. 이로 인해 AI가 이를 분석하려고 할 때 또 다른 복잡성이 추가되었습니다.

ArsTechnica는 YouTube가 기본적으로 .ass 자막을 지원하지 않기 때문에 F4mi는 자신의 캡션을 YouTube의 .ytt 형식으로 변환해야 했다고 지적했습니다. 그러나 이 방법에는 특히 모바일 기기에서 변경된 자막이 때때로 검은 상자로 나타나는 등의 단점이 있었습니다.

이 문제를 해결하기 위해, 그녀는 오해를 불러일으키는 텍스트를 검은색 배경 위에 검은색 캡션으로 숨기는 파이썬 스크립트를 개발했습니다. 화면이 검게 변할 때만 보이는 것입니다.

그럼에도 불구하고, F4mi는 자신의 방법이 만병통치약이 아니라는 것을 인정합니다. AI는 여전히 오디오 트랙에서 직접 텍스트를 생성할 수 있으며, 고급 화면 독자는 비디오에서 보이는 텍스트를 추출할 수 있습니다.

그럼에도 불구하고, 그녀의 실험은 콘텐츠 제작자들 사이에서 AI 모델이 온라인 자료를 동의 없이 스크랩하는 것에 대한 저항이 점점 커지고 있다는 것을 부각하고 있습니다. AI가 생성하는 콘텐츠가 계속해서 확산되는 가운데, F4mi의 것과 같은 혁신적인 대응책이 점점 더 일반화될 수 있습니다.