인스타그램의 최고책임자, AI가 생성한 콘텐츠 공유에 경고

인스타그램 헤드인 아담 모세리가 지난 일요일 스레드 게시물 시리즈를 통해 사용자들에게 소셜 미디어에 콘텐츠를 공유하는 것에 대해 주의를 당부했습니다. 그는 생성적 AI가 실제처럼 보이는 이미지를 만들 수 있음을 경고했습니다. 모세리는 모든 AI 생성 콘텐츠를 태깅하는 데 있어 제한이 있다고 인정했습니다.

모세리는 Meta에서 2008년부터 일해온 인물로, 현실적인 AI 창작물이 이제는 쉽게 만들어질 수 있다고 설명했습니다. 그는 사용자들이 정보를 공유하기 전에 그 정보를 제공하는 계정과 그 신뢰성을 고려해야 한다고 강조했습니다.

이사는 쥬라기 공원과 같은 대규모 영화 제작을 현재의 기술과 비교하면서, 고급 AI 기술의 품질과 속도를 인정했습니다.

“생성 AI는 명백히 현실의 기록과 구별하기 어려운 콘텐츠를 생성하고 있으며, 빠르게 발전하고 있습니다.”라고 Mosseri가 게시물 중 하나에서 썼습니다.

모세리는 그들이 모든 이미지와 AI가 생성한 콘텐츠를 필터링하고 제어할 수 없다는 것을 인정했습니다.

“인터넷 플랫폼으로서 우리의 역할은 AI로 생성된 콘텐츠를 최대한 표시하는 것입니다.” 그는 덧붙였습니다. “그러나 일부 콘텐츠는 불가피하게 통과될 것이며, 모든 오해는 AI로 생성되는 것은 아니기 때문에, 누가 공유하는지에 대한 맥락을 제공해야 합니다. 그래서 당신이 그들의 콘텐츠를 얼마나 신뢰하고 싶어하는지 스스로 판단할 수 있습니다.”

인스타그램의 헤드는 사용자들이 콘텐츠를 소비할 때 더욱 비판적으로 접근하고, 진실인지 아닌지 의심하며, “누가 말하고 있는지 항상 고려해야 한다”고 강조했습니다.

많은 사용자들이 회사가 상황에 대해 더 많은 책임을 지지 않는 것에 대해 답변하고 불평했습니다. “메타 플랫폼에서는 게시자가 IG에 자발적으로 붙인 레이블 외에 AI로 표시된 단 한 건의 게시물도 본 적이 없다”라고 한 사용자가 적었습니다. 또 다른 사용자는 “여러분은 이를 앞서 나가는 데 수년이나 걸렸지만 대신 머리를 모래에 집어넣고 이를 신고해온 모든 사용자들을 무시했습니다”라고 적었습니다.

이해들은 올해에도 Meta의 콘텐츠 규제 시스템이 제대로 작동하지 않는다는 것을 보고하고 있습니다. 잘못된 이유로 계정을 차단하기도 했습니다.