전직 OpenAI 연구원이자 헌신적인 내부고발자가 사망했다는 소식이 전해졌습니다.

전직 OpenAI 연구원이자 휘슬블로워였던 26세의 수치르 발라지(Suchir Balaji)가 샌프란시스코의 아파트에서 사망한 채로 발견되었다고 당국이 확인했습니다. 이 소식은 처음으로 The Mercury News에서 보도하였습니다.

경찰은 복지 점검 요청을 받은 후 11월 26일에 발라지의 시신을 발견했습니다. 샌프란시스코 의료 검시국은 이 사망을 자살로 판정했고, 수사관들은 범죄 혐의를 나타내는 어떤 흔적도 찾지 못했다고 BBC가 전했습니다.

그의 죽음에 이르는 몇 달 동안, 발라지는 공개적으로 OpenAI의 관행을 비판했습니다. 현재 이 회사는 데이터 수집 방법에 대한 여러 소송에 직면해 있습니다.

I recently participated in a NYT story about fair use and generative AI, and why I’m skeptical “fair use” would be a plausible defense for a lot of generative AI products. I also wrote a blog post (https://t.co/xhiVyCk2Vk) about the nitty-gritty details of fair use and why I…

— Suchir Balaji (@suchirbalaji) 2024년 10월 23일

최근 뉴욕 타임스와의 인터뷰에서 발라지 씨는 인공지능이 현재로서도 곧바로 심각한 위협을 불러올 수 있다고 주장하였습니다. 그는 ChatGPT와 같은 대화형 챗봇들이 이들 시스템을 학습시키는 데 사용된 디지털 데이터를 원래 생성한 개인, 기업, 그리고 인터넷 서비스의 상업적 생존력을 약화시키고 있다고 말했습니다.

OpenAI, Microsoft, 그리고 다른 회사들은 그들의 AI 시스템을 인터넷 데이터로 학습시키는 것이 “공정 사용” 원칙에 해당된다고 주장하고 있습니다.

이 원칙은 네 가지 요소를 고려하며, 이러한 회사들은 저작권이 있는 작품을 크게 변형하고, 그 작품과 같은 시장에서 직접 경쟁하지 않는다는 기준을 충족한다고 주장합니다.

발라지씨는 이에 대해 동의하지 않았습니다. 그는 GPT-4와 같은 시스템이 훈련 데이터를 완전히 복사한다고 주장했습니다. OpenAI와 같은 회사들은 이러한 시스템을 데이터를 복제하거나 완전히 새로운 결과를 생성하도록 프로그래밍할 수 있지만, 그의 말에 따르면 실제 상황은 이 두 가지 사이 어딘가에 있다고 The Times에서 보도했습니다.

발라지 씨는 자신의 개인 웹사이트에 에세이를 게시하여 이 주장을 뒷받침하는 수학적 분석을 제시했습니다. “당신이 저와 같은 생각을 한다면, 단지 회사를 떠나야 합니다.” 라고 그는 말했고, 이는 타임스에서 보도했습니다.

발라지 씨에 따르면, 이 기술은 종종 훈련된 작품과 직접 경쟁하기 때문에 저작권법을 위반한다고 합니다. 온라인 데이터를 모방하도록 설계된 생성 모델은 인터넷의 거의 모든 것, 뉴스 기사부터 온라인 포럼까지 대체할 수 있다고 타임스에서 보도했습니다.

발라지의 사망은 법원서류 제출 다음날 발생했는데, 이 서류에는 그가 OpenAI가 몇몇 작가들이 스타트업을 상대로 제기한 소송과 관련하여 검토할 전문 파일의 주인공으로 지목되었다고 Forbes가 전했습니다.

법적 이슈를 넘어서 발라지씨는 AI 기술이 인터넷을 타락시키고 있다고 경고했습니다. 이런 도구들이 기존의 서비스를 대체하면서, 종종 거짓이나 완전히 허구의 정보를 생성하는데, 이를 연구자들은 “환영” 이라고 부릅니다. 그는 이런 변화가 인터넷을 악화시키고 있다고 믿었으며, 이를 Times가 보도했습니다.

지적 재산권 변호사인 브래들리 J. 헐버트는 현재의 저작권 법이 AI가 등장하기 훨씬 전에 제정되었으며, 아직까지 ChatGPT와 같은 기술이 이러한 법을 위반하는지에 대해 판결을 내린 법원이 없다고 뉴욕 타임스에서 보도했습니다.

그는 입법 조치의 필요성을 강조했습니다. “AI가 너무 빠르게 발전하고 있기 때문에,”라고 그는 말했고, “이제 의회가 나서야 할 때입니다.” 밸라지 씨도 동의하면서, “이 모든 문제를 해결할 수 있는 유일한 방법은 규제입니다,”라고 뉴욕 타임스에서 보도했습니다.