의견: 공동창립자와 인재들이 OpenAI를 떠나고 있습니다, 우리가 놓치고 있는 것이 있을까요?

OpenAI는 의심의 여지 없이 현재 기술 산업에서 가장 파괴적인 회사 중 하나입니다. 그들의 놀라운 ChatGPT는 챗봇 어시스턴트 시장을 지배하고 있고 개인과 사회에 미치는 영향력은 측정할 수 없습니다.

이 회사는 현재 $80 억 달러 이상의 가치를 가지고 있으며, 2015년에 10억 달러를 기반으로 설립되었습니다. 그러나 지난 몇 개월 동안 그들의 기관 구조는 그들의 개발, 새로운 기능, 제품, 모델의 속도만큼 빠르게 변화하고 있습니다. 하지만 왜일까요?

이 프로젝트를 시작한 11명의 공동 창업자 중 오직 세 명 정도만이 남아있습니다. 이번 주에 공개적으로 그의 이탈을 발표하였던 존 슐만은 8번째로 떠난 공동 창업자가 되었습니다.

내부적인 공방전, 일시적으로 CEO가 해임된 사건, 공개 서한, 안전에 대해 우려하는 전직 직원들, 그리고 회사의 비밀 보장 계약이 규제 기관과의 문제 제기를 금지한다고 주장하는 내부 정보 제공자들까지 존재하였습니다.

우리 시대에서 가장 고급 기술의 창조자들에 대해 사람들이 알아야 할 것은 무엇일까요? 어떤 것이 사실이고, 어떤 것이 음모 이론인가요?

처음부터 시작해봅시다.

처음 시작된 것: 창립자들

OpenAI는 2015년에 시작되었으며, 회사는 “OpenAI 소개“라는 글을 공유했습니다. 창작자들은 OpenAI를 “비영리 인공지능 연구 회사”로 설명하며 명확한 목표를 밝혔습니다: “인류 전체에 이익을 가져오는 것입니다.”

이 문서에서는 연구 국장으로 이야 수츠케버, 기술 최고 책임자로 그렉 브록만, 공동 의장으로 앨트만, 일론 머스크가 소개되었고, 그들은 나머지 창립자들을 소개했습니다: 트레버 블랙웰, 빅키 청, 안드레이 카파시, 더크 킹마, 존 슐만, 파멜라 바가타, 그리고 보이체크 자렘바.

“우리의 연구가 재정적인 의무에서 자유로워, 우리는 더욱 긍정적인 인간적 영향에 집중할 수 있습니다.”라고 Sutskever와 Brockman은 첫 포스트에서 나머지 팀과 함께 적었습니다. 그들은 또한 Altman, Musk, Amazon Web Services (AWS), YC Research 등의 투자자 그룹이 수년 동안 지속될 것으로 예상되는 10억 달러를 제공하는 데 동참했다는 것을 밝혔습니다.

드림 팀이 준비되었고, 드림 조직이 그들의 업무를 시작할 수 있었습니다.

공동 창업자들의 탈퇴, CEO Sam Altman의 해임

OpenAI가 론칭된 지 얼마 후인 2016년, Vagata는 조용히 회사를 떠나 Stripe에 합류했습니다. Financial Times에 따르면, 이 엔지니어는 그녀의 LinkedIn 프로필에서 OpenAI에 대해 언급하지 않았습니다. 다음 해인 2017년, Cheung, Blackwell, 그리고 Kaparthy도 회사를 떠났습니다.

다섯 번째로 떠난 창업자는 2018년 2월의 Musk입니다. 그는 Altman과의 논쟁 후 이사회를 떠났으며, 이는 몇 년간 계속되어 온 많은 논쟁 중 가장 많은 주목을 받은 퇴사였습니다. Musk는 회사에 대해 여러 차례 소송을 제기했으며, 가장 최근의 것은 몇 일 전에 Microsoft와의 거래에 대한 것이었습니다. OpenAI는 몇 달 전인 3월, Musk가 OpenAI를 Tesla와 합병하고 회사를 완전히 통제하려 했다는 내용을 담은 공개적인 설명을 마침내 공유했습니다.

머스크가 떠난 후, 연구원이자 공동 창립자인 킹마는 추세를 따라 구글의 AI 프로젝트에 합류했습니다. 나머지 공동 창립자들은 이익과 비영리 조직으로 전환되면서 큰 이익 업데이트에도 불구하고 기능적인 조직 체계를 가진 것으로 보였습니다. 그러나 샘 알만과의 문제가 발생하고 2023년에 CEO가 일시적으로 회사를 떠나게 되면서 다시 문제가 생겼습니다.

2023년에 카파시는 OpenAI에 다시 합류했지만, 2024년 2월에 다시 그만두고 자신의 AI 교육 프로젝트인 Eureka Labs를 창립하여 7월에 론칭했습니다. 그 후, 수츠키버는 자신의 회사인 Safe Superintelligence를 창립하기 위해 수석 과학자 자리를 떠났습니다. 그리고 이제, 단 몇 일 전에 또 다른 두 명의 공동 창립자가 한 발짝 뒤로 물러섰습니다. 방금 자신의 결정을 발표한 쉴먼은 라이벌 회사인 Anthropic에 합류하기로 했고, 두 시간 후에 브록만이 휴직을 발표했습니다.

현재는 알트만, 컴퓨터 과학자 자렘바, 그리고 기술적으로는 브록맨만 있습니다. 그래서 11명 중 2.5명이네요?

알트만의 드라마

2023년 말에 세상은 충격적인 소식을 들었습니다: OpenAI의 이사회가 11월 17일에 알트만을 해고했다는 것입니다. 며칠 동안 ChatGPT의 안전에 대한 많은 추측이 불거졌습니다. 이사회는 알트만이 이사회와의 소통에서 “일관되게 진실된 태도를 보이지 않았다”고 주장했습니다. 이는 리더십 전환에 대한 공개 설명에서 나온 것입니다.

“ChatGPT가 출시된 2022년 11월, 이사회는 미리 알지 못했습니다,”라고 올해 5월 TED AI 쇼 팟캐스트 인터뷰에서 전 OpenAI 이사회 멤버인 헬렌 토너가 말했습니다. “우리는 트위터에서 ChatGPT에 대해 알게 되었습니다,”라고 그녀는 밝혔습니다.

OpenAI의 비영리 이사회는 알트만의 독단적인 결정과 마이크로소프트의 130억 달러 투자와 같은 큰 상업적 합의에 대해 우려하였습니다. 이는 처음에는 이상한 비즈니스 관계로 시작되었고, 공식적으로는 불편한 경쟁으로 바뀌었습니다.

미국의 저널리스트인 에즈라 클라인의 연구와 뉴욕 타임스에 대한 분석에 따르면, 이사회는 회사의 원래의 자선 목적에 충실하면서 이익을 추구하는 기관을 통제하려고만 했다. 하지만 이는 실패했다.

알트만은 회사와 기술계에서 높이 평가받고 있으며, 90%의 직원들이 그가 다시 회사에 복귀하지 않으면 사직을 위협했다. 이에는 원래 이사회 측을 지지했던 Sutskever도 포함되어 있었다. 결국 이사회는 사퇴하고 많은 이사들이 회사를 떠났다. 알트만은 단 5일 만에 회사로 돌아왔다.

이론과 사실

OpenAI의 복잡한 상황을 이해하고 해석하는 것은 쉽지 않은 작업입니다. 많은 사람들이 OpenAI에서 새로운 AI 기술의 개발이 제어를 벗어났으며, 전 공동 창업자와 직원들이 안전 문제로 회사를 떠나고 있다고 믿습니다. Reddit 그룹은 OpenAI가 이미 인공 일반 지능 모델을 비밀리에 개발했다고 믿습니다.

이것은 단순한 추측이 아닙니다. 전직 및 현직 OpenAI 직원들, 그리고 다른 AI 회사들의 직원들이 지난 6월 기술에 대한 위험에 대해 공개 경고를 서명했습니다. 그 위험은 잘못된 정보 전달부터 인류의 멸망에 이르기까지 다양합니다.

Jan Leike는 공동 창립자가 아니지만, OpenAI에서 핵심 연구원으로서 활동했으며, 그는 이 회사에서 3년간 일한 후에 지난 5월에 퇴사했습니다. “저는 OpenAI의 리더십과 회사의 핵심 우선 순위에 대해 상당한 시간 동안 의견이 일치하지 않았고, 결국에는 분기점에 이르렀습니다.”라고 Leike는 X에서 글을 썼습니다. “지난 몇 년 동안, 안전 문화와 프로세스는 눈부신 제품들에 밀려났습니다.”

2023년 7월에 설립된 “우리보다 훨씬 똑똑한 AI 시스템을 제어하기” 위한 Superalignment 프로젝트는 Sutskever가 자율성을 가진 동일한 프로젝트를 만들기 위해 떠난 후에 해체되었습니다. 몇몇 전 공동창립자들이 현재 근무하고 있는 Anthropic 역시, 이전 OpenAI의 직원들에 의해 설립되어 “좋고 윤리적인 모델”을 개발하려고 했는데, 그것이 실제로 가능한지 여부는 불확실합니다.

우리가 간과하고 있는 것은 무엇일까요? 우리가 아마도 놓치고 있는 것은 OpenAI가 더 이상 여러 지도자들이 있는 조직이 아니라, 매우 강력하고 영향력 있는 한 남자, 즉 알트만의 동의어로 변모하였다는 인식입니다.