OpenAI는 미국 안전 연구소에 신규 모델에 대한 조기 접근 기회를 제공할 것입니다

오늘 OpenAI의 CEO인 샘 알트만은 X에서 회사가 다가오는 기본 모델에 미국 인공지능 안전 연구소에게 조기 접근 기회를 제공할 것이라고 발표했습니다.

알트만은 “지난 7월에도 말했듯이, 우리는 전체 회사의 컴퓨팅 자원 중 최소 20%를 안전 노력에 투입하는 데 전념하고 있습니다.”라며, “우리 팀은 미국 AI 안전 연구소와의 합의를 위해 노력하고 있으며, 이를 통해 다음 기본 모델에 대한 조기 접근 기회를 제공하여 AI 평가의 과학을 전진시키는 데 함께 작업할 수 있게 되었습니다.”라고 썼습니다.

알트만은 이 결정을 공유하는 데에 있어 흥분감을 느꼈으며, 현재와 과거의 직원들이 회사가 개발 중인 AI 기술에 대한 우려를 표현하길 원한다고 덧붙였다. 그는 이것이 회사와 그 안전 계획에 중요하다고 강조했다.

TechCrunch에 따르면, 미국 인공지능 안전 연구소는 국립표준기술연구소(NIST)의 일부로서 AI 플랫폼에서의 위험을 탐지하고 평가하며, OpenAI는 이미 몇 주 전에 영국과 유사한 협약을 체결한 바 있다.

알트만의 발표는 사람들과 조직들이 회사의 안전 조치를 비판한 후에 이루어졌습니다. 6월에는 OpenAI의 현직 및 전직 직원들이 여러 명 공개 편지를 작성하여 AI가 오보를 퍼뜨리고 사회에 위험 요소가 될 수 있다는 우려를 표현하고 경고했습니다. OpenAI의 핵심 연구원인 잔 라이케를 포함하여 여러 직원들이 안전 문제로 회사를 떠났습니다. 이는 OpenAI가 AI 위험을 처리하는 Superalignment 팀을 해산한 후의 일입니다.

보안 문제에도 불구하고 OpenAI는 계속 전진하고 있습니다. 회사는 최근에 ChatGPT Plus용 음성 기능을 출시했으며, 새로운 AI 기반 검색 엔진인 SearchGPT가 일부 사용자를 위해 이용 가능해졌습니다.

알트만과 그의 팀이 AI 위험과 우려를 잊지 않았음을 입증하는 것처럼 새로운 보안 조치를 추가하는 노력이 진행되고 있습니다.