OpenAI, DevDay 이벤트 중에 AI 모델을 위한 새로운 기능 발표

OpenAI가 어제 샌프란시스코에서 열린 화요일의 DevDay 이벤트에서 개발자들이 그들의 AI 모델로 응용 프로그램을 개발하는 데 사용할 수 있는 새로운 도구를 공개했습니다.

Inc.에 따르면 이 스타트업은 네 가지 주요 API(application programming interface) 업데이트를 공유했습니다: RealTime, Prompt Caching, Model Distillation, 그리고 Vision Fine-Tuning. 이 새로운 기능들은 개발자들이 OpenAI의 새로운 기술을 사용하고 이를 자신의 제품에 적용할 수 있게 할 것입니다.

가장 최신이고 혁신적인 API 서비스인 RealTime은 개발자들이 최근에 출시된 ChatGPT의 음성 기능을 활용할 수 있게 해줍니다. 이 새로운 기능은 오디오를 즉시 처리할 수 있게 해주며 – 이는 이전에도 가능했지만, 텍스트 변환과 다른 애플리케이션 연결이 필요했었습니다 – 더 빠르고 저렴해질 것입니다. RealTime은 미래에는 비디오도 처리할 수 있을 것으로 예상됩니다.

프롬프트 캐싱(Prompt Caching)은 개발자들이 일반적인 프롬프트를 재사용하여 비용을 줄이고 효율적으로 작업할 수 있게 해줍니다. “이는 긴 프롬프트의 경우, 대기 시간을 최대 80%, 비용을 50%까지 줄일 수 있습니다.”라고 개발자를 위한 OpenAI 플랫폼에서 설명했습니다.

모델 디스틸레이션을 이용하면 개발자들이 GPT-4o 미니와 같은 작은 AI 모델의 기능을 확장하고 개선할 수 있게 되며, 비전 파인 튜닝은 이미지에 의존하는 애플리케이션들이 물체 인식을 개선하고 시각적 콘텐츠를 더 잘 처리하도록 도와줄 것입니다.

OpenAI는 그들의 웹사이트와 개발자 플랫폼에 새로운 기능들의 자세한 내용, 예시(비디오와 다른 회사들이 이 기능들을 사용하는 인터뷰 포함), 그리고 가격을 공유했습니다. 예를 들어, RealTime의 경우, 오디오 입력에 대한 비용은 분당 약 $0.06이며 오디오 출력은 $0.24가 될 것입니다.

이 새로운 발표는 미라 무라티, 오픈AI의 최고 기술 책임자(CTO)와 다른 임원들이 사임한 지 며칠 만에 나왔습니다.