AI가 말하기 전에 생각하는가? 클로드 3.7 소네트, 하이브리드 추론 기능이 새로이 데뷔했습니다.

Anthropic에서는 새로운 AI 모델인 Claude 3.7 Sonnet을 출시하였습니다. 이 모델은 선택적으로 사용할 수 있는 “확장된 사고” 모드를 도입하여 사용자들이 모델이 복잡한 작업을 처리하는 방식에 대해 더 많은 통제 권한을 갖게 해줍니다.

Anthropic사가 Claude 3.7 Sonnet이라는 업데이트된 AI 모델을 출시했습니다. 이 모델은 하이브리드 추론을 도입하여 사용자가 빠른 대응과 확장된 사고 사이에서 선택할 수 있게 하였습니다.

이 새로운 접근법은 모델이 필요할 때 추가적인 시간을 가지고 응답을 평가하고 개선하는 데 중점을 두어 문제 해결을 개선하려고 합니다.

표준 모드에서는 Claude 3.7 Sonnet이 그 전 버전인 Claude 3.5 Sonnet에 비해 반복적으로 개선되는 방식으로 작동합니다. 하지만 확장된 사고 모드에서는 모델이 답변을 제공하기 전에 자기 성찰을 진행합니다.

AI 제품 책임자인 마이클 게르스텐하버는 이 기능을 사용자들이 응답 시간과 추론 깊이를 균형있게 조절할 수 있는 방법으로 설명했습니다. “사용자는 얼마나 오래 생각하고, 시간과 예산을 가지고 추론과 지능을 교환할 수 있다는 점에서 많은 제어 권한을 가지고 있습니다”라고 그는 말했습니다. 이는 WIRED에서 보도되었습니다.

이 과정은 수학, 물리학, 코딩, 지시 사항 따르기와 같이 다단계 추론이 필요한 영역에서의 정확성을 높이기 위해 의도된 것입니다. 사용자들은 API를 통해 모델과 상호작용하면서 “생각”하는 데 사용하는 토큰의 수를 제한할 수 있어, 응답 속도와 비용을 제어할 수 있습니다.

WIRED는 이 업데이트가 모델이 요청을 처리하는 과정에서 추론 단계를 보여주는 “스크래치패드” 기능도 포함하고 있다고 지적했습니다. 이 접근법은 DeepSeek의 AI 모델 등에서 사용되는 기법과 유사합니다.

Anthropic는 Claude 3.7 Sonnet이 경쟁 스타일의 벤치마크보다는 실제 세계의 응용 프로그램에 최적화되어 있다고 밝혔습니다. 초기 테스트 결과, 복잡한 코드베이스, 고급 도구 사용, 그리고 전체 스택 소프트웨어 개발과 같은 작업에 대한 성능을 향상시키는 데 확장된 추론 모드가 도움이 됐다고 제안하고 있습니다.

이 모델은 SWE-bench Verified 및 TAU-bench에서 평가되었으며, 이전 버전을 능가한다고 Anthropic에서 보고하였습니다.

CNN은 Anthropic이 Claude 3.7의 가격을 이전 모델과 동일하게 유지하면서 이를 OpenAI의 최신 제품보다 낮게 포지셔닝하고 있다고 주목했습니다. 이 모델의 비용은 백만 개의 입력 토큰당 $3이고 출력 토큰당 $15인 반면, OpenAI의 유사한 티어는 $15와 $60입니다.