올해 가상 직원이 직장에 투입될 수 있다, OpenAI CEO 예측

인공 지능 에이전트가 자동으로 작업을 수행할 수 있는 능력을 가지고 있어, 올해 안에도 작업팀에 합류해 비즈니스 운영을 변화시킬 수 있다고 OpenAI의 CEO인 Sam Altman이 밝혔습니다.

월요일에 게시된 블로그 글에서 알트만은 AI 기반 가상 직원들이 전통적으로 인간이 수행하던 작업을 맡아 회사의 생산성을 혁신적으로 변혁할 수 있을 것이라고 밝혔습니다. 가디언은 이미 마이크로소프트, OpenAI의 가장 큰 후원자,이 AI 에이전트를 도입하였고, 컨설팅 대기업 맥킨지가 기술을 최초로 채택한 것을 지적했습니다.

“우리는 2025년에 첫 AI 대리인이 ‘직장에 합류’하고 회사의 성과를 크게 바꿀 수도 있다고 믿습니다. 우리는 계속해서 사람들에게 좋은 도구를 반복적으로 제공하면 좋은 결과가 널리 퍼질 것이라고 믿습니다,”라고 알트만은 블로그 포스트에 작성했습니다.

OpenAI는 이달 말에 코드명 “Operator”라는 AI 대리인을 출시할 예정이라고 전해졌습니다. 이 도구는 사용자를 대신해서 코드 작성이나 여행 예약과 같은 작업을 자동화하는 것으로 기대되고 있습니다. 이번 행동은 Microsoft의 Copilot Studio, Anthropic의 Claude 3.5 Sonnet, Meta의 물리적인 몸체를 가진 AI 대리인, 그리고 Salesforce의 새로운 Slack 내 AI 기능 출시에 이어 일어난 것입니다.

맥킨지는 이미 고객 문의를 효율적으로 처리할 수 있는 에이전트를 개발 중이며, 이에는 후속 조치 예약 등이 포함됩니다. 이 회사는 2030년까지 미국 경제의 근무 시간 중 최대 30%가 자동화될 수 있다고 예측하며, 이는 가디언에서도 언급되었습니다.

마이크로소프트의 AI 책임자인 무스타파 술레이만도 구매 결정을 내릴 수 있는 에이전트에 대해 낙관적인 입장을 밝혔습니다. 그는 WIRED와의 인터뷰에서 AI가 독립적으로 거래를 완료하는 “놀라운 데모”를 목격했다고 설명했지만, 개발 과정에서의 도전과제도 인정했습니다. 술레이만은 이러한 고급 기능이 “수 년이 아닌 분기” 내에 나타날 수 있다고 예상했습니다.

알트먼의 블로그에서는 인공일반지능(AGI)을 만드는데 OpenAI가 갖는 확신에 대해서도 언급했습니다. AGI란 인간의 지능을 뛰어넘는 AI 시스템을 말합니다. “우리는 전통적으로 이해해온 AGI를 만드는 방법을 이제 확신하게 되었다”고 그는 썼습니다.

AGI를 넘어서, 알트먼은 “초지능”에 대한 OpenAI의 야망을 설명했습니다. 그는 이것을 과학적 발견과 혁신을 크게 가속화시킬 수 있는 도구로 묘사했습니다.

“슈퍼 인텔리전트 도구들은 우리가 혼자서 할 수 있는 것을 훨씬 넘어서는 학문적 발견과 혁신을 대폭 가속화시킬 수 있으며, 이를 통해 풍요와 번영을 대폭 증가시킬 수 있습니다.”라고 알트만은 썼다. 그는 이러한 발전이 인간의 잠재력을 재구성하는 미래에 대해 열정을 표했다.

AI의 빠른 성장은 비즈니스 생산성과 경제에 대한 광범위한 영향을 미칩니다. 그러나 AI 에이전트가 발전함에 따라 새로운 보안 위험도 등장합니다.

최근에 Medium에서 발표한 조사에 따르면, 예측할 수 없는 다단계 사용자 입력, 내부 실행 복잡성, 운영 환경의 다양성, 신뢰할 수 없는 외부 개체와의 상호작용 등의 취약점들이 드러났습니다.

불분명하거나 불완전한 사용자 입력은 의도하지 않은 행동을 유발할 수 있으며, AI 에이전트의 내부 과정은 실시간 관찰성이 부족하기 때문에 보안 위협을 탐지하기 어렵습니다. 또한, 다양한 환경에서 작동하는 에이전트들은 일관되지 않은 행동을 보일 수 있으며, 적절한 검증 없이 외부 개체를 신뢰하는 것은 에이전트를 공격에 노출시킬 수 있습니다.

이러한 도전들은 AI 에이전트를 보호하고 실제 세계 시나리오에서 안전하게 배포할 수 있도록 견고한 보안 프레임워크의 필요성을 강조합니다.