연구 결과 IT 리더 84%가 AI 에이전트를 사람만큼 신뢰한다고 밝혀져

SnapLogic이 새로운 보고서, “AI 에이전트: 기업의 최종 경계“를 발표했습니다. 이 보고서는 IT 리더들이 AI 에이전트 채택을 위해 어떻게 준비하고 있는지를 조사하고 있습니다.

미국, 영국, 독일, 호주에서 1,000명 이상의 IT 결정권자들로부터 받은 응답을 바탕으로 이 보고서는 기업들이 작업 최적화 및 생산성 향상을 위해 AI 에이전트를 어떻게 활용하고 있는지를 강조하고 있습니다.

독립적으로 작동하고 복잡한 작업을 수행하는 AI 에이전트는 기업 작업흐름의 중요한 부분이 되어가고 있습니다. 이 보고서는 OpenAI의 자율 작업을 위한 AI 에이전트인 Operator 소개와 Google의 개발자를 위한 무료 Gemini Code Assist 출시를 다룹니다.

“GenAI 기술은 계속해서 빠르게 발전하고 있습니다. 독립적으로 작동하고, 추론하며, 특정한 행동을 수행하여 목표를 완성하는 AI 에이전트를 만들 수 있게 하는 능력은 GenAI가 의미있는 비즈니스 가치를 제공하는 데 있어 중요한 이정표입니다,”라고 보고서에서 언급하였습니다.

조사 결과에 따르면, IT 리더들은 점점 더 AI 에이전트에게 핵심 비즈니스 업무를 맡기는 데 신뢰를 두고 있습니다. 응답자의 84%는 적어도 사람만큼 AI 에이전트를 신뢰하며, 40%는 인간 직원보다 AI 에이전트에게 더 큰 신뢰를 표현하였습니다.

이러한 신뢰 증가는 AI가 효율성을 향상시킬 수 있는 잠재력에 의해 이끌리고 있습니다. 현재 IT 팀은 평균적으로 주당 16시간을 AI 기술 관리에 소비하고 있습니다. 응답자들은 AI 에이전트가 주당 19시간을 회수하는 데 도움이 될 것으로 예상하며, 이는 더 전략적인 작업을 위한 소중한 시간을 확보하는 데 도움이 될 것입니다.

Klarna의 CEO인 Sebastian Siemiatkowski는 AI가 비즈니스에 미치는 변화적인 영향, 특히 전통적으로 인간이 처리하던 작업을 자동화하는 데 대해 이야기해왔으며, 이는 현재의 추세를 반영하고 있습니다. Klarna의 AI 사용은 연간 10백만 달러를 절약하며, AI가 700명의 고객 서비스 에이전트를 대체하고 인간보다 빠르게 작업을 수행합니다.

또한 최근의 설문 조사에서는 고용 비용의 상승과 노동 개혁에 따라 영국 비즈니스 리더들의 절반 이상이 새로운 직원을 고용하는 대신 AI에 투자할 계획이라고 밝혔습니다.

AI 에이전트 도입에 대한 열정은 명확하며, IT 리더들의 79%가 내년 내에 그들의 구현을 우선시하고 있습니다. 더욱이, 92%는 이 시스템들이 다음 12~18개월 내에 의미 있는 비즈니스 성과를 제공할 것이라고 믿습니다.

AI에 대한 투자도 가속화되고 있으며, 거의 80%의 조직들이 내년에 AI 에이전트에 100만 달러 이상을 할애할 계획입니다. 높은 관심에도 불구하고, 여전히 장벽이 존재합니다. 데이터 보안에 대한 우려, 구식 기술, 그리고 통합에 대한 도전이 지속되고 있으며, 60%가 개인정보 보호 위험을 주요 장애물로 인용하고 있습니다.

실제로, NIST는 설명합니다 AI 에이전트들이 하이재킹 공격에 취약하다는 것을, 이는 데이터에 삽입된 악의적인 지시문이 에이전트들로 하여금 해로운 작업을 수행하게 만드는 것입니다. 이 위험성은 신뢰할 수 있는 내부 지시문과 외부 데이터 사이에 분리가 없기 때문에 발생합니다.

주요 사이버 보안 위협에는 원격 코드 실행, 데이터베이스 유출, 그리고 자동화된 피싱이 포함됩니다. 이런 공격들은 AI 에이전트들이 외부 데이터에 의존하는 것을 이용하여, 해로운 스크립트를 실행하거나 사용자 데이터를 도용하거나 악성 소프트웨어를 퍼뜨리는 등의 무단 행동을 유발할 수 있습니다.

게다가, 이 보고서는 직원들의 AI에 대한 회의적인 태도와 AI 환영에 대한 두려움이 적용을 망설이게 하는 원인이라고 지적하고 있습니다. 그럼에도 불구하고, AI 에이전트들이 계속 발전함에 따라, 조직들은 그들의 능력을 활용하여 산업 전반에 걸쳐 변혁을 주도하고자 열망하고 있습니다.

한편, 최근 케임브리지 대학교는 AI 보조 장치들이 실시간으로 사용자의 의도를 예측하고 팔 수 있는 잠재적으로 디스토피아적인 미래를 경고했습니다. 이런 “의도 경제”는 AI가 주도하며, 개인의 투표나 구매 결정과 같은 개인적인 행동까지 대규모로 영향을 미칠 수 있는 심리적 데이터를 사용할 수 있습니다.

연구자들은 이 기술이 상업적, 정치적, 기업적 이익을 위해 인간의 행동을 조작할 수 있다고 주장하며, 그로 인한 윤리적 시사점에 대해 심각한 우려를 제기하고 있습니다.

OpenAI와 Apple과 같은 선두 기술 기업들은 이미 인간의 의도를 예측하는 AI 시스템에 투자하고 있으며, 이러한 투자는 이 신흥 시장의 성장을 더욱 촉진시킬 수 있습니다.