AI는 결정을 예측하고 영향을 미칠 수 있으며, 당신의 의도를 기업에 판매할 수 있습니다.

AI는 곧 당신이 결정을 내리기도 전에 회사들이 당신의 의도를 사고 팔 수 있는 시장을 이끌어낼 수 있을 것이라는 경고가 케임브리지 대학의 연구자들로부터 나왔습니다.

이런 신흥 “의도 경제”는 인공지능 보조 기능이 당신의 선택을 예측하고 영향을 미칠 수 있게 해줄 것입니다. 영화 티켓 구매부터 선거 투표에 이르기까지, 종종 당신 자신이 당신의 선호도를 깨닫기 전에 말이죠.

케임브리지의 레버훌름 미래지능 센터(LCFI)의 AI 윤리학자들은 제안하고 있습니다. 그들은 생성 AI와 챗봇의 증가하는 사용이 새로운 유형의 설득적인 기술을 이끌어 낼 수 있다고 말하고 있습니다.

이 AI 에이전트들은 챗봇 어시스턴트부터 디지털 튜터에 이르기까지, 일상 대화를 통해 수집된 개인 심리 및 행동 데이터에 대한 광범위한 접근 권한을 가질 것입니다. 이는 비공식 대화를 포함합니다.

이 데이터와 함께 고급 알고리즘을 이용하면 AI가 사용자의 욕구를 예측하고 그들의 결정을 대규모로 영향을 미칠 수 있을 것이라고 연구자들은 주장합니다.

“AI 보조자를 생활의 모든 영역에 배치하기 위해 엄청난 자원이 투입되고 있습니다. 이러한 소위 보조자들이 누구의 이익과 목적을 위해 설계되었는지에 대한 질문을 제기해야 합니다.”라고 LCFI의 방문학자인 야쿱 채우드하리 박사는 Eurekalert에서 보도했습니다.

AI 도구는 사용자의 온라인 습관에서 데이터를 수집하는 것뿐만 아니라 사람들이 어떻게 말하는지와 실시간 상호작용에서 유추할 수 있는 미묘한 신호들까지 해석할 수 있습니다. 연구자들에 따르면, 이러한 도구들은 곧 우리의 결정을 예측하고 영향을 줄 수 있으며, 이를 통해 기업, 정치, 상업적 이익을 위한 조작이 가능해질 것입니다.

LCFI의 기술사학자인 존니 펜 박사는 인터넷의 통화는 오래 전부터 주목을 받아왔으며, 페이스북과 인스타그램과 같은 플랫폼들이 사용자 참여로 이익을 얻었다고 설명합니다. 그러나, 신흥 ‘의도 경제’에서는 인간의 동기가 새로운 통화가 될 것입니다.

“규제가 없다면, 의도 경제는 여러분의 동기를 새로운 화폐로 취급할 것입니다. 그것은 사람들의 의도를 목표로 삼고, 조종하며, 팔아 넘기는 이들에게 금광과 같을 것입니다.”라고 Eurekalert에 보도된 바에 따르면 Dr. Penn이 말했습니다.

연구자들은 이 시장이 자유롭고 공정한 선거를 저해하고, 미디어의 성실성과 시장 경쟁력에 영향을 미칠 수 있는 심각한 결과를 초래할 수 있다고 경고하고 있습니다. 그들은 의도 경제가 아직 초기 단계에 있지만, 그 개발의 초기 징후가 이미 눈에 띈다고 주장합니다.

예를 들어, 유레칼러트(Eurekalert)에 따르면, OpenAI, 메타(Meta), 애플(Apple)과 같은 주요 기술 회사들이 인간의 의도를 예측하는 AI 시스템에 투자하기 시작했습니다. OpenAI는 예를 들어, 다양한 형식으로 인간의 의도를 표현하는 데이터를 요청했고, 애플의 2024년 “App Intents” 프레임워크는 사용자의 미래 행동을 예측하도록 설계되었습니다.

위험에도 불구하고 Penn과 Chaudhary는 이러한 발전이 본질적으로 부정적인 것은 아니라고 강조합니다. 하지만, 의도경제가 윤리적인 경계를 넘지 않도록 공공의 인식과 규제의 중요성을 강조하고 있습니다.

“우리는 그러한 시장이 자유롭고 공정한 선거, 자유 언론, 그리고 공정한 시장 경쟁 등 인간의 열망에 어떤 영향을 미칠지 고려하기 시작해야 합니다. 그렇지 않으면 우리는 그것의 뜻밖의 결과에 휘말릴 수 있습니다.” 펜이 Eurekalert에 보도된 바에 따르면 경고했습니다.

이 급속히 변화하는 디지털 풍경에서 연구자들은 사람들이 원하는 것뿐만 아니라 “원하고 싶어하는 것”에 영향을 미치는 AI 도구의 함의를 신중하게 검토하도록 사회에 촉구하고 있습니다.