AI, 비판적 사고력을 감소시킨다, 연구결과 경고

카네기 멜론 대학교와 마이크로소프트 리서치에서 진행한 새로운 연구에 따르면, 생성적 AI(GenAI) 도구들이 지식 노동자들의 비판적 사고방식을 재구성하고 있으며, 이는 종종 분석적 작업을 위한 노력을 줄이는 결과를 가져온다.

이 연구는 319명의 전문가들을 대상으로 조사를 진행하고, GenAI를 활용한 작업에 대한 936개의 직접적인 경험담을 수집하였습니다. 그 결과 AI에 대한 신뢰도가 사용자들이 비판적 사고에 어떻게 참여하는지에 큰 영향을 미치는 것으로 나타났습니다.

이 연구는 주요한 트렌드를 강조하고 있습니다: AI에 대한 더 큰 신뢰를 가진 근로자들은 보다 적은 비판적 사고 노력을 기울이는 반면, 자신의 전문성에 대한 높은 자신감을 가진 사람들은 더 많은 비판적 분석에 몰두합니다.

이러한 결과는 사용자들이 종종 AI가 생성한 콘텐츠를 철저한 검토 없이 의존하는 경향이 있음을 나타냅니다. 이로 인해 인지적 부하 이전이 일어날 수 있는데, 이는 개인들이 독립적으로 수행하던 인지적 작업을 외부 시스템에 의존하는 과정을 말합니다.

그러나 비판적 사고의 본질은 사라지는 것이 아니라 변화하는 것입니다. 처음부터 문제를 해결하는 대신, 근로자들은 점점 더 AI가 생성한 정보를 검증하고, 그들의 작업 흐름에 응답을 통합하며, AI가 지원하는 작업을 감독하는 데 집중하고 있습니다.

이 연구에서 “작업 스튜어드십”으로 설명된 이 역할은 사용자들이 단지 새로운 콘텐츠를 생성하는 것이 아니라 AI 출력을 안내하고 정제하는 위치에 놓입니다.

이 연구는 또한 AI가 어떻게 의사결정과 책임성에 영향을 미치는지에 대해서도 탐구합니다. AI 도구들은 정보 수집을 간편화하여 연구에 필요한 노력을 줄여주지만, 동시에 근로자들이 AI 출력의 신뢰성을 비판적으로 평가하는 것을 필요로 합니다.

참여자들은 자신들의 전문 분야에 대한 지식이 풍부할 때 더욱 비판적 사고를 적용할 가능성이 높다고 보고하였으며, 반면 자신의 지식에 대한 확신이 부족한 사람들은 최소한의 검토만으로 AI의 제안을 신뢰하는 경향이 있었습니다.

AI에 대한 과도한 의존성을 완화하기 위해, 연구자들은 비판적 사고에 사용자 참여를 촉진하는 GenAI 도구 설계를 제안하고 있습니다. AI 신뢰성을 평가하는 피드백 메커니즘, AI 지원 조정을 위한 명확한 컨트롤, AI가 생성한 응답의 검증을 촉구하는 프롬프트와 같은 기능은 사용자의 분석 기술을 유지하는 데 도움이 될 수 있습니다.

또한, 이 연구는 지식 노동자들이 AI 생성 결과를 효과적으로 평가할 수 있도록 하는 AI 감독에 대한 기술을 갖추는 훈련 프로그램이 필요하다고 주장합니다. 이러한 개입이 없다면, 연구자들은 GenAI가 너무 무겁게 의존하는 전문가들 사이에서 독립적인 문제 해결 능력을 부주의하게 약화시킬 수 있다고 경고하고 있습니다.

이 연구 결과는 AI 개발자와 직장 리더에게 다가오는 중요한 도전을 강조합니다: AI의 효율성과 인간의 비판적 사고를 유지할 필요성 사이의 균형을 잡는 것입니다.

AI 도구가 계속 발전함에 따라, 그들의 디자인과 구현은 디지털 시대에 지식 노동자들이 어떻게 생각하고, 분석하고, 결정을 내리는 방식을 형성하는데 결정적인 역할을 할 것입니다.