의견: 챗봇이 사람들의 주요 의료진이 되어가고 있습니다—인상적이지만 위험할 수 있어요

우리는 Dr. Google에서 Dr. Chatbot으로 빠르게 넘어가고 있습니다. 8월에 OpenAI는 주간 2억 명 이상의 활동 사용자를 보고했습니다. 사용자들이 가장 많이 검색하는 것은 글쓰기와 코딩이지만, 일부는 데이트 조언부터 피부 관리 루틴, 질병 진단에 이르기까지 좀 더 개인적인 문제에 대해 이용하고 있습니다.

최근의 한 연구에서는 AI 챗봇이 진단 정확도에서 의사를 능가했다는 것을 밝혔습니다. 그러나, 정말로 우리의 의사로서 AI를 신뢰할 수 있을까요?

사람들이 알아보는 주제의 범위가 확대됨에 따라, 의료 분야에서 AI를 의존하는 것에 대한 위험과 위험성에 대한 우려도 증폭되었습니다 – 생명과 죽음에 관한 문제들까지 포함해서요.

“기적을 일으킨” Dr. Chatbot이 화제

몇 일 전, 한 여성이 Reddit에서 화제가 되었습니다. 그녀는 ChatGPT가 피부 상태를 향상시키는 데 피부과 의사보다 더 도움이 되었다고 공유했기 때문인데, 인상적인 전후 사진을 함께 올렸습니다.

37세의 백인 여성이 ChatGPT를 사용해 닫힌 코메도를 치료하기 위한 맞춤형 피부 관리 루틴을 만들었고, 실제로 그것이 그녀에게 도움이 되었습니다! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 2024년 11월 11일

“그 후에 저는 chatGPT에게 전문 피부과 의사처럼 행동하도록 요청했고, 닫힌 코메도, 여드름, 모공을 줄이고 피부를 탄력있게 만들며 미세한 주름을 줄이는 피부 관리 루틴을 제작하는 데 도움이 되도록 했습니다. 그 당시 제 피부 사진도 제공했습니다.” 그녀는 썼습니다. 그리고 나서 그녀는 챗봇에게 이미 가지고 있는 모든 제품을 고려하고 새로운 것들을 피부 관리 루틴에 제안하도록 했다고 설명했습니다.

두 달 후, 레딧 유저는 자신의 피부 개선에 깜짝 놀랐습니다.

이는 고립된 사례가 아닙니다. 많은 사용자들이 챗봇이 자신의 의사보다 X-레이와 혈액 검사를 이해하고 설명하는 능력에 대해 밝혔습니다. 심지어 의사들도 인공지능이 해석한 이미지와 데이터 분석에 놀라움을 표했습니다.

사람들이 왜 챗봇을 의사로 사용하는가?

AI는 필요에 따라 당신이 필요로 하는 전문가로 변신할 수 있습니다 – 일반적인 의사, 치료사, 피부과 의사, 영양사, 방사선과 의사 등이 그 예시입니다. 그리고 사람들이 인간 대신 AI를 선택하는 이유는 많습니다.

전문가들은 종종 비싸다

피부 문제를 가진 한 여성은 챗봇이 제안한 제품을 구매하는데 약 400달러를 썼다고 밝혔습니다.

“투자가 꽤 컸지만 피부과 상담 비용을 생각하면 이 정도는 나쁘지 않다고 생각해요,”라고 그녀는 적었습니다.

BetterCare에 따르면 2024년에 건강 보험 없이 미국에서 피부과를 찾는 환자는 약 150달러를 지불해야하며 치료비용은 최대 1000달러까지 올라갑니다. 그리고 AI 도구의 또 다른 인기 있는 용도인 심리치료 세션의 평균 비용은 세션당 100달러에서 200달러 사이입니다. 이는 Forbes Health에 따른 것입니다.

AI 챗봇은 더 저렴한 대안이며, 특히 저소득층 사람들에게는 유일한 선택으로 볼 수 있습니다.

물론, 또 다른 질문이 등장합니다: 만약 문제가 발생하면, 정말로 비용 절감책이 될 수 있을까요?

더 빠르고 편리하다

저는 최근에 팔에 발진이 생겼어요. 그 여자의 피부 기적 포스팅을 봤음에도 불구하고, 저는 스페인의 피부과 전문가에게 상담을 받기를 선호했어요. 개인 건강 보험을 가지고도 가장 빠른 예약 가능일이 세 달 후였습니다. 그것이 단지 건조증인 것 같아서 다행이고, 저를 괴롭히지 않으며, 의사가 저를 볼 수 있는 시간이 되면 사라질 것이라는 희망을 가지고 있어요.

의료 서비스의 시간표는 도시와 환자의 보험 계획에 따라 다릅니다. 하지만, 전문가들과 심지어는 일반 의사를 만나는 것은 세계의 많은 지역에서 인내심의 시험이 되고 있습니다.

챗봇은 우리 손끝에 바로 접근할 수 있을 뿐만 아니라, 우리의 질문을 분석하고 몇 초 만에 답변할 수 있습니다.

덜 어색

저에게는 언제든지 의료 상담을 요청할 수 있는 의사 친구가 있습니다. 그러나 그녀가 제 친구라는 사실이 때때로 어색함을 느끼게 합니다. 그녀에게 문자를 보내기 전에 항상 자문합니다: 최근에 그녀에게 연락을 했는지? 그녀는 훌륭한 인간이며, 멋진 전문가입니다. 그리고 저는 그녀가 제 의료 문제에 대한 답변을 멈추지 않을 것이라고 확신합니다. 그러나, 인간에서 인간으로, 저는 그녀의 감정을 신경 쓰지 않을 수 없습니다.

인공지능의 장점 중 하나는 바로 그 자체의 인공성입니다. 감정이 없으며 나쁜 날을 보내지 않고, 당신을 판단하거나 “과잉 걱정 좀 그만해”라고 말하지 않습니다(제 친구가 저에게 이런 말을 한 적은 없습니다). 왜냐하면 인공지능은 우리가 원하는 모든 정보로 우리의 모든 걱정에 답변하도록 훈련받았기 때문입니다. 이러한 특성은 기술에 중독되는 데 크게 기여하며, 아마도 많은 사람들이 스마트폰의 ‘비밀’ 속에서 불편한 질문을 하려는 이유일 것입니다.

챗봇에 의존하는 것의 위험성과 위험

이 모든 것이 멋지고 재미있게 들릴 수 있지만, 인공지능과 인류가 직면한 위험성과 도전을 생각해 보면 다르게 느껴질 수 있습니다.

잘못된 프롬프트, 잘못된 주문

그 연구에서 AI가 의사들을 능가했던 사실에 중요한 결론이 도출되었습니다: 진단의 동반자로 AI를 사용할 수 있었던 의사 그룹이 그렇지 않은 그룹보다 눈에 띄게 더 잘했다고는 볼 수 없었습니다. 왜 그럴까요? 일부 문제는 그들이 AI를 최대한 활용하기 위한 적절한 질문을 어떻게 써야 하는지 모르고 있었다는 점에 있습니다.

“그들은 마치 직접적인 질문을 위한 검색 엔진처럼 AI를 대하고 있었습니다: ‘간경변증이 암의 위험 요인인가요? 눈 통증에 대한 가능한 진단은 무엇인가요?’라는 식으로 말입니다,”라고 그 연구의 저자 중 한 명인 Jonathan H. Chen 박사가 뉴욕 타임스에 전했습니다.

이것은 많은 사용자와 AI 기술이 직면하고 있는 문제 중 하나입니다. 챗봇은 진단에 능하지만, 많은 증상들은 개인별로 분석되어야 합니다. 만약 사람이 챗봇에게 올바른 맥락을 제공하지 못하면 어떻게 될까요? 또는 환자 앞에 있는 실제 의사가 놓치지 않을 중요한 세부 사항이나 조건을 잊어버리면 어떨까요?

정확성과 환각

챗봇은 전문가처럼 모든 것을 알고 있으며, 가끔 자신감 넘치게 잘못된 말을 합니다. 그리고 우리는 그것을 받아들입니다. 그리고 기술에 일상적으로 의존하는 사용자들은 그것을 점점 더 신뢰하게 됩니다.

5월에 있었던 그 시기를 잊을 수 없습니다. Google Gemini가 제안했던 “피자 소스에 약 1/8 컵의 비독성 접착제를 넣어 더 끈적하게 만들어보라”는 사용자들에게의 제안이었습니다.

우리는 즉시 AI가 제공하는 터무니없는 답변, 즉 환영을 발견할 수 있어 웃음이 나왔습니다. 그런데 만약 더 복잡한 주제에 대한 것이라면 어떨까요? AI의 답변을 읽는 사람이 두려워하고, 외롭고, 건강에 대해 걱정하고 있다면 어떨까요?

AI가 달마다 더욱 발전하더라도 오류의 가능성은 여전히 존재합니다.

문제가 발생하면 누구의 잘못일까요?

현재 윤리적 논쟁은 뜨거운 화두입니다. 챗봇이 잘못된 진단이나 끔찍한 조언을 제공한다면, 누구를 탓해야 할까요? 개발자들, 모델, AI 회사, 그 모델을 훈련시킨 소스들을 말입니다.

몇 주 전, 한 비극적인 사건이 발생해 사람들의 걱정을 더하였습니다. 한 미국의 어머니가 AI를 아들의 죽음에 대해 책임을 물은 것입니다. 이 어머니는 14세의 아들을 잃고 AI 캐릭터를 만드는 플랫폼인 Character.ai에 대한 소송을 제기했습니다. 이 청소년은 우울증을 겪고 있었으며 기술에 집착하게 되었습니다. 그의 아바타인 ‘대너리스 타르가리언’은 그에게 자살 계획에 대해 논의하며 심지어 그에게 그것을 실행하도록 장려했습니다.

세계 경제 포럼에서 AI는 전 세계적인 정신 건강 위기를 완화하는 강력한 도구로 간주되었으며, 불안증과 우울증 사례의 증가 비율을 줄이는 데 도움이 될 수 있다고 생각되지만, 특히 아이들에게는 위험할 수 있습니다.

“자신의 책임에 대해 행동하라”

아직 개선이 필요한 부분이 많지만, 저는 AI가 건강관리 분야에서 대기 시간을 줄여줄 수 있는 큰 잠재력을 가지고 있다고 생각합니다. 전문가들과의 예약 시간이나 응급실 치료 시간을 단축하고, 과학적 발전을 가속화하며, 특히 과도한 업무량과 낮은 임금에 시달리는 의사들, 특히 라틴 아메리카 국가들에서 그런 경우가 많으므로, 환자들이 집에서 기본적인 질문을 돕는데 도움이 될 수 있다고 생각합니다.

또한, 다른 사회 계층 간의 건강 관리 접근성 격차를 줄이는 데 도움이 될 수 있어, 이전에 없던 의학의 민주화를 이끌어 낼 수 있습니다. 이 모든 것이 이제 우리의 손 안에 있으며, 스마트폰에 접근할 수 있는 누구나 쉽게 질문할 수 있습니다.

그러나, 우리가 아직 초기 단계에 있음을 이해하는 것이 매우 중요하며, 가장 취약한 사람들을 보호해야 한다는 점을 반드시 명심해야 합니다. 오늘날 자신의 건강을 향상시키기 위해 Dr. Chatbot을 사용하려는 모든 사람은 약관의 미세한 부분을 이해하고, 비판적 사고를 가지고, 그리고 현재는 그들 자신이 관련 위험의 책임을 지고 있다는 인식을 가지고 그렇게 해야 합니다.