OpenAI, ChatGPT가 사용자를 잘못 살인자로 몰아붙인 후, 개인정보 침해로 고소 당하다

유럽 비영리 단체인 noyb가 노르웨이의 ChatGPT 사용자를 지원하여, 이 챗봇이 그를 자신의 두 아이를 살해한 혐의로 잘못 기소한 미국 회사를 공식적으로 고발하고 있습니다.

유럽 비영리 기관 noyb는 노르웨이 ChatGPT 사용자가 미국 회사에 공식적인 불만을 제기하는 것을 지원하고 있습니다. 이 사용자는 챗봇이 자신을 두 아이의 살인자로 잘못 지목한 이유로 이 회사를 고소했습니다.

noyb, 또는 유럽 디지털 권리 센터라고 알려져 있는 이 기관은, 공식 문서를 공유하여, 사람들의 개인 생활에서 챗봇 환영의 위험성에 대해 경고하고, 일반 데이터 보호 규정(GDPR)을 존중하는 것의 중요성을 강조하였습니다.

noyb가 공유한 정보와 항의서에 따르면, 노르웨이 거주민 Arve Hjalmar Holmen은 ChatGPT에게 자신이 누구인지 물었고, 자신이 자신의 두 아들을 살해하고 세 번째 아이를 살해하려 했으며, 21년의 징역에 처해졌다는 거짓이며 끔찍한 살인 이야기를 읽고 충격을 받았습니다.

“그는 세 아들을 둔 가족을 가지고 있습니다. 사람들이 일반적으로 말하는 ‘평범한 사람’으로, 유명하지도 않고 대중에게 알려져 있지도 않습니다.”라고 Noyb의 불만이 전해진다. “그는 어떤 범죄에도 기소되거나 유죄 판결을 받은 적이 없으며 양심적인 시민입니다.”

noyb는 위험하게도 잘못된 정보 외에도, 응답의 또 다른 매우 우려스러운 측면은 ChatGPT가 이야기를 꾸미기 위해 실제 개인 정보를 고려했다는 것이라고 설명합니다. 이 챗봇은 그의 실제 고향, 자녀 수, 그들의 성별, 심지어 비슷한 나이 차이까지 포함했습니다.

“어떤 사람들은 ‘연기 없는 불은 없다’라고 생각합니다. 누군가가 이 출력을 읽고 이것이 사실이라고 믿을 수 있다는 사실이 가장 두려워요.”라고 Arve Hjalmar Holmen이 말했습니다.

noyb는 이것이 고립된 사례가 아니라고 강조하며, 그들은 이전에 OpenAI가 공개된 인물의 잘못된 정보—출생일—에 대해 고소를 제기했지만, 이 문제가 아직 해결되지 않았다고 지적했습니다. OpenAI는 작년에 많은 사람들이 정확하지 않은 정보에 대해 항의하자 경고문을 추가했습니다. 그러나 noyb를 포함한 많은 조직들은 이것이 충분하지 않다고 생각합니다.

“GDPR은 명확합니다. 개인 정보는 정확해야 합니다. 그렇지 않다면, 사용자는 그것이 사실을 반영하도록 변경할 권리가 있습니다,”라고 noyb의 데이터 보호 법률 전문가인 Joakim Söderberg이 말했습니다. “ChatGPT 사용자에게 챗봇이 실수를 할 수 있다는 작은 경고문을 보여주는 것은 분명히 충분하지 않습니다.”

🚨 오늘, 우리는 OpenAI에 대해 ChatGPT의 환각 문제에 대한 두 번째 불만을 제기했습니다

👉 노르웨이 사용자가 ChatGPT에게 자신에 대한 정보가 있는지 물었을 때, 이 챗봇은 그가 자신의 아이들을 살해했다는 이야기를 지어냈습니다.

자세한 내용을 확인해보세요: https://t.co/FBYptNVfVz pic.twitter.com/kpPtY1ps25

— noyb (@NOYBeu) 2025년 3월 20일

noyb는 지난해 X에 대해 고소를 제기하기도 했습니다. X가 6천만 명 이상의 유럽인들의 개인 정보를 이용해 그들의 AI 챗봇 Grok을 훈련시키기 때문입니다.