변호사들에게 법적 문제를 초래하는 법원 서류의 AI 생성 오류

어제 로이터에서 공유한 보고서는 AI의 환각증—생성 AI 모델에 의해 만들어진 오류와 허구의 정보—이 미국 법원에서 법적 문제를 일으키고 있다는 것을 밝혔습니다.

이번 달, 로펌 모건 앤 모건은 인공지능이 생성하는 챗봇과 가짜 사건 사용의 위험성에 대해 1,000명이 넘는 변호사들에게 이메일 경고를 보냈습니다.

몇 일 전, 와이오밍의 두 명의 변호사들이 월마트에 대한 소송을 위한 법원 제출서에 AI가 생성한 가짜 사례를 포함시킨 것을 인정했고, 연방 판사는 그들에게 제재를 가하겠다고 위협했습니다.

12월에는, 스탠퍼드 교수이자 디스인포메이션 전문가인 제프 핸콕이 선거에 영향을 미치기 위해 딥페이크를 사용하는 것을 범죄화하는 2023년의 주법을 방어하는 진술의 일부로 법원 선언 인용문을 조작하기 위해 AI를 사용한 혐의를 받았습니다.

지난 몇 년 동안 이런 유형의 경우들이 여러 차례 발생하여 법적 마찰을 일으키고 판사와 원고들에게 곤란을 더하고 있다. 모건 & 모건과 월마트는 이 문제에 대한 코멘트를 거부했다.

생성 AI는 변호사들의 연구 시간을 줄여주는 데 도움이 되었지만, 그것의 환영은 상당한 비용을 발생시킬 수 있다. 지난해 톰슨 로이터의 설문 조사에서는 63%의 변호사들이 업무를 위해 AI를 사용하고, 12%가 정기적으로 그렇게 했다고 밝혔다.

지난해, 미국 변호사 협회는 그들의 400,000명의 회원들에게 변호사 윤리 규칙을 상기시켰습니다. 이 규칙에는 변호사들이 법정 제출 서류의 모든 정보를 확인하는 것이 포함되어 있으며, 이는 실수로 생성된 AI 정보를 포함한다고 언급했습니다. 이는핸콕의 경우와 같습니다.

“변호사들이 ChatGPT나 다른 생성 AI 도구를 이용해 인용문을 만들고 이를 확인하지 않는다면, 이는 단순히 무능함이다.”라고 서퍽 대학교 법학대학원의 학장인 앤드류 펄만이 로이터에 말했습니다.

몇 일 전, BBC도 AI가 생성하는 가짜 인용문과 언론에서 AI 도구의 문제점에 대해 경고하는 보고서를 공유했습니다.