AI가 네덜란드 법원에서 형사 판결문 작성을 돕습니다

최근에 로테르담 지방법원에서는 형사 사건의 판결 동기를 작성하는데 AI를 도입한 실험을 진행하였습니다.

AI는 결정 과정에 직접 참여하지 않고, 법원의 처벌에 대한 이유를 설명하는 부분을 준비하는 데 도움을 주는 도구로만 사용되었습니다. 이는 법원 기관인 Rechtspraak가 설명하였습니다.

재판이 끝난 직후, 법원은 모든 당사자에게 AI가 프로세스에 적용된 사실을 통보하였고, 이에 대한 공식적인 성명을 발표하였습니다. 이 실험에 대한 설명은 NL Times에서 확인하실 수 있습니다.

AI는 일반적인 사건 정보를 사용하여 초안 문서를 생성하였으나, 이러한 초안은 판사와 사무관이 검토하여 최종 판결 동기를 완성하였습니다. AI는 법적 결정 또는 이 과정에서의 사실 평가에는 참여하지 않았습니다.

NL Times에 따르면, 이 AI 도구는 이를 사용한 판사들에 따라 초안 작성 속도를 가속화시키고 텍스트 구조를 개선했습니다.

재판을 진행한 법원 직원들은 좋은 결과를 얻었지만, de Rechtspraak에서 언급한 바와 같이 사법 절차에 공공 AI 시스템을 도입하는 것에 대한 의구심을 유지하고 있습니다.

그들은 공공 AI 도구들이 제한된 입력 기능으로 작동하며, 이로 인해 성능이 저하된다는 것을 관찰했습니다. 또한, 사례의 세부 정보를 공유하기 위해 공공 AI 시스템을 사용하는 것은 민감한 정보의 가능한 누설로 인해 윤리적 혹은 법적 위험을 초래할 수 있습니다.

이러한 문제들을 극복하기 위해, 판사들은 이러한 문제를 해결하기 위해 법정 절차 내에서만 독점적으로 작동할 내부 보안 AI 시스템의 구현을 제안했습니다.

이 시스템은 보다 상세하고 관련된 사건 정보를 입력할 수 있도록 오직 기밀 정보만으로 운영될 것입니다. 가능한 접근 방식은 사법부 웹사이트의 모든 공개적으로 이용 가능한 형사 판결에 대한 안전한 데이터베이스를 구축하는 것일 수 있습니다. 이 데이터베이스는 de Rechtspraak가 지적했듯이 AI가 더 정확한 판결 초안을 작성하는데 도움을 줄 수 있습니다.

그러나, AI 기술의 법정 시스템 내 실시는 특정한 위험을 동반합니다. 실제로, 잘못된 또는 조작된 데이터를 생성하는 AI에 의한 “환각”은 미국 법원에서 법적 문제가 되고 있습니다. 최근의 예로, 월마트 변호사들이 소송 도중 AI에 의해 생성된 가짜 사례를 사용하여 가능한 제재에 이르렀습니다. 그 결과, 법조계는 AI 시스템의 신뢰성에 대해 점점 더 많은 의심을 제기하고 있습니다.