자기 대리권자가 AI 아바타를 사용, 법정에서 반발을 일으키다

뉴욕 법정의 영상 화면에 나타난 한 남자가 그의 사건을 변호하려 했지만, 실제 사람이 아닌 AI가 생성한 아바타였다는 사실이 밝혀졌습니다.

AP가 처음 보도했듯이, 제롬 듀왈드는 비디오 제출을 통해 그의 고용 분쟁을 주장하면서, 자신을 대표한다고 주장하며 뉴욕 주 최고 법원 항소부의 첫 번째 사법 부서 앞에 섰습니다.

“항소인이 그의 주장을 위한 동영상을 제출했습니다.”라고 AP에 보도된 바에 따르면 재판관 샐리 맨자넷-다니엘스가 말했습니다. “좋습니다. 지금 그 동영상을 들어보도록 하겠습니다.” 그녀가 덧붙였습니다.

AP의 보도에 따르면, 화면에는 잘 차려 입은 젊은 모습의 사람이 나타나서 판사단에게 인사하며, “법정에 모심을 바라며. 오늘 저는 겸손한 자기 변호인으로서 다섯 명의 훌륭한 재판관 앞에 나섭니다.”라고 말했습니다.

그러나 판사는 빠르게 말을 중단했습니다. “잠깐, 그분이 이 사건의 변호인인가요?”라고 그녀가 물었습니다. 듀왈드는 “저가 그걸 만들었습니다. 그건 실제 사람이 아닙니다.”라고 인정했습니다.

AP에 따르면, 비디오는 즉시 중단되었습니다. “당신이 신청서를 제출했을 때 그 사실을 알려주었다면 좋았을 텐데. 당신은 그 사실을 제게 알리지 않았습니다, 선생님,”라고 만자넷-다니엘스가 말했습니다. “속이는 것을 좋아하지 않습니다,”라고 그녀는 덧붙였습니다.

뒤왈드는 후에 사과하며 그가 해를 끼치려 한 것이 아니라고 말했습니다. 그는 변호사가 없고 공개 연설에 문제가 있어서, 그의 사건을 더 명확하게 제시하기 위해 AI 아바타를 사용했다고 말했습니다. 그는 샌프란시스코의 기술 회사에서 도구를 이용해 아바타를 만들었지만, 시간 내에 그를 닮게 만들지는 못했습니다.

“법원은 이 사건에 대해 매우 화가 났습니다,”라고 AP에 보도된 바로, 뒤왈드가 말했습니다. “그들은 나를 상당히 혹독하게 비판했습니다,”라고 그는 덧붙였습니다.

AP는 Dewald가 법정에서 AI에 대한 문제로 처음으로 곤경에 처한 사람이 아니라고 언급합니다. 예를 들어, AP는 2023년에 가상의 사건을 만들어낸 AI 채팅봇을 사용한 두 명의 변호사가 벌금을 부과받은 사례를 인용합니다.

AP는 미카엘 코헨의 변호사와 같은 고위 변호사들도, 그들이 모르는 사이에 AI가 만들어낸 판결을 인용했을 때 비슷한 문제에 직면했다고 언급합니다.

게다가, 최근 보고서에 따르면 AI의 환각증 – 생성적 AI 모델에 의해 만들어진 오류와 가짜 정보 – 가 미국 전역의 법정에서 법적 문제를 일으키고 있다.

법률 기술 전문가 Daniel Shin은 AP에게 법정에서 AI를 사용하는 변호사는 드물지만, 법률가가 아닌 Dewald 같은 사람이 이런 접근법을 시도하는 것은 놀라운 일이 아니라고 언급했다.

데왈드의 사건은 아직 법원에서 검토 중입니다.