스탠포드 전문가, AI를 사용해 법정 진술을 조작한 혐의 받아

스탠포드 대학의 제프 핸콕 교수가 미네소타 주의 딥페이크 법을 방어하는 법정 서안에서 인공지능을 이용해 인용문을 조작한 혐의를 받고 있습니다.

스탠포드 대학교의 커뮤니케이션 교수이자 오해 정보 전문가인 제프 핸콕이 법정 진술의 일부를 인공지능(AI)을 사용하여 조작한 혐의로 집중 조사를 받고 있다고 스탠포드 데일리에서 보도했습니다.

스탠포드 소셜 미디어 연구소의 창립자인 핸콕은 지난 11월 미네소타 법원에 12페이지 분량의 선언서를 제출하면서 2023년에 도입된 이 주의 법을 지지하였습니다. 이 법은 선거에 영향을 미치기 위해 딥페이크를 사용하는 것을 범죄화하였는데, 이는 더 데일리에서 보도했습니다.

그의 증언은 미네소타 주 법무장관 키스 엘리슨을 지지하였으며, 인공지능이 생성한 미디어가 오해를 퍼뜨리는 위험성을 강조하였습니다. 핸콕은 딥페이크가 기존의 팩트 체크를 약화시키고 거짓 정보의 설득력을 증가시킨다고 주장했는데, 이는 더 데일리에서 보도했습니다.

이 선언서는 15개의 인용문을 포함했지만, 인용된 두 개의 학술 논문을 찾을 수 없어 논란이 되었습니다. 이들 작품은 각 보고서의 디지털 객체 식별자나 인용된 학술지를 통해 찾아볼 수 없었다는 것입니다. 이는 더데일리에서 보도했습니다.

원고를 대표하는 변호사 프랭크 베르드나르즈는, 공화당 주의원 메리 프랜슨과 보수적인 소셜 미디어 풍자가 크리스토퍼 콜스를 대표하여, 핸콕의 증언의 진실성을 도전했습니다. 이는 더데일리에서 언급되었습니다.

베르드나르츠는 의심스러운 인용문이 AI가 생성한 ‘환각’과 유사하다며, 이 문서가 법적 고려에서 제외되어야 한다고 주장했습니다.

그는 “핸콕(또는 그의 조수들)조차 클릭하지 않은 허구의 인용문이 존재한다는 사실은 전체 선언서의 품질과 진실성을 의심스럽게 만든다”고 더 데일리에서 보도하였습니다.

한콕이 증언에 시간당 $600을 받았으며, 그는 위증의 위험을 감수하고 선언을 했습니다. 이 교수는 Daily가 보도한 이번 주장에 대해 아직까지 언급하지 않았습니다.

통신과 기술에 대한 강의를 하는 한콕은 2024년 넷플릭스 다큐멘터리에서 빌 게이츠와 함께 AI의 미래를 논의하는 모습이 포착되었습니다. 그는 2025년 봄에 ‘진실, 신뢰, 그리고 기술’이라는 과목을 가르칠 예정이며, 이 과목에서는 디지털 미디어에서의 기만에 대해 탐구할 예정이라고 Daily에서 보도했습니다.

콜스는 온라인에서 Mr. Reagan이라는 이름으로 알려져 있으며, 부통령 카말라 해리스의 조작된 선거 캠페인 비디오를 다루는 법률을 포함하여, 기만적인 정치 미디어를 대상으로하는 캘리포니아 법에 이전에 반대하였습니다. 이는 The Daily에서 지적한 바입니다.

이 주장이 사실이라면, 이는 높은 법적 사안에서의 학문적 전문성의 신뢰성에 그림자를 던집니다. 여기서는 청렴함이 매우 중요합니다.

만약 이것이 사실로 밝혀진다면, 핸콕에 대한 이런 혐의는 깊은 모순을 보여줍니다: 오해의 소지가 있는 정보에 대한 전문가가 법적 선언에서 증거를 조작하려는 시도를 했다는 것입니다. 그는 AI가 생성한 기만의 위험을 경고하는 학자의 역할을 하고 있지만, 그가 비판하는 도구를 사용하여 그의 증언을 강화하려고 했다는 혐의와는 완전히 대조적입니다.