오클라호마 시티 경찰, 사건 보고서 작성에 AI 도입, 편향성 문제 제기

오클라호마 시티 경찰은 이제 AI 도구를 사용하여 사건 보고서를 작성하고 있습니다. Axon이 개발한 이 기술은 ChatGPT와 비슷한 AI를 사용하여 바디 카메라 오디오로부터 보고서를 단 8초 만에 작성합니다.

경찰관들은 이 시간을 절약해주는 기술을 칭찬하면서도, 법학자들과 지역 활동가들은 AI가 생성한 보고서의 정확성과 잠재적인 편향성에 대해 우려를 제기하고 있습니다.

해당 소프트웨어인 ‘Draft One’은 바디캠 오디오를 서면으로 된 사건 보고서로 변환하며, 보고서 작성 효율성을 향상시키는 것을 목표로 합니다.

Associated Press는 오클라호마 시티의 경사 Matt Gilmore가 이를 테스트해보았는데, 그는 AI가 작성한 보고서가 자신이 직접 작성할 수 있는 어떤 것보다 “더 좋았다”며, 100% 정확하고, 심지어 자신이 기억하지 못하는 세부사항까지 포함되어 있었다고 말했습니다.

액슨이 이 제품을 만들었습니다. 회사 설립자이자 CEO인 Rick Smith는 AP에게 Draft One이 회사가 도입한 어떤 제품보다 “가장 긍정적인 반응”을 얻었다고 밝혔습니다.

“그러나 문제들이 있습니다,”라고 Smith는 지적했습니다. 그는 지방검찰관들이 경찰관들이 그들의 보고서를 쓰는 것에 대한 책임을 확실히 하고 싶어한다고 설명했습니다. 왜냐하면 그들은 법정에서 자신들의 관찰에 대해 증언해야 할 수도 있기 때문입니다. AI 챗봇만이 아닙니다.

The Independent는 오클라호마 시티의 커뮤니티 활동가인 아우렐리우스 프란시스코가 경찰 보고서 작성에 인공지능 기술을 사용하는 것에 대해 심각한 우려를 표현했다고 보도했습니다. 특히 잠재적인 인종 편견 때문입니다.

과거 사건들 중, 결함이 있는 안면 인식 시스템으로 인해 잘못 체포된 로버트 윌리엄스의 사례는 경찰 수사 업무에서 인공지능에 지나치게 의존하는 것이 얼마나 위험한지, 특히 인종 편견과 부정확성에 관련해서 보여줍니다.

“경찰 행동, 인종, 그리고 관련된 사람들의 다른 정체성에 대한 모든 민감한 이슈들을 고려할 때, 우리가 도입하기 전에 실제로 많은 노력을 기울여야 할 영역이라고 생각합니다.” Smith는 AP에게 이렇게 말했습니다.

AI가 보고서 작성에 도움을 줄 수는 있지만, 최종 책임과 책임성은 인간 경찰관에게 있어야 하며, 특히 법정 증언이 필요할 수 있는 심각한 범죄를 다룰 때에는 특히 그러하다는 공감대가 있습니다.