AI 얼굴 인식 체포에서의 정보 공개 부족이 우려를 불러일으킴

오늘 워싱턴 포스트가 발표한 조사에 따르면, 수백 명의 미국인들이 얼굴 인식 기술로 인해 체포되었음에도 그 사용 사실을 전혀 알려주지 않았다고 합니다.

이 조사에서는 15개 주에서 1,000건 이상의 범죄 사건이 발견되었는데, 경찰이 이 기술에 의존하고 있음을 공개하지 않았다는 것이 드러났습니다. 종종 그들은 용의자 식별을 “수사 수단”이나 목격자에게 돌리면서 이 기술의 역할을 숨기곤 했습니다.

이러한 투명성 부족은 공정성에 대한 우려를 증폭시키는데, 특히 얼굴 인식 소프트웨어가 오류에 취약하다는 것이 입증되었고, 특히 유색 인종의 식별에서 특히 그러하다는 것입니다.

예를 들어, 2020년에 잘못된 얼굴 인식으로 인해 잘못 체포된 흑인 남성 로버트 윌리엄스의 경우가 있습니다. 그는 디트로이트 시와 합의를 이루었습니다.
포스트는 연방 테스트 결과 주요 얼굴 인식 소프트웨어가 특정 그룹을 잘못 식별할 가능성이 더 높다고 보도하였습니다. 이 그룹에는 유색 인종, 여성, 그리고 노년층이 포함되어 있습니다.

이런 현상의 원인은 이들의 얼굴 특징이 알고리즘을 학습시키는 데 사용되는 데이터에 충분히 반영되지 않았기 때문입니다. 이 정보는 워싱턴에 위치한 국립 표준 기술 연구소에서 생체 인식 테스트를 이끄는 패트릭 그로서(Patrick Grother)로부터 나온 것으로, 포스트가 보도하였습니다.

The Post는 인디애나주 에반스빌과 텍사스주 플루거빌에서 용의자들이 얼굴 인식 기술을 통해 식별되었지만, 그들의 체포에 이 기술이 어떤 역할을 했는지에 대해 알려지지 않았다고 보도했습니다. 경찰은 물리적 특징이나 수사 데이터베이스를 언급하면서, 이 소프트웨어의 관여를 숨겼습니다.

이런 패턴은 많은 부서에서 흔하게 발견되었으며, 100개 중 단지 30개만이 The Post에 관련 기록을 제공했습니다. 이는 얼굴 인식 사용에 대한 공개를 꺼리는 더 넓은 경향을 반영합니다.

포스트는 클리어뷰 AI와 같은 얼굴 인식 소프트웨어가 범죄 현장의 이미지와 포함하여 경찰에게서 찍은 사진과 소셜 미디어 이미지 등을 포함한 대규모 데이터베이스의 사진들을 비교하는 방식으로 작동한다고 설명합니다.

비평가들은 이런 행위가 그들의 이미지가 온라인에 나타나는 것만으로 무고한 사람들이 범죄에 거짓으로 연루될 위험에 빠지게 한다고 주장합니다. 이것은 포스트에서 보도했습니다. 시민권 단체와 변호사들은 이러한 기술로 인해 식별된 경우 사람들이 그것을 알 권리가 있다고 주장하고 있습니다. 특히 그 기술이 오류에 취약하다는 점을 감안할 때 말이죠, 포스트가 지적했습니다.

포스트는 최근 일부 법정에서, 얼굴 인식 기술의 신뢰성에 대한 의문 때문에 얼굴 인식 결과에 대한 도전이 성공적으로 이루어졌다고 보도했습니다. 그러나 포스트는 일부에서는 수사 특권을 정당화로 인용하며, 경찰 부서들이 공개를 거부하는 행동을 계속해서 방어하고 있다고 지적했습니다.

포스트에 따르면, 성장하는 우려에도 불구하고 현재 연방법은 경찰이 얼굴 인식 사용을 공개하는 것을 요구하지 않습니다. 뉴저지와 같은 일부 주에서는, 법원이 피고인이 자신의 사건에서 얼교 인식이 사용되었는지 알 권리가 있다고 판결했습니다.

그러나 대부분의 주에서는 이러한 요구사항이 없어, 피고인들이 인공지능이 그들의 체포에 어떤 역할을 했는지에 대해 알 수 없게 된다고 워싱턴 포스트가 지적했습니다.