영국 정부, AI 사용 미공개로 투명성 의무 위반

영국 정부가 인공지능 사용을 의무적으로 등록하는 데 실패하여 투명성과 책임성에 대한 우려가 커지고 있다는 비판을 받고 있습니다.

영국 정부가 의무적인 공개 등록부에 인공지능 시스템의 사용 기록을 남기지 않은 것에 대해 비판을 받고 있습니다. 이로 인해 수백만 명의 생활에 영향을 미칠 수 있는 기술의 투명성과 감독에 대한 우려가 제기되고 있습니다. 이는 목요일에 가디언에서 보도되었습니다.

2024년 2월에 모든 화이트홀 부서가 AI 사용을 문서화해야 한다고 발표했음에도 불구하고, 아무런 부서도 이를 준수하지 않아 공공 부문이 알고리즘 기술의 채택에 있어 ‘눈을 감고 날아가는’ 상황이 되었다는 것을 가디언이 지적했습니다.

AI는 이미 정부의 의사결정에 깊이 녹아들어, 복지 지급, 이민 집행, 그리고 경찰 활동 등의 영역에 영향을 미치고 있습니다.

그러나 가디언은 홈오피스, 장애인복지부(DWP), 경찰력 등이 사용하는 주요 프로그램을 제외하고 알고리즘 시스템이 단 9개만 등록되었다고 지적했습니다.

이러한 공개 정보 부족 현상은 AI와 알고리즘 서비스 계약이 급증하는 가운데에도 계속되고 있습니다. 예를 들어, 가디언에 따르면 경찰 조달 기관이 최근 2000만 파운드의 얼굴 인식 기술 계약을 광고했는데, 이로 인해 무단으로 생체 인식 감시가 이루어질 수 있다는 우려가 커지고 있습니다.

과학기술 장관 피터 카일이 이 문제를 인정하면서, 정부 부서들이 투명성을 “충분히 진지하게” 받아들이지 않았다고 가디언 신문이 보도했습니다.

그는 알고리즘이 어떻게 사용되는지 대중이 이해할 권리를 강조하며, 신뢰는 오직 개방성을 통해서만 구축될 수 있다고 덧붙였습니다.

가디언은 비밀성이 중대한 위험을 초래한다는 비판자들의 주장을 언급하고 있습니다. 프라이버시 단체인 빅 브라더 워치의 수석 옹호관 Madeleine Stone는 다음과 같이 경고했습니다.

“AI와 알고리즘의 비밀스러운 사용이 사람들의 삶에 영향을 미치면서 모든 사람들의 데이터 권리를 위협합니다. 정부 부서들은 이 기술을 어떻게 사용하는지에 대해 솔직하고 투명해야 합니다,” 라고 가디언에서 보도했습니다.

에이다 러블레이스 연구소는 이러한 우려를 공유하며, 공개되지 않은 AI 시스템이 공공 신뢰를 약화시키고 차별적이거나 비효율적인 결과를 초래할 수 있다고 강조하였습니다. 이는 가디언에서 보도한 내용입니다.

AI 등록 체계 도입 이후, 캠브리지의 보행자 모니터링 도구와 NHS 검토 분석 시스템 등 단지 세 가지 시스템만이 등록되었습니다. 한편, 투셀이라는 데이터 회사에 따르면, 2024년에만 공공기관들이 164개의 AI 관련 계약을 체결했다고 가디언이 보도했습니다.

높은 프로파일의 계약에는 NHS가 팔란티어와 맺은 3억3천만 파운드의 데이터 플랫폼 파트너십과 더비 시청의 700만 파운드 인공지능 변혁 프로젝트가 포함되어 있다고 가디언이 전했습니다.

내무부는 이민 집행에서 인공지능을 활용하고 있으며, 다른 부서들은 이 목록에 없음에 대해 언급을 거부했습니다. 그러나 과학기술부는 더 많은 기록이 “곧 발행될 예정”이라고 주장하며, 이는 가디언에서 보도했습니다.

이 상황은 AI의 지배 역할에 대한 논쟁을 다시 불붙였고, 지지자들은 빠르게 발전하는 기술 시대에 공공의 책임을 보장하고 해를 줄이기 위해 투명성을 촉구하고 있습니다.