EU 인공지능 금지에 있는 허점이 논란의 기술을 사용하는 경찰을 허용할 수 있음

EU의 새로운 AI 법안은 AI를 규제하려는 목표를 가지고 있지만, 허점, 면제, 그리고 기업의 영향력에 대한 비판을 받고 있습니다.

유럽연합의 새로운 AI Act는 인공지능을 규제하는 데 중요한 단계를 표시합니다. 이 세계 최초의 법률은 AI 기술의 특정한 “불허용” 사용을 금지하며, 시민을 보호하고 민주주의 가치를 유지하려는 목표를 가지고 있습니다.

금지 조항에는 예측적 경찰 활동, 인터넷에서 얼굴 이미지를 스크랩하여 인식하는 것, 생체 정보 데이터에서 감정을 감지하는 AI의 사용 등이 포함되어 있습니다. 하지만 비평가들은 이 법률에는 특히 경찰 및 이민 당국에 관한 중요한 허점이 있다고 주장합니다.

AI 법은 원칙적으로 특정 AI 사용을 금지하고 있지만, 유럽 경찰 및 이민 당국이 논란의 여지가 있는 AI 실무를 계속 활용할 수 있도록 허용하는 예외 조항을 포함하고 있습니다. 이는 처음으로 Politico에서 보도하였습니다.

예를 들어, 공공 장소에서의 실시간 얼굴 인식 기술은 대체로 금지되어 있지만, 중대한 범죄 수사와 같은 특별한 경우에는 여전히 허용될 수 있습니다.

마찬가지로, 공공 장소에서의 감정 감지는 금지되어 있지만, 법 집행과 이민 목적으로 예외를 둘 수 있습니다. 이는 국경에서의 사기를 찾아내기 위해 AI가 사용될 가능성에 대한 우려를 불러일으킵니다.

법률의 광범위한 면제 사항들이 디지털 권리 단체들 사이에 경보를 울려왔습니다. 22개 조직의 연합은 AI Act가 법 집행 기관의 기술 사용에 대한 우려를 적절하게 해결하지 못한다고 경고했습니다.

“가장 눈에 띄는 허점은 금지 조항이 법 집행 및 이민 당국에 적용되지 않는다는 사실입니다.”라고 Access Now의 EU 정책 분석가인 Caterina Rodelli가 Politico에 보도된 바와 같이 말했습니다.

EU의 AI 법률은 사회적 통제를 위한 AI 사용을 금지하는 조치를 도입하여, AI가 개인의 자유나 민주주의를 침해하는 데 사용되는 것을 방지하였습니다.

이 법률을 작성하는 데 참여한 이탈리아 의원인 브란도 베니페이는 이 목표가 AI 기술이 “사회적 통제” 또는 “우리의 자유의 억압”에 이용되는 것을 피하는 것이라고 Politico에 보도하였습니다.

Politico에 따르면, 이러한 입장은 2019년 네덜란드 세무당국의 논란이 된 AI를 이용한 사기 식별 등 고위 공직자들이 관련된 사건들에 의해 영향을 받았습니다. 이 사건에서는 약 26,000명의 사람들이 잘못하여 사기 혐의를 받았습니다.

이 경우에, 당국은 잠재적인 양육비 사기를 찾아내기 위한 알고리즘을 사용했지만, 이 결함이 있는 알고리즘이 대량의 잘못된 식별을 초래하고 무고한 시민들의 생활에 피해를 입혔습니다.

이 사건을 둘러싼 논란은 예측적 경찰 활동 및 AI 남용과 같은 형태의 법적 제한을 형성하는 데 주요한 역할을 하였습니다.

한편, Corporate Europe Observatory (CEO)의 보고서는 빅테크 회사들이 EU AI 표준 개발에 미치는 영향에 대한 우려를 제기합니다. 이 보고서에 따르면 AI 표준을 설정하는 Joint Technical Committee on AI (JTC21)의 멤버 중 절반 이상이 기업 또는 컨설팅 이해관계를 대표한다고 밝혀졌습니다.

오라클, 마이크로소프트, 아마존, 구글 같은 주요 기업들이 그들의 상업적 이익을 우선시하는 경량화된 규제를 주장하고 있으며, 이는 기본적인 권리나 사회적 복지를 보호하기보다는 그들의 상업적 이익을 우선시하게 됩니다.

기업들의 이런 영향력은 유럽연합의 AI법안이 이윤을 중시하는 산업의 이해관계에 의해 위협받을 수 있다는 우려를 불러일으키고 있습니다. 더욱이, 시민사회와 학계 대표들은 표준 설정 과정에 참여하는데 있어 재정적, 물류적인 어려움을 겪고 있습니다.

이 보고서는 CEN 및 CENELEC과 같은 표준 설정 기관 내에서 투명성과 민주적 책임감이 부족함을 강조하며, 표준 개발 과정의 공정성과 포괄성에 대한 우려를 촉발하고 있습니다.

AI 법안은 EU를 글로벌 AI 규제의 선두에 서게 하는 동시에, 그 허점에 대한 지속적인 논란은 혁신과 인권 보호 사이의 균형을 맞추는 것이 앞으로 미묘한 과제가 될 것임을 시사합니다.