빅테크의 EU 인공지능 표준에 대한 영향이 우려를 불러일으킨다

빅테크 기업들이 EU의 AI 표준 개발에 상당한 영향력을 행사하고 있다는 것이 캠페인 그룹 Corporate Europe Observatory (CEO)의 보고서에 따른 것입니다.

이 보고서는 EU의 최근 승인된 AI Act를 뒷받침하는 표준 설정 과정의 포괄성과 공정성에 대한 우려를 제기합니다.

2024년 8월에 법으로 적용된 AI Act는 위험 기반 접근법을 채택하여 AI 시스템을 위험 수준별로 분류합니다. 헬스케어와 법원 시스템과 같은 고위험 시스템은 보다 엄격한 요구사항에 직면하지만, 특정 가이드라인은 CEO가 언급한 것처럼 아직 정의되지 않았습니다.

유럽 표준화 기구 CEN과 CENELEC에 의해 설립된 AI에 관한 공동 기술 위원회(JTC21)의 143명 회원 중 절반 이상(55%)이 기업 또는 컨설팅 관련 이해관계를 대표하고 있습니다.

이 보고서는 CEN과 CENELEC과 같은 대부분의 표준 설정 기구를 비난하고 있습니다. 이들 기관은 대체로 사립이며 민주적 책임감이 부족하다는 점을 지적하고 있습니다. 이들 기관은 종종 높은 수수료를 부과하며, 투명성이 제한적이어서 시민사회의 참여가 어렵습니다.

한편, 시민사회는 참여에 있어 물류 및 재정적 장벽에 직면하고 있습니다. Corporate Europe Observatory의 샘플에서 23명의 대표자(16%)만이 학계에서 왔으며, 단지 13명(9%)만이 시민사회를 대표하였습니다.

EU의 부속 III 기구들은 사회적 이익을 위해 주장하고 있지만, 기업 참가자들에 비해 투표권과 자원이 부족합니다. 주요 기술 기업인 오라클은 공개적으로 AI 표준화에 참여한 것을 칭찬하며, 이러한 노력이 “윤리적이고, 신뢰할 수 있으며, 접근 가능한” 표준을 보장한다고 CEO가 보고했습니다.

그러나 이 보고서는 글로벌 감시 시스템과 연결된 오라클과 같은 기업들이 기본적인 권리를 해결하기보다는 자신들의 이익과 일치하는 경감된 규제를 우선시한다고 주장합니다. 마이크로소프트, 아마존, 구글과 같은 회사들의 유사한 참여는 AI Act 내에서 약화된 보호장치에 대한 우려를 증폭시킵니다.

CEO의 연구원인 브람 브랑켄이 이런 공공정책 위임에 대해 우려를 표현했습니다.

“유럽 커미션의 인공지능에 대한 공공정책을 사적 기관에 위임하는 결정은 깊이 우려스럽습니다. 이는 기본적인 권리, 공정성, 신뢰성, 편향에 관련된 요구사항을 구현하기 위해 처음으로 표준 설정이 사용되고 있다”라고 그는 말했습니다. 이는 유로 뉴스에 보도되었습니다.

CEN과 CENELEC은 그들의 AI 표준 개발에 참여한 사람들을 공개하지 않았습니다. JTC21 위원회로부터 참가자 명단을 요청한 CEO의 요청은 침묵으로 대응되었고, 그들의 행동 규범은 참가자의 신원과 소속에 대한 비밀을 강제합니다.

CEO는 이러한 규정을 과도하게 제한적이라고 묘사하였으며, 이로 인해 위원회 구성원에 대한 개방적인 토론이 방해받았다고 설명하였습니다.

해당 보고서에 대한 반응으로 유럽 커미션은 통일된 기준이 AI 법률의 목표와 일치하도록 보장하기 위해 평가를 받게 될 것이라고 밝혔습니다. 회원국과 유럽 의회 또한 이러한 기준에 도전할 권리를 유지하고 있으며, 이는 Euro News에서 보도했습니다.

결론적으로, 입법자들은 이러한 기준을 실행 가능하게 만드는 업무를 사적 기관에게 위임하였습니다. 자금이 부족하고 인원이 부족한 시민 사회 그룹과 독립 전문가들은 기업의 우세에 대항하기 위해 힘쓰고 있습니다.

이 불균형은 차별 방지, 개인 정보 보호 위반, 그리고 기타 기본적인 권리에 대한 보호를 약화시키는 위험을 끼치며, 유럽의 AI 거버넌스가 대부분 산업의 이해 관계에 의해 형성되게 두고 있습니다.