영국, AI 안전성 강화, 싱가포르와의 파트너십 체결로 신뢰할 수 있는 AI 시장 확대를 목표로

영국 정부는 어제 AI의 안전하고 책임감 있는 사용을 지원하기 위한 새로운 조치를 발표하였으며, 이를 통해 2035년까지 65억 파운드의 경제 성장을 이끌어내려는 계획입니다. 영국의 AI 확보 분야는 AI 시스템이 공정하고, 투명하며, 안전한지를 보장하는 것에 초점을 맞추고 있는데, 이 분야는 다음 10년 동안 6배로 확장될 것으로 예상됩니다.

이러한 성장은 정부가 AI를 공공 서비스에 통합하고 경제 생산성을 촉진하면서 이러한 기술에 대한 공공의 신뢰를 유지하는 더 넓은 전략에 필수적인 것으로 간주됩니다.

과학, 혁신, 기술 분야의 국무장관인 피터 카일은 AI의 잠재력을 최대한 활용하여 서비스와 생산성을 향상시키기 위해서는 공공의 신뢰가 필수적이라고 강조했습니다. 그는 이러한 단계들이 영국을 AI 안전성의 선두주자로 위치시키는 것을 목표로 한다고 말했습니다.

이런 확장을 돕기 위해, 과학, 혁신, 기술부(DSIT)와 영국 AI 안전 연구소는 AI 사용과 관련된 위험을 관리하는데 도움을 주는 새로운 AI 보증 플랫폼을 도입하였습니다.

이 플랫폼은 데이터 편향을 평가하고, 영향 평가를 수행하며, AI 성능을 모니터링하는 자원을 중앙화할 것입니다. 중소기업(SMEs)들은 또한 그들의 조직 내에서 책임있는 AI 실천을 구현하기 위한 자가 평가 도구를 이용할 수 있을 것입니다.

영국은 싱가포르와의 파트너십을 체결함으로써 AI 안전에 대한 국제적 노력을 강화하고 있습니다.

쿠일 장관과 싱가포르의 디지털 개발 장관 조세핀 테오가 서명한 협력 각서는 AI 안전에 대한 공동 연구를 촉진하고 표준을 설정하는 것을 목표로 합니다.

이 합의는 지난해의 AI 안전 정상 회의에서의 논의를 바탕으로 하며, AI 안전 노력을 조정하기 위한 글로벌 이니셔티브인 국제 AI 안전 연구소 네트워크(AISI)의 목표와 일치합니다.

조세핀 테오는 두 나라가 모두 공공의 이익을 위해 AI를 발전시키는 데 전념하면서, 그것이 안전하게 유지되도록 보장하고 있다고 강조했습니다.

“이번 협력에 관한 양해각서를 중요한 파트너인 영국과 체결함으로써, 우리는 기존의 공통 관심사를 기반으로 AI에서 새로운 기회를 확장하게 되었습니다.”라고 테오는 말했습니다.

재무적으로 책임 있는 IT 결정을 전문으로 하는 Amalgam Insights의 CEO인 Hyoun Park는, AI에 대한 신뢰를 구축하는 도구로서 홍보되지만, 이 플랫폼의 주요 목적은 기업이 AI를 평가하기 위한 정부와 일치하는 프레임워크를 제공하는 것이라고 지적했습니다. CIO가 보도했습니다.

Park는 플랫폼의 현재 기능에 대해 우려를 표현했습니다. “이 플랫폼은 아직 매우 기본적이며, 완전히 개발되지 않은 필수 툴킷에 대한 계획이 있습니다.”라고 그는 CIO에 보고했습니다.

“이 평가는 AI 자체와의 직접적인 통합보다는 인간의 반응에 의존하며, 평가 도구가 사용하는 척도는 모호하며, 이진 예/아니오 옵션 또는 정량화하기 어려운 반응만을 제공합니다.”라고 그는 덧붙였습니다.

또한 박씨는 편향 평가가 특히 도전적일 수 있다고 지적했습니다. “모든 AI는 편향을 가지고 있으며, 편향을 제거할 수 있다는 개념은 신화이며 동시에 잠재적으로 위험하다.”고 그는 CIO에게 언급했습니다.

CIO에 따르면, 중소기업들에게는 위험 평가와 데이터 감사와 같은 새로운 준수 요건이 추가적인 부담을 주게 될 수 있으며, 이는 제한된 자원을 더욱 과중하게 만들 수 있습니다.