새로운 AI 코드 취약점, 수백만명이 잠재적 사이버 공격에 노출되다

Pillar Security의 연구자들이 널리 사용되는 AI 기반 코딩 보조 도구인 GitHub Copilot와 Cursor에서 중요한 취약점을 발견했습니다.

이 새로운 공격 방법은 “Rules File Backdoor”라고 불립니다. 해커들이 구성 파일에 숨겨진 악의적인 명령을 삽입함으로써 AI를 속여 표준 보안 검사를 우회하는 손상된 코드를 생성하게 합니다.

전통적인 공격이 알려진 소프트웨어 취약점을 악용하는 것과 달리, 이 기술은 AI 자체를 조작하여 사이버 범죄자들의 무심코 도구로 만듭니다. “이 공격은 개발자와 보안 팀에게 거의 눈에 띄지 않습니다,”라고 피라 세큐리티 연구진들이 경고했습니다.

피라는 생성적인 AI 코딩 도구가 개발자들에게 필수적이게 되었으며, 2024년 GitHub 설문 조사에서 기업 개발자의 97%가 이들에 의존하고 있다고 보고했습니다.

이 도구들이 소프트웨어 개발을 형성함에 따라, 새로운 보안 위험도 만들어낸다. 해커들은 이제 AI 어시스턴트가 룰 파일을 해석하는 방식을 악용할 수 있다. 룰 파일은 텍스트 기반의 설정 파일로, AI 코딩 행동을 안내하는 데 사용된다.

이러한 룰 파일은 대개 공개적으로 공유되거나 오픈 소스 저장소에 저장되며, 대부분의 경우 검토 없이 신뢰받는다. 공격자들은 이러한 파일에 숨겨진 유니코드 문자나 미묘한 프롬프트를 주입하여, 개발자들이 절대 감지하지 못할 방식으로 AI가 생성한 코드에 영향을 줄 수 있다.

한 번 도입되면, 이런 악의적인 지시들은 프로젝트 간에 지속적으로 유지되며, 조용히 보안 취약점을 퍼뜨립니다. 피라 세큐리티는 간단한 규칙 파일이 어떻게 조작되어 악의적인 코드를 주입할 수 있는지 보여주었습니다.

보이지 않는 유니코드 문자와 언어학적인 트릭을 사용하여, 공격자들은 AI 보조기를 이용해 민감한 데이터 유출이나 인증 메커니즘을 우회하는 등의 숨겨진 취약점이 포함된 코드를 생성하도록 지시할 수 있습니다. 더 나쁜 것은, AI가 이러한 수정사항에 대해 개발자에게 경고를 주지 않는다는 것입니다.

“이 공격은 다양한 AI 코딩 보조 도구에서 작동하며, 이는 시스템적인 취약성을 시사한다.”라고 연구자들은 지적했습니다. 한 번 손상된 룰 파일이 채택되면, 그 프로젝트에서 이후 AI가 생성한 모든 코드 세션은 잠재적인 보안 위험이 될 수 있습니다.

이 취약성은 중독된 룰 파일이 다양한 채널을 통해 퍼질 수 있다는 점에서 광범위한 영향을 미칩니다. 오픈 소스 저장소는 중요한 위험 요소를 제공하는데, 이는 의심 없이 미리 만들어진 룰 파일을 다운로드할 수 있는 개발자들이 그들이 손상되었다는 사실을 인식하지 못할 수 있기 때문입니다.

개발자 커뮤니티는 악의적인 행위자들이 숨겨진 위협을 포함한 유익해 보이는 설정을 공유할 때 분포의 벡터가 될 수도 있습니다. 또한, 새로운 소프트웨어를 설정하는 데 사용되는 프로젝트 템플릿은 이런 공격 수단을 무심코 전달하면서, 처음부터 취약점을 내포할 수 있습니다.

Pillar Security는 2025년 2월과 3월에 Cursor와 GitHub에 이 문제를 알렸습니다. 하지만 두 회사 모두 사용자에게 책임을 돌렸습니다. GitHub는 개발자들이 AI가 생성한 제안을 검토하는 것에 대한 책임이 있다고 반응했고, Cursor는 규칙 파일을 관리하는 사용자에게 위험이 미친다고 주장했습니다.