AI 생성 맬웨어 변종이 88%의 경우에서 탐지를 회피합니다

최근 연구에 따르면 AI는 최대 10,000개의 새로운 악성 소프트웨어 변종을 생성할 수 있으며, 이 중 88%는 감지를 피한다고 The Hacker News에서 보도했습니다.

이번 돌파구는 큰 언어 모델(LLM)을 악의적인 목적으로 사용하는 것의 위험성이 커지고 있음을 강조하고 있습니다.

Palo Alto Networks의 사이버 보안 전문가들이 주도한 이 연구는 적대적 머신러닝 알고리즘을 사용하여 새롭고 탐지할 수 없는 형태의 악성 소프트웨어를 만드는 데 성공했습니다. LLMs를 사용하여 악성 자바스크립트 코드를 재작성함으로써, 팀은 악성 소프트웨어의 핵심 기능을 변경하지 않고 수천 가지의 새로운 변형을 생성할 수 있었습니다.

주요 도전 과제는 변수 이름 변경이나 코드 축소와 같은 난독화 기법에 종종 어려움을 겪는 전통적인 악성 소프트웨어 탐지 도구의 제한성을 우회하는 것이었습니다.

가장 우려되는 발견 중 하나는 이러한 AI가 생성한 변종들이 VirusTotal과 같은 보안 도구의 탐지를 쉽게 피할 수 있다는 사실이었습니다. 수정된 샘플 중 단지 12%만이 악성 코드로 표시되었습니다.

LLM의 여러가지 미묘한 코드 변형을 수행하는 능력 – 예를 들어, 사용되지 않는 코드 삽입, 문자열 분할, 공백 제거 등 – 덕분에 공격자들은 기존의 악성 코드를 거의 정상 코드와 구별할 수 없는 형태로 재작성할 수 있었습니다.

이 변형들은 매우 효과적이었기 때문에 심층 학습 모델조차도 이를 탐지하지 못하였고, 악성 점수를 거의 100%에서 미만 1%로 낮추었습니다.

이 연구는 또한 LLM(Linear Logic Model) 기반의 난독화가 기존 도구들에 비해 가진 중요한 장점을 강조하였습니다. 기존의 악성코드 난독화 도구들은 널리 알려져 있고 예측 가능한 결과를 만들어냅니다. 반면, LLM들은 보다 자연스러운 코드를 생성하여 보안 시스템이 악성 활동을 식별하는 것을 훨씬 어렵게 만듭니다.

이러한 유기적 변화는 AI가 생성한 악성 소프트웨어를 검출하기 더 어렵게 만들어, 진화하는 위협에 대응하여 탐지 전략을 적응시키는 것의 중요성을 강조합니다.

이런 복잡한 LLM 기반 공격에 대응하기 위해, 연구팀은 수만 개의 LLM이 생성한 샘플을 사용하여 악성 자바스크립트 분류기를 재교육하는 방어 전략을 구현하였습니다.

이 재교육은 탐지율을 10% 향상시켜, 새롭게 생성된 악성 소프트웨어 변형체를 식별하는 능력을 크게 향상시켰습니다. 이러한 노력에도 불구하고, 이러한 발견은 AI 주도 사이버 범죄의 진화하는 능력에 맞춰 사이버 보안에서 지속적인 혁신이 절실히 필요함을 강조합니다.

게다가, macOS 대상 악성 소프트웨어의 급증은 생성적 AI 도구에 의해 주도되었습니다. macOS 시장 점유율이 세 년 동안 60% 증가함에 따라, 악성 소프트웨어-서비스(MaaS)는 공격자가 암호화폐 지갑과 키체인 상세 정보와 같은 민감한 데이터를 대상으로 할 때 비용을 줄이고 편리하게 만들었습니다.

게다가, AI 기반 로봇은 잠재적인 보안 문제가 되고 있습니다. 연구원들은 AI로 제어되는 로봇을 탈옥하면 자율주행차를 충돌시키거나 로봇을 스파이 활동에 이용하는 등 위험한 행동을 일으킬 수 있다는 사실을 발견했습니다.

안전 필터를 우회하는 알고리즘인 RoboPAIR의 개발은 로봇을 조작하여 무기 사용과 폭발물 발견 등의 해로운 작업을 수행하게 하는데 100%의 성공률을 보였습니다.

사이버 범죄자들이 점점 더 AI를 활용한 더욱 복잡한 공격을 이용하면서, 조직과 개인 모두 끊임없이 경계를 세우고, 방어를 지속적으로 업데이트해야 합니다.