간질하는 자동차? 비상등이 어떻게 자동 주행 시스템을 혼란시키는지

비상등은 자동 운전 시스템을 방해하여 감지 실패를 일으킬 수 있습니다. 연구자들은 이러한 문제를 해결하기 위해 “Caracetamol”을 개발하였으며, 이는 더 넓은 범위의 AI 안전 문제를 강조하게 되었습니다.

새로운 연구에 따르면 운전을 더 안전하게 하려는 목적으로 설계된 카메라 기반의 자동 운전 시스템이 긴급 신호등에 노출될 경우 도로 위의 물체를 인식하지 못할 수 있으며, 이로 인해 중대한 위험을 초래할 수 있다는 것이 WIRED에 먼저 보도되었습니다.

네게브 벤구리온 대학과 후지쯔 리미티드의 연구자들이 “디지털 간질 발작” 혹은 “epilepticar”이라는 현상을 발견했습니다.

WIRED에서 보도한 바에 따르면, 이 문제는 특히 어두운 상황에서 긴급차량의 불빛과 동기화하여 물체를 식별하는 시스템의 문제를 야기합니다. 이 결함으로 인해 이러한 시스템을 사용하는 차량이 다른 차량이나 장애물을 잘못 식별하거나 감지하지 못할 수 있어, 긴급 상황 현장에서 사고 가능성이 증가할 수 있습니다.

이 연구는 2018년부터 2021년 사이에 자율주행 기능이 있는 테슬라 차량이 정지 상태의 긴급차량과 충돌하는 사고가 보고된 것에서 영감을 얻었습니다.

이 연구는 특정하게 테슬라의 시스템과 이 문제를 연결하지는 않지만, 이 결과들은 많은 자동화된 운전 시스템의 핵심 요소인 카메라 기반 물체 감지 기술의 잠재적 취약점을 강조하고 있습니다. WIRED가 지적했습니다.

실험에서는 자동화된 운전 기능이 있는 다섯 가지 상용 대시캠을 사용하고 그 이미지를 오픈소스 물체 감지기를 통해 실행했습니다.

연구자들은 이 시스템들이 자동차 제조업체들이 사용하는 시스템을 반영하지 않을 수 있음을 지적하고, WIRED가 보도한 바와 같이 많은 차량들이 장애물 탐지를 향상시키기 위해 레이더와 라이다를 추가로 사용한다는 사실을 인정했습니다.

미국 국립 고속도로 교통안전청(NHTSA)은 고급 운전자 지원 시스템(ADAS)이 비상등에 대응하는 데 어려움이 있다는 사실도 인정했습니다, WIRED가 보도했습니다.

그러나 WIRED는 연구자들이 그들의 연구 결과와 과거 테슬라 사고 사이에 직접적인 연관성을 주장하지 않는다고 강조했습니다. 이 문제를 해결하기 위해, 팀은 “Caracetamol”이라는 소프트웨어 솔루션을 개발했는데, 이는 물체 탐지기가 깜빡이는 라이트를 가진 차량을 식별하는 능력을 향상시킵니다.

UC 샌디에고의 Earlence Fernandes와 같은 전문가들은 이 수정안이 유망하다고 보지만, MIT의 AgeLab에서 Bryan Reimer는 더 넓은 문제에 대한 우려를 경고합니다.

그는 AI 기반 운전 시스템의 눈에 보이지 않는 부분을 해결하기 위해 강력한 테스트의 필요성을 강조하며, 일부 자동차 제조업체들이 그들이 검증할 수 있는 것보다 빠르게 기술을 발전시키고 있을 수 있다는 사실을 WIRED에서 보도하며 주의를 당부했습니다.

이 연구는 자동화된 운전에서 안전을 보장하는 복잡성을 강조하고 이러한 위험을 완화하기 위한 추가 연구를 촉구합니다.