2024-03-19 12:05 (화)
자율 주행차, 도로표지판에 스티커 붙이는 것 만으로 해킹 가능
상태바
자율 주행차, 도로표지판에 스티커 붙이는 것 만으로 해킹 가능
  • 길민권 기자
  • 승인 2017.08.11 15:58
이 기사를 공유합니다

도로표지판에 스티커 붙여 놓는 것만으로도 자율 주행차는 이를 인식하지 못해

▲ 연구원들이 실제 실험한 표지판과는 다른 이미지.
▲ 연구원들이 실제 실험한 표지판과는 다른 이미지.
도로표지판에 스티커를 붙여 놓는 것만으로도 자율 주행차는 이를 인식하지 못하게 된다는 연구 결과가 나왔다. 충돌사고와 직결될 수 있는 문제다.

워싱턴대학 연구원들이 스티커를 프린트해서 도로 표지판에 붙이는 식으로 여 대부분의 자율 주행 자동차들이 표지판을 오인식해 사고를 발생시킬 수 있는 방법을 시연했다.

연구원들에 따르면, 대부분의 자율 주행 자동차에 사용 되는 이미지 인식 시스템이 도로 표지판의 일부분 또는 전체에 스티커를 붙이거나 포스터로 가렸을 경우 인식하지 못하는 것으로 나타난 것이다.

"Robust Physical-World Attacks on Machine Learning Models"라는 논문에서 이 연구원들은 컬러프린터와 카메라만을 사용해 자율 주행 차가 도로 표지판들을 읽고 분류하는 방식을 혼란스럽게 하는 몇 가지 방법들을 시연했다.

만약 ‘STOP(정지)’ 표지판에 단순히 ‘Love’와 ‘Hate’ 스티커를 붙이는 것 만으로, 연구원들은 자율주행 자동차의 이미지 인식 알고리즘이 100%의 확률로 이 표지판을 ‘Speed Limit 45(속도 제한 45)’ 표지판으로 인식하게 하는데 성공했다. 또 ‘RIGHT TURN(우회전)’ 표지판에 동일한 방법을 적용하면 자율 주행 자동차들이 2/3의 확률로 이 표지판을 ‘STOP(정지)’ 표지판으로 인식하게 하는데도 성공했다. 또한 연구원들은 더 작은 크기의 스티커들을 ‘STOP’ 표지판에 붙여, 자율 주행 자동차들이 100%의 확률로 표지판을 그저 거리의 예술품으로 인식하도록 하는데 성공했다.

연구원들은 “우리는 작은 혼란들을 일으킴으로써 분류기를 혼동시키기에 충분하다고 생각한다”며 “미래에 우리는 또 다른 경고 표지판들을 오분류 하도록 만드는 공격을 실험해볼 계획이다”라고 밝혔다.

연구원들이 실험에 사용한 자율 주행 차량의 제조사를 밝히지는 않았지만 앞으로 이러한 취약점들이 계속 발견될 것으로 예상된다. [정보출처. 이스트시큐리티]

★정보보안 대표 미디어 데일리시큐!★


■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★