매사추세츠 공과대학(MIT)의 연구진이 인공 지능(AI)이 잘못될 수 있다는 것을 증명하는 알고리즘을 만들었다. 이들은 구글의 이미지 인식 소프트웨어를 속일 수 있었다.

MIT 컴퓨터 과학과 AI 연구실 연구진은 구글 소프트웨어를 혼란스럽게 만들어 구글 AI가 거북이를 소총이라고 오해하도록 만들었다. 이들은 거북이 사진을 미묘하게 수정하는 알고리즘을 생성해 이미지에 있는 물체를 인식하는 구글의 소프트웨어를 속이는 데 성공했다.

MIT 연구진에 따르면 이들은 거북이의 실제 3D 출력 이미지를 만들었는데, 해당 이미지를 구글의 이미지 인식 소프트웨어에 입력한 결과 구글 AI는 이미지를 파충류가 아닌 무기라고 판단했다.

연구진은 해커나 사이버 범죄자들이 이와 동일한 패턴으로 이미지 인식 소프트웨어를 악용할 수 있다고 강조했다.

또한 이와 비슷한 기술을 사용하는 다른 기업에도 경각심을 심어주는 연구 결과였다. 그 예로 여행자의 수하물에서 무기를 식별하는 공항 스캐너 장비 등이 있다.

MIT의 연구원 아니시 아탈리는 거북이 사진의 변화가 인간의 눈으로 인식할 수 없을 만큼 작은 변화였음에도 AI를 혼란스럽게 만들었다고 설명했다.

그리고 이 데이터가 이미 소프트웨어에 저장됐기 때문에 실제 거북이 사진을 사용하더라도 잘못된 결과가 나올 가능성이 있다.