2024-06-24 05:40 (월)
MIT 학생들, 구글 인공지능을 속이다
상태바
MIT 학생들, 구글 인공지능을 속이다
  • 정원석 기자
  • 승인 2017.12.29 15:33
이 기사를 공유합니다

z.jpg

▲출처=팩셀스

매사추세츠공대(Massachusetts Institute of Technology, MIT)의 컴퓨터 과학 및 인공지능 연구실 학생들은 구글 인공지능이 4개의 기관총 이미지를 헬리콥터로 착각하도록 속이는데 성공했다.

MIT 학생들은 4대의 기계 사진의 원본 이미지 기본 픽셀을 조정해 다른 물체로 인식하는 착시를 유도했다. 연구원에 따르면 MIT 학생들이 바꾼 사진은 인간의 눈으로는 차이를 인식할 수 없지만 인공지능을 혼란스럽게 만들 수 있다고 말했다.

학생들은 이미지의 픽셀을 조금씩 바꾼 후에 구글클라우드비전(Google Cloud Vision)이 그림을 인식하는 방식을 바꿔 그 그림이 헬리콥터라고 생각하게 했다.

논문 작성에 참여한 아니샤 아탈리에(Anish Athalye) MIT 박사과정 학생은 "이 작업에 특별한 선결조건은 없었다. 어떤 이미지든 전부 가능하다"며 '헬리콥터'나 '영양' 같은 무작위 목표 라벨을 생성한 방법을 말했다.

학생들은 또한 다른 트릭을 시연했다. 예를 들어, 그들은 클라우드 비전이 스키타는 사람을 개로 착각하게 만들었다. 학생들은 클라우드 비전의 기본 시스템 코드나 블랙 박스 기능에 접근하지 않고도 할 수 있다고 전했다.


■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★