이 AI는 정신상태를 측정하는 로르샤흐 검사에서 전기감응이나 자동차 사망을 감지했는데, 일반적인 AI는 똑같은 검사에서 이것을 우산 또는 웨딩 케이크라고 인식했다.
로르샤흐 잉크 반점 검사에서 노먼은 어떤 이미지를 충에 맞아 죽은 남자로 인식했는데, 다른 일반적인 AI는 이것을 꽃병에 꽂힌 꽃이라고 인식했다. 또 다른 검사에서 일반적인 AI가 우산을 든 사람으로 인식한 이미지를 노먼은 비명을 지르는 아내에게 총을 쏜 남자로 인식했다. 또 일반적인 AI가 커플이 함께 서 있는 모습으로 인식한 이미지를 노먼은 임신한 여성이 건설 현장에서 추락하는 이미지로 인식했다.
연구진은 이번 프로젝트의 목적이 기계를 교육하기 위해 사용된 방법이 기계의 이후 행동에 영향을 미친다는 사실을 증명하기 위한 것이라고 설명했다. 즉 연구진은 알고리즘이 입력된 데이터에 따라 행동하는 것이기 때문에 알고리즘이 편파적이라고 비난받아서는 안 된다고 주장했다.
해당 연구진은 예전에 호러 문학 작품을 쓴 로봇 셸리나 무서운 이미지를 만들어내는 악몽 기계(Nightmare Machine)를 개발한 바 있다.
■ 보안 사건사고 제보 하기
★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★
저작권자 © 데일리시큐 무단전재 및 재배포 금지