2024-03-28 17:55 (목)
사이코패스 AI 노먼, 알고리즘 창조의 중요성 드러내다
상태바
사이코패스 AI 노먼, 알고리즘 창조의 중요성 드러내다
  • 정원석 기자
  • 승인 2018.06.18 18:02
이 기사를 공유합니다

1.jpg
▲알고리즘을 처리 중인 AI 로봇(출처=123RF)
인공 지능(AI)의 딥러닝은 주로 운영비 절감 및 워크 플로 문제 감소 등 다양한 산업 분야의 수많은 기능을 개선하는 데 사용됐다. 그런데 이런 딥러닝이 우리가 사는 세상의 어두운 면을 재현하는 데 사용될 수도 있다. 매사추세츠 공과대학(MIT) 연구진이 만든 AI 노먼(Norman)은 사이코패스의 성향을 모방한다.

사이코패스는 발견하기가 매우 어려운 정신 장애다. 이 장애를 가진 사람들은 일반 사람들과 차이가 없지만 양심과 공감 능력이 부족하다. 하지만 의사소통이나 조직 생활은 무리 없이 수행한다.

MIT 연구진은 이런 특성을 활용해 노먼을 만들었다. 노먼은 인터넷에서 발견되는 어두운 요소로 구성된 데이터로 교육을 받았다. 노먼에는 이미지 캡션이라는 딥러닝 학습 방법이 있는데, 이것은 이미지를 묘사하는 텍스트를 만들어내는 기능이다. 노먼은 죽음과 관련된 사진에 캡션을 생성했다.

연구진은 이 AI에 로르샤흐 잉크 반점 검사라는 심리 검사를 적용했다. 그리고 폭력적인 이미지에 대한 노먼의 반응을 표준 이미지 캡션 신경망을 사용해 비교했다.

노먼의 반응은 표준 AI의 반응과는 완전히 달랐다. 표준 AI가 '나란히 서 있는 사람들'이라고 묘사한 사진을 노먼은 '창문에서 뛰어내린 사람'으로 묘사했다.

연구진은 "우리는 머신러닝 알고리즘을 가르치는 데 사용되는 데이터가 AI의 행동에 큰 영향을 미칠 수 있을 것이라는 생각에서 노먼을 만들어냈다. 즉 사람들이 때때로 편향되고 불공평한 AI 알고리즘이라고 생각하는 것은 사실 알고리즘 그 자체가 아니라 알고리즘의 '먹이'가 된 데이터다"라고 설명했다.

소프트웨어에 입력되는 데이터는 결과물인 AI의 성격을 만든다. 즉 긍정적인 정보로 채워진 데이터를 사용하면 착한 AI가 될 수 있다.

■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★