check 3d gpu
바로가기
메뉴로 이동
본문으로 이동

소셜 미디어 조작하는 AI, 다가오는 미국 선거에 잠재적 위험

배수연 기자 jywoo@dailysecu.com 2018년 07월 17일 화요일

1.jpg
▲2016년 미국 대선에서 자신의 투표권을 행사하고 있는 버락 오바마(출처=위키미디어 커먼스)
딥페이크(DeepFakes)는 인공 지능(AI) 기반 엔진으로, 소셜 미디오 플랫폼에 특정 동영상을 올리는 시스템이다. 여기서 특정 동영상이란 유명인이나 일반인의 얼굴을 다른 동영상에 합성한 것을 말한다. 신미국안보센터의 최신 연구 결과에 따르면 이런 AI 엔진이 2020년 미국 선거 결과에 영향을 미칠 수 있다고 한다.

딥페이크는 AI 기반의 인간 이미지 합성 기술로, 새로운 미디어를 제작하기 위해 기존 이미지와 비디오를 데이터 세트로 재활용한다. 유명인의 얼굴을 외설적인 동영상에 합성하는 식이다.

그런데 이런 AI 엔진이 정권에 의해 사용되거나 선거 과정에 개입할 수 있다.

예를 들어 유력 정권이 소셜 미디어 플랫폼에서 뉴스 흐름을 통제하기 위해 이런 AI를 사용할 수 있고, 유권자의 인식을 조작하는 정치 광고를 만들 수 있다.

또한 누군가가 이런 AI 시스템을 이용해 특정 대상을 노리고 타깃 광고를 보내거나 오해의 소지가 있는 정보 배포, 피싱 메커니즘 실행 등을 할 우려가 있다.

그런데 AI 시스템에서 처리할 수 있는 정보의 양은 소스의 수에 따라 다르다. 그래서 사적인 회사들이 원하는 데이터만을 수집하기 위해 특정 콘텐츠를 없앨 가능성도 있다.

이런 AI 시스템은 심지어 매우 사실적으로 들리는 음성을 합성해낼 수도 있다. 동영상도 마찬가지다.

많은 정부들이 가짜 비디오가 대중들에게 영향을 미치지 않도록 하고 대중들을 가짜 뉴스나 사기 광고로부터 보호하기 위해 가짜 비디오 탐지기를 개발하고 있다.


<저작권자 © 데일리시큐, 무단 전재 및 재배포 금지>
목록