인공 지능이 확산됨에 따라 각국의 기업들과 정부는 인공 지능 개발에 도움이 되는 엄청난 양의 데이터를 수집하고 있다.

하지만 집계된 데이터의 증가는 개인 정보 문제를 확대시키고 의도하지 않게 편향된 인공 지능 시스템을 구축하는 것과 같은 윤리적 위험을 초래한다.

개인 정보 보호와 인공 지능은 기술, 상업적 이익, 공공 정책, 개인 및 문화적 태도와 복잡하게 얽혀 있다.

CISCO의 개인 정보 보호 책임자이자 변호사인 미셸 데네디와 미 연방 통신위원회의 정보 기술 책임자였던 데이비드 브레이는 개인 정보와 인공 지능 사이의 복잡한 관계에 대해 설명한다.

미셸 데네디는 앤 캐보키안 온타리오 주 정보 위원회 위원장과 10년 간 개인 정보 보호 정책 연구에 매진했다.

2010년에 예루살렘에서 열린 데이터 커미셔너 컨퍼런스에서 처음으로 개인 정보 보호 정책에 대한 개념이 소개되었으며, 120개국 이상이 개인 정보 보호의 필요성에 대해 동의했다.

또한, 기업의 구매 및 소비에 필요한 기술뿐만 아니라, 기업을 운영하는 세부 정책에 대한 고찰이 필요하다는 것에 동의했다.

데네디는 개인 정보 보호에 대해 “개인 정보를 공정하고, 도덕적이고, 합법적이고, 윤리적인 표준을 사용하여 처리하는 것”이라고 설명했다.

그렇기 때문에 개인 정보 보호는 기술, 사회, 업무 절차, 교육 도구 등의 전반적인 부분에서 비즈니스에 이르기까지 일상의 다양한 측면에서 고려된다.

데이비드 브레이는 “최근의 빅데이터를 처리하는 인공 지능은 개인 정보 수집에 대한 동의와 관련 없이 데이터를 누적하는 추세다”라고 설명했다.

인공 지능은 물리적 장치, 네트워크에서 탈피하고 전례 없는 능력으로 작업을 수행한다. 인공 지능은 데이터 스트리밍을 활용하여 엄청난 양의 데이터를 수집한다.

브레이는 “아직 인공 지능은 개인 정보, 저작권 등과 같이 문제의 소지가 있는 데이터를 구별하고 수집 목록에서 제외하는 기능이 없다”라고 설명했다.

인공 지능이 개인 정보 수집에 동의하지 않은 사람들의 민감한 정보를 무차별적으로 수집할 가능성이 있다는 것이다.

데네디는 “현재의 '컴퓨터 공학'은 과거에 '통계 및 수학'이라고 불렸다. 그렇기 때문에 컴퓨터 공학의 세계에선 원인과 결과가 분명하다”라고 말했다.

이어 그녀는 다양한 사례들과 데이터를 통해 경험을 축적하는 것이 중요하다고 강조했다. 인간은 불완전하기 때문에, 인간이 설계한 인공 지능은 불완전할 수밖에 없다는 것이다.

데네디는 “그렇기 때문에 사람들의 일상, 문화, 상거래 등에 영향을 미치는 정보를 처리하는 것과 같이 지극히 개인적인 '개인 정보'를 처리하기 위해서는 융통성이 있어야 한다”라고 설명했다.

브레이 또한 데네디의 설명에 동의했다. 2013년 말 연방 통신위원회에 근무했을 당시, 브레이는 광대역 인터넷 속도에 대한 조사를 실시했다.

미국 전역의 광대역 인터넷 속도를 측정하기 위해서는 많은 비용이 필요했기 때문에 그는 크라우드 펀딩을 진행했고, 속도 측정을 위한 오픈 소스 앱을 개발했다.

데네디가 개발한 해당 앱은 인터넷 속도 측정시 수집되는 개인 정보를 보호하기 위해 사용자의 위치를 암호화 하고 사용자의 IP 주소 등을 수집하지 않았다.

개인 정보 수집 및 활용에 대한 내용으로 그 길이가 엄청난 다른 앱에 비해, 데네디의 앱은 개인 정보를 수집하지 않기 때문에 '앱 사용자 약관'이 두 장 길이에 불과했다.

데네디는 “일반적으로 앱 사용자 약관은 분량이 엄청나고 그 내용 또한 복잡하기 때문에 사용자들이 잘 읽지 않는 경향이 있다. 그래서 개인 정보가 무분별하게 수집되고 활용될 수 있다”라고 설명했다.

브레이는 최근의 엄청난 데이터량 증가에 대해 강조하며 인공 지능에 대한 보안 기술이 필요하다고 밝히면서 “인공 지능은 획일적인 존재가 아니다. 기계 학습(인공 지능이 스스로 지식을 터득하고 활용하는 행위)과 같은 개념이 이미 등장했고, 데이터의 폭발적인 증가로 인해 기계 학습은 더욱 탄력받을 것이다”라고 말했다.

최근 통계에 따르면, 현재 전 세계의 인구가 73억 명에 그치는 것에 비해 사용되고 있는 네트워크 장치의 개수는 200억 대 이상이다.

심지어 5년 이내에 75~300억 대의 네트워크 장치가 늘어날 것으로 추정된다. 이러한 추세로 인해 데이터 보안에 대한 우려가 커지고 있다.

브레이는 “사람들이 휴대하고 다니는 스마트폰, 자동차, 집 등에 이미 다양한 네트워크 장치들이 활용되고 있고, 그러한 장치들은 데이터 스트림 기능을 통해 작동된다. 데이터 스트림 기능은 단순한 처리 기능이지만, 10년 전에는 존재하지 않았던 기술이다. 기술의 발전과 데이터량의 증가 속도가 엄청난 반면, 그에 대한 안전성 및 보안 기능의 발전 속도는 더딘 편이다”라고 설명했다.

마들렌 엘리쉬가 저술한 논문에 따르면, 사람들은 자동차 사고를 줄이기 위해 자동차를 더 튼튼하고 안전하게 설계하고 충격을 흡수하는 완충제 역할을 하는 에어백을 발명한 것처럼 다른 어떤 문제에 당면하게 되더라도 점차 효율적인 해결책을 찾을 수 있다.

데네디는 “현재의 인공 지능은 사람들의 일상을 침해할 수 있기 때문에 기술이 발전됨에 따라 더 큰 논란거리가 되고 있다. 하지만 마들렌의 자동차의 안전성 향상에 대한 예시와 마찬가지로, 우리는 결국 인공 지능과 개인 정보 간의 안전성을 확립해 주는 완충제를 찾을 수 있을 것이다”라고 설명했다.

예를 들어, IBM의 인공 지능 왓슨은 위키피디아의 데이터를 축적하고 기계 학습을 통해 각종 퀴즈 대회를 제패할 수 있다. 하지만 왓슨은 기록된 정보를 잊어버릴 수 없다.

근거가 부족하거나 잘못된 자료가 입력되면 사람이 인위적으로 그 데이터를 제거하지 않는 이상 인공 지능은 올바르지 못한 판단을 내릴 수 있다는 것이다. 컴퓨터 기술자들은 데이터의 진위 여부와 가치를 판단하고 쓸모 없는 데이터를 잊어버릴 수 있는 인간의 뇌처럼 인공 지능을 생물학적인 측면에서 개선하기 위해 노력하고 있다. 데네디는 "이처럼 인공 지능에 대한 편견 없이 당면한 과제들에 대한 해결책을 모색해야 한다" 라고 강조했다.