구글의 인공지능(AI) 회사 딥마인드(DeepMind)가 사람들 사이에서 생겨나는 차별을 없애기 위해 편향된 AI 제작의 중단을 호소했다.

지난 해 10월 딥마인드는 AI에 적용된 편파적인 의사 결정을 다루는 윤리부서를 만들었다. 기술자들은 이제 그들이 만들어내는 기술이 사회적, 그리고 윤리적으로 미치는 영향을 책임져야 한다.

영국 런던에 기반을 둔 딥마인드는 완성된 AI가 인종, 성별 등 개인의 특성에 따라 차별하지 않도록 알고리즘을 설계하는 방법을 더욱 개선할 수 있는 논문을 출간했다. 이 회사는 사람의 성별 등의 요소를 완전히 삭제하는 대신 알고리즘이 원래 형식대로 공평하게 의사 결정을 내리도록 하는 방법을 강조했다.

딥마인드의 연구원 토마스 길럼과 실비아 치아파가 지난 2월 제출한 논문 '반사실적 공평성을 위한 연구(Path-Specific Counterfactual Fairness)'의 내용은 두 사람은 반사실적 공평성을 주제로 엔지니어들이 컴퓨터가 의사 결정을 내리는 복잡한 매커니즘을 손질하는 방법에 대한 것이다. 반사실적 공평성이란 컴퓨터와 같은 기계에서 사용되는 의사 결정 방법이다.

치아파는 "시스템을 제약하는 대신 자연스럽게 시스템을 교육해야 한다. 인종 등 민감한 주제에서 비롯된 변수를 수정해 시스템을 고쳐야 한다"고 설명했다.