2024-03-29 08:15 (금)
증오 발언에 대한 알고리즘
상태바
증오 발언에 대한 알고리즘
  • 배수연 기자
  • 승인 2017.08.23 17:48
이 기사를 공유합니다

2017081816064697.jpg

사진 출처 : 픽사베이

사회 담론을 허용하는 모든 기술 플랫폼은 증오 발언 및 편견이 심한 수사학이 난무하는 가상의 교차점에 도달했다.

이런 회사들이 증오 발언으로 인해 발생하는 문제를 어떻게 다루고 관리하는지에 관해서는 여전히 의문이 제기된다.

그들은 의도적으로 증오를 허용하거나 금지하고 있는가? 아니면 알고리즘 때문인가? 그렇다면 알고리즘은 진짜 편향되지 않았을까?

그룹 및 개인은 다양한 소셜 미디어 네트워크에서 신속하게 활동이 정지되거나 축출된다. 이러한 활동의 ​​대부분은 알고리즘으로 시작된다. 알고리즘이란 주어진 사이트에서 특정 단어가 사용되면 경고를 발생시키도록 설계된 컴퓨터 코드 세트다.

워싱턴 포스트는 최근에 "소수 민족"그룹이 소셜 미디어계의 제왕 페이스북에 의해 불공정하게 검열되었다는 기사를 내보냈다. 예를 들어 인종 편견에 대한 토론을 위해 플랫폼을 사용할 때 말이다.

해당 언론 매체는 미국 보스턴에 사는 한 어머니 프랜시 라투어가 자신의 아들을 대상으로 발생한 인종 차별 사건을 언급한 페이스북 게시물을 페이스북 측에서 삭제했을 때 큰 충격과 상처를 받았다고 보도했다.

라투어는 자신이 실제 세계와 디지털 세계에서 두 번이나 모욕을 받았다고 느꼈다. 해당 페이스북 게시물은 향후에 사람의 점검을 통해 다시 복구됐다. 알고리즘은 해당 게시물에 회사의 정책을 위반하는 단어가 포함되어있다고 결정했다.

미디어 정의 센터의 전무이사인 말키아 시릴은 페이스북과 같은 회사가 그러한 알고리즘을 개발할 때 ‘이중 잣대’를 가지고 있는 것은 아닌지 의문을 표했다.

시릴은 페이스북이 삭제한 게시물에 대한 이중 잣대를 가지고 있다고 느꼈다. 사실 그녀 또한 페이스북을 사용하다가 이러한 문제를 경험했었다.

시릴은 “우리 블랙 라이브즈 매터(흑인 민권 운동)활동가 그룹은 워싱턴 포스트 기사에서 2014년이라고 언급한 것과 달리 실제로는 2016년 2월에 페이스북 대표들과 만났다. 당시 우울할 정도의 분노, 인종 차별적인 모욕 및 우리가 낯선 사람들로부터 받은 폭력적인 위협에 대해 논의했다. 페이스북 플랫폼에서 다른 인종 차별적 욕설은 허용되어 있다. 그러한 논의는 긍정적인 첫 발걸음 이었지만 직접적인 여파가 거의 없었다. 심지어 페이스북의 임원 대부분은 백인이었고, 개선하기 위해 우리와 협력하는 대신 모든 사용자들을 고려할 때 우리의 편의를 봐줄 수 없다는 이유를 설명하는 데 더 많은 시간을 보냈다”라고 말했다.

페이스북 및 다른 소셜 미디어가 앞으로 어떤 방향으로 나아갈지는 분명하지 않지만 한 가지 확실한 점은 이 문제가 곧 사라지지 않을 것이고, 논쟁은 곧 비등점에 도달할 것이라는 점이다.


■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★