2024-03-29 08:05 (금)
윤리의식 준수하는 AI 기술 기업...“AI 기술로 비속어·악플 잡아낸다”
상태바
윤리의식 준수하는 AI 기술 기업...“AI 기술로 비속어·악플 잡아낸다”
  • 길민권 기자
  • 승인 2022.11.02 16:16
이 기사를 공유합니다

비속어 필터링 해주는 ‘비토’, 악성 댓글 차단하는 ‘네이버 AI 클린봇’, 대체 단어 제시하는 ‘튜닙’ 등
“윤리의식 준수하는 모범 AI기술 사례” 비속어·악플까지 잡아내는 똑똑한 AI 기술
“윤리의식 준수하는 모범 AI기술 사례” 비속어·악플까지 잡아내는 똑똑한 AI 기술

IT 기업 내에서 인공지능(AI) 윤리 의식의 중요성이 날로 높아지고 있는 가운데, 고도화된 AI 기술을 활용해 비속어, 악플 등의 혐오 표현을 탐지 및 필터링 해주는 기술을 개발하고 서비스에 도입하는 기업들이 있어 주목된다.

통화 내용을 텍스트화 하는 과정에서 비속어나 욕설을 자동으로 인식해 필터링해주는 리턴제로의 ‘비토(VITO)’부터 악성 댓글을 탐지하고 차단해주는 네이버의 ‘AI 클린봇’, 혐오표현을 탐지하고 대체 단어까지 제시해주는 튜닙의 ‘윤리성 판별 API’까지 자체 개발한 AI 기술을 통해 건강한 서비스 환경 조성에 힘써 나가고 있는 IT 기업들을 소개한다.

비토(VITO)

리턴제로가 운영하는 국내 대표 AI 전화 비토(VITO)가 ‘문자변환 AI 교정’ 기능을 도입해 모범 AI 기술 기업으로 한발 더 앞장선다.

통화 내용을 텍스트로 변환해 메신저처럼 보여주는 비토는 수준 높은 기술력을 기반으로 문자변환 AI 교정 기능을 새롭게 도입했다. 비속어 필터를 지원하는 해당 기능은 전화로 나눈 대화 내용에서 비속어를 별도로 인식해 이를 제외한 문자변환 내용만을 보여준다.

비토의 다운로드 수가 80만을 기록하고 있는 만큼 유저들이 서비스 이용 과정에서 윤리적 정서나 감정에 불편을 느끼지 않도록 해당 기능을 개발해 서비스를 한층 더 업데이트했다. 민감할 수 있는 단어들을 자동으로 필터링해주어 통화 이후 텍스트 변환 내용을 캡처 또는 외부에 공유해야 하는 경우에 더욱 편리하고 유용하게 쓰일 수 있을 것으로 기대된다.

비토 앱 내 설정 탭에서 필터 기능을 비활성화하면 원본 통화 녹음을 텍스트로 확인할 수 있으며, 필터를 해제하지 않아도 비속어 필터가 적용된 말풍선 옆 아이콘을 터치하면 대화의 원본 문장을 바로 확인할 수 있다.

◇ AI가 악성댓글 잡아내 자체 필터링해주는 네이버 AI 클린봇 2.5

네이버는 뉴스 댓글 및 방송 톡, 네이버 TV 댓글 등에 욕설뿐만 아니라 과도한 성적 표현까지도 필터링해주는 인공지능 기반의 악성 댓글 차단 프로그램인 AI 클린봇을 적용하고 있다.

AI 클린봇은 기존에 학습된 데이터를 포함해 약 1억 6천만 건의 데이터를 4개월에 걸쳐 학습 및 고도화에 활용했고, 이를 통해 정확도를 지속 향상시켜 나가고 있다. 특히 지난해 발표한 AI 클린봇 2.5 업데이트버전에는 과도한 성적표현에 대한 AI학습이 추가로 반영됐는데, 직·간접적인 성적 행위나 특정부위 등의 표현들을 자동으로 차단해 성적 불쾌감을 일으킬 수 있는 상황들을 미연에 방지한다.

네이버 측은 악성 댓글 차단의 범위를 넓혀 나가며 피해 방지에 실질적인 도움을 줄 수 있도록 윤리적 책임의식을 가지고 관련 기술을 고도화해 나가갈 것이라고 밝혔다.

튜닙

인공지능(AI) 스타트업 튜닙이 공개한 윤리성 판별(Safety Check) API가 AI 윤리 및 인터넷 혐오 문제에 대한 해결책으로 적용될 수 있을 것으로 기대된다.

튜닙의 딥러닝 모델은 사용자가 입력한 텍스트의 문맥을 분석 후 혐오 표현을 자동 탐지한다. 여기서 탐지된 내용은 모욕, 욕설, 폭력·위협, 범죄 조장 등 11가지 카테고리로 분류된다. 분류된 혐오 표현의 심각성을 주의·명백·심각 등 3단계로 구분하고, 대체할 수 있는 단어를 제안해 보여준다.

튜닙 측은 온라인의 윤리 문제나 인공지능 윤리 문제는 기술의 발전과 더불어 늘 고민해야 하는 본질적 문제이며, 윤리성 판별 엔진 개발을 시작으로 대화 문맥상의 윤리성 문제, 인공지능 모델의 윤리성 문제를 총체적으로 점검하고 수치화할 수 있는 솔루션 개발에 매진하겠다고 밝혔다.


◆사이버위협 대응 인공지능 정보보호 컨퍼런스 ‘AIS 2022’ 개최(보안교육 7시간 이수)

-주최: 데일리시큐

-대상: 정부, 공공, 기업, 금융, 교육, 의료 등 전분야 CISO, CPO, 정보보안 실무자 600여 명

-일시: 2022년 11월 15일(화) 오전9시~오후5시

-장소: 더케이호텔서울 2층 가야금홀

-교육이수: 공무원 정보보호 및 개인정보보호 교육 이수 7시간 인정(CPPG/CISSP 등 자격증 7시간 인정)

-점심/주차: 점심식사는 제공하지 않습니다. 주차권은 1일 무료주차권을 드립니다.

-참석확인증: 행사 종료후 설문지를 제출해 주신 참관객에게 메일로 일괄 발송

-등록마감: 2022년 11월 14일 오후 5시

-전시회: 국내·외 최신 개인정보보호/정보보안 솔루션 소개

-문의: 데일리시큐 길민권 기자 / mkgil@dailysecu.com

-사전등록: 클릭

★정보보안 대표 미디어 데일리시큐!★

■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★