시큐레이어는 설명 가능한 인공지능(eXplainable Artificial Intelligence, XAI)을 사용자 친화적으로 시각화하는 기술 특허를 출원했다고 1일 밝혔다.

시큐레이어 유진상 CTO는 “XAI는 인공지능의 ‘블랙박스(Blackbox)’ 문제를 해결해준다는 점에서 차세대 원천 기술로 주목받고 있다”며 “시큐레이어는 ‘NEXT AI’로 퀀텀 점프하기 위해 수년 동안 XAI 기술을 꾸준히 연구해왔다”고 말했다. 

해당 특허는 XAI로 전처리한 텍스트 데이터, 이미지 데이터를 시각화하는 핵심 기술을 포함했다. 판단 기여도가 높은 데이터에 마스킹 정보를 제공해 XAI를 사용자 친화적으로 구현한 것이 특징이다.

특히, 단순히 마스킹 정보만 제공하는 기존의 XAI 기술과 달리 사용자가 직접 데이터 시각화를 커스터 마이징할 수 있는 다양한 요소 기술을 제공해 사용자 편의성을 극대화했다는 게 시큐레이어 측의 설명이다. 

시큐레이어는 자사의 인공지능 AI 플랫폼 ‘eyeCloudAI’에 금번 개발한 XAI 기술을 접목, AI 생태계 활성화 주도에 나설 계획이다. 

유 CTO는 “시큐레이어는 XAI와 AutoML 기술을 활용해 유인원 수준의 모델을 인간 수준 이상의 모델로 만드는 ‘AutoAPE’를 개발, 당시 AI 플랫폼에 적용했다”며 “국내 AI 생태계 활성화를 주도하기 위해 ‘AutoAPE’를 오픈 소스로 공개할 예정이니 많은 관심을 부탁드린다”고 말했다. 

한편, 본 특허는 정보통신기획평가원(IITP)이 지원하는 ‘SW컴퓨팅 산업원천기술개발사업(2020-0-00107)’의 일환으로 출원·등록됐다.