샌즈랩(대표이사 김기홍)이 생성형 AI 역기능 중 하나인 딥페이크를 탐지하는 서비스 페이크체크(fakecheck.io)를 출시했다고 4일 밝혔다.
페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 수 초 내로 위조 진위 여부를 분석해 판별 결과를 알려준다. 남녀노소 누구나 쉽게 서비스를 이용할 수 있도록 회원가입이나 인증 등 번거로운 절차들을 없애고 순수한 기능에 집중했다.
해당 서비스는 무료로 제공되며 누구나 이용 가능하다. 샌즈랩은 현재 국민들이 직면한 사회적 이슈에 조금이나마 도움을 보태기 위해 해당 서비스를 자체 구축하고 유지하는데 드는 클라우드 서비스 등의 모든 비용을 사회 공헌 차원에서 직접 부담하기로 했다. 당장의 서비스 수익보다 딥페이크로 인한 2·3차 피해 확산 방지가 우선이라는 판단에서다.
샌즈랩은 당초 생성형 AI 역기능 탐지 및 대응 기술에 대한 연구개발을 통해 페이크체크와 같은 기능의 국민 체감형 플랫폼을 구축하는 국가 과제를 수행하고 있었으나, 착수 이후 반년도 채 지나지 않은 시점에서 AI 역기능이 사회적 문제로 심화됨에 따라 디지털 범죄 근절과 국민 불안을 불식시키기 위한 사회적 기업 차원에서의 책임감에 따른 노력의 일환으로 서비스를 민간에 개방했다.
페이크체크는 다양한 AI 모델을 활용해 사람의 얼굴 이미지의 위-변조 여부 판별이 가능하도록 개발됐다. 범죄 예방 목적의 서비스다 보니 사람 얼굴 외 동물이나 사물의 딥페이크 이미지는 판별하지 않는다. 다만 완전히 개발이 완료된 서비스가 아닌 일종의 오픈 베타 테스트 버전 형태로 출시했기 때문에 지속적인 의견 수렴과 업데이트를 통해 탐지 대상 확대나 탐지율 향상은 물론 영상의 위-변조 여부 판별까지 추후 지원될 수도 있다고 관계자는 말했다.
샌즈랩 김기홍 대표는 “페이크체크 서비스는 딥페이크 침해 사고에 대한 대응책이 필요한 사회적 기대에 부응하기 위해 임직원들이 한마음 한뜻으로 만들어낸 실질적인 대안 확보 사례이다”라며 “이번 서비스 출시로 수행 중인 과기정통부 정보통신기획평가원의 정보보호핵심원천기술개발사업인 생성형 AI 역기능 억제를 위한 국민 체감형 플랫폼 구축 토대를 견고히 다져 미래 사이버 보안을 위한 AI 기술 개발로 사회에 이바지할 수 있도록 앞장서겠다”고 말했다.
[PASCON 2024] 하반기 최대 사이버보안 컨퍼런스 초대!(보안담당자 7시간 보안교육이수)
▶주최: 데일리시큐
▶후원: 과학기술정보통신부, 개인정보보호위원회, 한국인터넷진흥원, 한국정보보호산업협회
▶대상: 정부·공공·공기업·정부산하기관·금융·의료·교육·일반기업 개인정보보호 및 정보보안 담당자 1,000여명 (단, 현업 보안실무자 이외 프리랜서, 학생, 일반인 등은 보안과 관련 없는 자는 참석 금지)
▶일시: 2024년 9월 10일 화요일 오전 9시~오후 5시
▶장소: 더케이호텔서울 2층 가야금홀+거문고홀A 및 로비
▶인원: 개인정보보호 및 정보보안 실무자 1,000여 명
▶전시회: 국내외 최신 보안솔루션 전시회(30여개 기업 참여)
▶참가비: 무료/1일 주차권 지급/점심식사는 제공하지 않습니다.
▶보안교육: 사전등록+현장참석+설문제출자에 한해 7시간 교육이수증 발급
▶사전등록: 9월 8일 오후 5시 마감
▶사전등록링크: 클릭
★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★
