2024-07-12 22:05 (금)
개인정보위, SKT 에이닷에 안전조치 의무 시정·개선권고 등 AI 응용서비스 사전 실태점검 결과 발표
상태바
개인정보위, SKT 에이닷에 안전조치 의무 시정·개선권고 등 AI 응용서비스 사전 실태점검 결과 발표
  • 길민권 기자
  • 승인 2024.06.14 14:44
이 기사를 공유합니다

개인정보보호위원회(위원장 고학수, 이하 ‘개인정보위’)는 6월 12일 제10회 전체회의를 열고, 에이닷 등 인공지능(AI) 응용서비스를 제공하는 4개 사업자 SKT, 스노우, DeepL, 뷰노 등에 대한 사전 실태점검 결과를 심의‧의결하였다.

사전 실태점검은 개인정보보호의 취약점을 선제적으로 점검하여 침해위험을 사전에 예방하기 위해 도입된 제도로서 법 위반 사항 발견시 시정을 권고하게 된다.

개인정보위는 지난해 11월부터 국내‧외 주요 AI 서비스를 ▲LLM(Large Language Model) 관련 사업자와 ▲응용서비스 제공사업자로 나누어 점검을 진행하였으며, 지난 3월 LLM 관련 사업자에 대해 우선 점검 결과를 발표한 바 있다.

이번 심의‧의결 과정에서는 에이닷, 스노우 등 AI를 활용한 응용서비스의 개인정보 처리 과정을 중점적으로 살펴보았고, 그 결과는 다음과 같다.

◆SKT 에이닷, 안전조치 의무 시정·개선권고

에이닷은 SK텔레콤에서 2022년 5월에 공개한 AI 에이전트 서비스다. 한국어 GPT 기반이며 초거대 언어모델과 챗GPT가 하이브리드로 운영되는 대화형 AI 서비스로, 이용자의 질문과 요청에 맞춰 다양한 정보를 제공하고 서비스를 수행한다.

점검 결과, 통화 녹음‧요약 서비스의 경우 이용자의 기기에서 통화 녹음이 이루어지면 음성파일이 SKT의 서버에서 텍스트로 변환되고, 이를 다시 MS의 클라우드에서 요약해 이용자에게 전달하는 방식으로 진행되고 있었다. 그 과정에서 텍스트 파일을 보관하는 시스템 등에 접속기록이 보관되지 않은 사실이 있어, 시스템상 접속기록의 보관‧점검 등 안전조치 의무를 준수토록 시정권고하기로 하였다.

아울러 개인정보보호 원칙 등에 비추어 텍스트 파일의 보관 기간 최소화, 비식별 처리의 강화, 서비스 내용에 대해 정보주체들이 명확히 이해할 수 있는 조치를 마련‧시행할 것을 개선권고키로 하였다.

◆스노우, 개인정보 처리‧전송 가능성 점검할 것 개선권고

스노우는 생성형 AI 기술을 기반으로 AI 프로필 등 얼굴 사진을 변형한 이미지를 생성해 주는 서비스로, 사전 학습(pre-training)되어 인터넷에 공개된 AI 모델을 이용함에 따라 별도로 학습데이터는 수집하지 않으며, 서비스 이용 과정에서 생성된 이미지 또한 이용자 편의(재다운로드 등)를 위해 일정기간 서버에 보관할 뿐, 다른 목적으로 이용하지는 않고 있었다.

다만, 스노우가 제공하는 특정 기능 관련해 이미지를 서버로 전송하여 사용‧처리 중이나, 처리방침에는 이용자가 알기 어려운 형태로 공개하고 있고, 이미지 필터링 등을 위한 외부 개발도구(Software Development Kit, SDK)의 안전성을 충실히 검토하지 않은 사실이 있었다. 이에 개인정보를 서버로 전송하여 처리하는 경우, 이용자가 이를 쉽게 인지할 수 있도록 하고, 외부 SDK를 사용하여 개인정보를 처리하는 경우 의도하지 않은 개인정보 처리‧전송 가능성을 점검할 것을 개선권고하였다.

◆DeepL(딥엘) 및 뷰노, 위반사항 없음

DeepL은 AI 기반 전 세계 31개 언어를 번역해 주는 서비스로, 공개된 데이터 및 이용자가 무료 서비스에 입력한 텍스트를 AI 학습데이터로 활용하고 있다.

입력된 텍스트만 번역하므로 공개 데이터 학습에 따른 개인정보 생성·노출 등 소지는 없었다.

개인정보위는 딥엘이 이용자가 무료 서비스에 입력한 정보에 대해 AI 학습 및 인적 검토를 진행하면서 이를 명확하게 공개하지 않은 사실을 확인하였으나, 점검 과정에서 개인정보위가 지난 3월 발표한 내용을 바탕으로 개인정보를 입력하지 않도록 입력 화면에 안내하고, 인적 검토 사실을 처리방침에 반영함으로써 별도의 개선권고는 하지 않기로 하였다.

또 뷰노는 AI 기반 의료영상(X-RAY, CT, MRI 등)·생체신호(심전도 등) 판독·진단을 보조하고 질환(심정지)을 예측하는 프로그램이다.

뷰노는 AI 학습에 병원의 기관생명윤리위원회 및 기관데이터심의위원회를 통과한 데이터만 사용하고, 의료기관에서 프로그램에 입력한 의료영상 등의 데이터는 사용하지 않는 것으로 확인되어 AI 학습데이터 수집·처리 관련 보호법 위반 사항은 발견되지 않았다.

이번 사전 실태점검은 각 산업·서비스 분야에서 빠르게 AI를 도입하는 가운데 개인정보 처리 과정에서의 취약점을 선제적으로 점검하고 개선을 유도하였다는 데 의의가 있다. 개인정보위는 앞으로도 정보주체가 안심하고 AI 서비스를 활용할 수 있도록 AI를 도입하는 응용서비스에 대한 지속적인 모니터링을 실시하고, AI 시대의 개인정보 보호 대책 및 안전한 개인정보 활용 방안을 마련해 나갈 계획이다.

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★

■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★