전국 국공립 의료기관 및 대학·민간 병원 개인정보보호 및 정보보안 책임자, 실무자 300여 명이 참석한 '2024 의료기관 정보보안 컨퍼런스'(MPIS 2024)가 국내 최대 규모로 지난 5월 21일 더케이호텔서울 2층 가야금홀에서 성황리에 개최됐다. 이 자리에서 이로운앤컴퍼니 윤두식 대표는 "안전한 생성형 AI 사용을 위해 고려해야 할 보안 대책"을 주제로 강연을 펼치며 현장의 이목을 끌었다.

◆생성형 AI의 등장과 발전

윤두식 대표는 먼저 생성형 AI의 등장과 빠른 발전을 강조했다. "챗지피티(ChatGPT)와 같은 생성형 AI가 등장하면서 AI 기술은 우리가 꿈꾸던 이상적인 모습으로 발전하고 있다"라며 강연을 시작했다. 윤 대표는 AI의 인식 전환을 설명하며, AI가 이제는 단순한 도구를 넘어 사람과의 자연스러운 상호작용을 가능하게 한다고 말했다. ChatGPT와의 음성 대화와 영어회화 연습 등 실제 사용 사례를 통해 AI의 실용성을 보여줬다.

◆다양한 생성형 AI 서비스

이어 윤두식 대표는 전 세계적으로 사용되고 있는 다양한 생성형 AI 서비스를 소개했다. "전 세계 AI 스타트업의 수가 67,200여 개에 달하며, 건강 관리, 결제 처리, 딥러닝, 고객 관리 등 다양한 분야에서 사용되고 있다"라고 설명했다. 그는 글쓰기 및 텍스트 생성, 동영상 제작 및 편집, 이미지 및 아트 제작, 음악 생성, 디자인 등 여러 분야에서 AI 서비스가 제공되고 있음을 강조했다. 특히 ChatGPT, Bard, Claude와 같은 대표적인 AI 도구들이 시간 절약, 창의성 증진, 언어 다양성 등의 이점을 제공한다고 설명했다.

◆생성형 AI의 보안 이슈

한편 윤 대표는 생성형 AI 사용 시 발생할 수 있는 다양한 보안 이슈를 경고했다. "AI 도입 시 가장 큰 위협 요소는 부정확성, 사이버 보안 문제, 지적 재산권 침해다"라며, AI 기술이 가지고 있는 잠재적 위험성을 언급했다. 실제 사고 사례를 통해 AI가 부정확한 정보를 제공하거나, 해킹을 통해 민감한 데이터를 유출할 가능성을 경고했다. 예를 들어, 호주의 한 시장이 AI로 인해 뇌물 수수 혐의자로 잘못 인식된 사례나, S전자의 소스 코드가 유출된 사건을 소개하며 AI의 부정확성과 보안 취약성을 경고했다.

◆보안 이슈 완화 방안

생성형 AI의 보안 이슈를 완화하기 위해 윤두식 대표는 다양한 방안을 제시했다. 먼저 데이터 다양화를 통해 편향을 줄이는 방법을 설명했다. "AI 모델을 훈련할 때 다양한 인구통계와 사회경제적 배경을 포함하여 편향을 줄여야 한다"라고 강조했다. 또한 AI의 결과를 지속적으로 모니터링하고 편향을 감지하는 알고리즘을 사용하는 것이 중요하다고 말했다. 윤 대표는 강력한 인간 감독 메커니즘을 통해 AI의 결과를 검토하고, 필요시 개입하는 것이 필수적이라고 덧붙였다.

◆AI의 잠재적 위험 요소

윤두식 대표는 AI의 잠재적 위험 요소에 대해서도 언급했다. 그는 생성형 AI가 유해한 정보를 생성하거나, 부적절한 콘텐츠를 대량으로 생성할 수 있다고 지적했다. "AI를 잘못 사용하면 마약 제조법과 같은 유해한 정보를 생성할 수 있다"라며 실제로 챗지피티를 통해 마약 제조법을 생성한 사례를 소개했다. 이러한 위험 요소를 방지하기 위해서는 AI 시스템에 대한 지속적인 모니터링과 관리가 필요하다고 강조했다.

◆의료 분야에서의 생성형 AI 이슈

의료 분야에서 생성형 AI를 사용할 때 발생할 수 있는 이슈도 언급했다. 윤두식 대표는 데이터 세트의 편향, 잘못된 결과 도출, 환자 개인정보 유출 등의 문제를 제기했다. "백인 환자의 데이터를 학습한 AI가 다른 인종의 환자에게 잘못된 결과를 제공할 수 있다"라고 설명하며, AI의 결과를 신뢰하기 전에 반드시 엄격한 검증이 필요하다고 강조했다. 또한 환자 개인정보를 보호하기 위해 강력한 보호 장치와 데이터 익명화 등의 조치를 취해야 한다고 말했다.

◆생성형 AI 활용 정책 및 사용 가이드라인 체계 구축 필요

생성형 AI를 조직 내에서 안전하게 사용하기 위해 윤두식 대표는 구체적인 정책과 가이드라인을 제안했다. 먼저 생성형 AI 시스템의 사용을 검토하고 승인할 수 있는 체계를 구축해야 한다고 설명했다. 또한 AI 사용 중 발생할 수 있는 문제를 보고할 수 있는 경로를 설정하고, 프롬프트나 데이터 관리에 대한 명확한 정책을 수립해야 한다고 강조했다. "민감한 데이터를 보호하기 위해 생성형 AI를 사용하기 전과 사용하는 동안 적용 가능한 보안 조치와 거버넌스 조치를 마련해야 한다"고 강조했다.

◆보안강화 방안

윤 대표는 생성형 AI 사용 시 보안을 강화하기 위한 기술적 방안도 제시했다. 브라우저 확장 프로그램을 통해 민감한 정보를 입력하지 못하게 하거나, API를 사용해 중앙에서 AI 기능을 관리하는 방법 등을 소개했다. 또한 사용자와 관리자가 AI 시스템을 안전하게 사용할 수 있도록 하는 이로온앤컴퍼니의 'SAIFE X'와 같은 샌드박스 솔루션을 설명했다. 이러한 기술적 방안을 통해 조직 내에서 AI를 안전하게 사용할 수 있는 환경을 구축할 수 있다고 말했다.

MPIS 2024에서 윤두식 대표의 강연은 생성형 AI의 보안 이슈와 이를 해결하기 위한 다양한 방안을 제시하며 참석자들의 큰 호응을 얻었다.

보다 상세한 내용은 아래 영상을 참고하면 되고 강연자료는 데일리시큐 자료실에서 다운로드 가능하다.

이번 MPIS 2024는 보건복지부, 대한병원정보보안협회 등의 후원으로 개최됐다.

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★