OpenAI는 최근 널리 사용되는 챗GPT 모델에서 데이터 유출 취약점을 해결하기 위해 노력하고 있다.

이 취약점은 대화 내용을 유출할 수 있는 가능성이 있어 사용자 개인정보와 데이터 보안에 심각한 문제로 인식됐다. OpenAI는 완화 전략을 구현했지만, 이는 불완전한 해결책으로 보이며 특정 조건에서 악용될 수 있는 여지를 남겼다.

이 취약점은 2023년 4월, ChatGPT에서 데이터를 유출하는 기법이 발견되고 이를 OpenAI에 즉시 발표하면서 시작되었다. 그 후 2023년 11월, 이 취약성을 악용해 사용자에게 피싱 공격을 실행할 수 있는 악성 GPT를 만드는 방법에 대한 추가 정보도 공개됐다.

이 취약점의 핵심 문제는 이미지 마크다운 렌더링과 프롬프트 인젝션과 관련된 데이터 도난 메커니즘에 있다.

이 사실이 공개된 후, OpenAI는 안전하지 않은 URL에서 이미지가 렌더링되는 것을 방지하기 위해 유효성 검사 API를 통해 검사를 수행하는 클라이언트 측 수정 사항을 구현했다. 그러나 이 수정은 불완전한 것으로 보이며 그 효과에 대한 우려가 제기되고 있다.

ChatGPT는 오픈 소스가 아니기 때문에 검증 프로세스의 정확한 세부 사항을 알 수 없어 사용자와 연구자가 그 견고성을 평가하기 어렵다. 한편 iOS 모바일 앱에서는 아직 클라이언트 측 유효성 검사 호출이 구현되지 않아 데이터 유출 취약점에 그대로 노출되어 있다.

OpenAI가 이번 취약점 공개로 인해 어려움을 겪고 있는 가운데, 사용자와 광범위한 사이버 보안 커뮤니티는 AI 기반 언어 모델의 진화하는 환경을 탐색해야 하며, 이러한 기술의 개발과 배포에 있어 강력한 보안 조치가 중요하다는 점을 강조하고 있다.

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★