2024-04-24 01:35 (수)
생성형AI 보안취약점 주의…계정 탈취와 정보 유출 위험
상태바
생성형AI 보안취약점 주의…계정 탈취와 정보 유출 위험
  • 길민권 기자
  • 승인 2024.03.18 01:07
이 기사를 공유합니다

최근 오픈AI 챗GPT의 타사 플러그인 내 취약점에 대한 공개로 인해 강화된 보안 조치와 선제적 방어 전략이 시급히 필요한 상황이다.

솔트랩 사이버 보안 연구원들은 위협 행위자가 계정 탈취와 정보 유출에 활용할 수 있는 일련의 중대한 취약점을 공개했다. 발견된 취약점 중에는 공격자가 사용자를 속여 무의식적으로 악성 플러그인을 설치하도록 유도하여 민감한 데이터에 무단으로 액세스할 수 있도록 하는 OAuth 워크플로우의 악용이 포함되어 있다. 이 취약점은 무단 플러그인 설치의 위험을 완화하기 위해 강력한 인증 메커니즘과 철저한 사용자 확인 프로세스가 중요하다는 것을 말해준다.

또한, 플러그인랩에서 제로 클릭 계정 탈취 취약점이 발견됨에 따라 타사 통합, 특히 깃허브와 같은 플랫폼의 보안 태세에 대한 우려가 커지고 있다. 위협 행위자는 이러한 취약점을 악용하여 조직 계정에 불법적으로 액세스하여 소스 코드 저장소 및 중요 인프라를 손상시킬 수 있다. 보안 담당자는 엄격한 액세스 제어 및 모니터링 메커니즘을 구현하여 의심스러운 활동을 즉시 탐지하고 완화해야 한다.

사이버 보안 연구원들은 OAuth 익스플로잇 외에도 ChatGPT 플러그인 내에서 OAuth 리디렉션 조작 및 크로스 사이트 스크립팅(XSS)과 같은 취약점을 발견했다. 또한 사용자 인증정보를 피싱할 수 있는 맞춤형 GPT가 확산되고 있다. 악의적인 공격자는 이러한 맞춤형 모델을 악용해 사용자를 속이고 민감한 정보를 빼낼 수 있어 각별한 주의가 요구된다.

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★

■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★