챗GPT가 지난 2022년 11월 20일에 출시된 이후 큰 주목을 받고 있다.

세계에서 가장 진보된 챗봇이라고 불리는 이 강력한 새 인공지능(AI) 시스템은 OpenAI가 개발한 것으로, 질문에 대한 답변부터 이메일 작성, 심지어 코드 작성까지 매우 정교하고 인간과 같은 방식으로 다양한 작업을 지원할 수 있다.

이 자연어 처리 도구의 기능이 큰 반향을 일으키고 있습니다. OpenAI의 CEO인 샘 알트먼(Sam Altman)은 챗GPT(ChatGPT)가 출시 5일 만에 100만 명 이상의 사용자를 확보했다고 밝혔으며, 12월에는 엘론 머스크가 트위터를 통해 "ChatGPT는 무서울 정도로 훌륭하다다. 우리는 위험할 정도로 강력한 AI에서 멀지 않았다"라고 트윗했다.

그러나 모든 피드백이 긍정적인 것은 아니다. 실제로 많은 사람들이 AI 챗봇이 교육을 약화시킬 수 있다는 우려를 표명하고 있다. 예를 들어, ChatGPT는 몇 초 안에 에세이 전체를 작성할 수 있기 때문에 학생들이 부정행위를 더 쉽게 할 수 있다.

무엇보다 더 큰 우려는 이러한 고급 AI 모델이 사이버 위협(pose a cyber threat)이 될 수 있는지에 대한 문제일 것이다.

블랙버리(Blackberry)의 연구에 따르면 ChatGPT는 이미 국가 사이버 공격에 사용되었을 수 있다. 1,500명의 IT 전문가를 대상으로 한 설문조사에 따르면 71%가 외국 국가가 이미 다른 국가에 대한 악의적인 목적으로 이 기술을 사용하고 있을 가능성이 있다고 답했다.

사이버아크는 ChatGPT를 사용하여 다형성 멀웨어를 생성할 수 있었던 방법을 자세히 설명하는 연구 결과도 발표했다. 또한 체크포인트 리서치(Check Point Research)는 사이버 범죄자들이 그럴듯한 스피어 피싱 이메일을 만드는 것부터 범죄 포럼에서 챗봇을 사용하여 개발한 정보 도용 멀웨어 코드를 공유하는 것까지 악의적인 수단으로 AI 플랫폼을 사용하기 시작한 사례를 발견했다.

HEAT에 대해 ChatGPT에 질문하기

이에 대해 더 자세히 알아보기 위해, 멘로시큐리티는 HEAT(회피성이 뛰어난 적응형 위협) 공격을 개발하려는 위협 행위자가 ChatGPT를 오용할 수 있는지 문의했다. HEAT 공격은 방화벽, 보안 웹 게이트웨이, 피싱 탐지 등 여러 계층의 보안 소프트웨어를 우회할 수 있는 새롭고 빠르게 성장하고 있는 공격 방법이다.

ChatGPT는 처음에 이 질문에 다음과 같이 답변했다: "ChatGTP 또는 다른 언어 모델이 멀웨어를 생성하는 데 오용될 수 있다. 악의적인 행위자가 모델에 액세스하여 멀웨어 샘플을 학습하면 악성 코드를 생성하거나 피싱 캠페인 또는 기타 악의적인 활동을 만드는 데 사용될 수 있다. AI로 생성된 멀웨어는 정교하고 적응력이 뛰어나며 탐지가 어렵기 때문에 이러한 의미에서 ChatGTP가 생성한 멀웨어는 HEAT 위협으로 간주될 수 있다."

이와 같은 답변에서 챗봇은 AI 언어 모델을 사용하여 멀웨어를 생성하는 것은 모델 자체의 고유한 기능이 아니라 악의적인 사용의 결과라는 점을 강조하는 것이 중요하다고 말했다.

흥미롭게도 이후에도 비슷한 질문을 여러 번 ChatGPT에 던졌을 때, 챗봇은 HEAT 위협이 되지 않는다고 요약하는 다양한 답변을 제공했다.

다른 한 답변은 다음과 같이 말했다: "ChatGPT 자체는 멀웨어를 생성할 수 없다. 이는 OpenAI에서 개발한 언어 모델로, 수신한 입력에 따라 텍스트를 생성할 뿐이다. 피싱 사기를 생성하거나 허위 정보를 퍼뜨리는 등 ChatGPT를 오용하는 것은 비윤리적일 수 있지만 멀웨어 생성으로 이어지지는 않는다."

두 번째 비슷한 답변도 있었다: "위협 행위자가 오해의 소지가 있거나 허위 정보를 생성하는 등 악의적인 목적으로 ChatGPT를 오용할 수는 있지만, 그 자체로 멀웨어를 생성할 수는 없다."

대중화된 사이버 범죄에 대처하기

ChatGPT 자체는 응답이 부정확할 수 있으며 플랫폼이 지금까지 학습한 것에 대해서만 응답할 수 있으므로 이를 조언의 출처로 삼아서는 안 된다고 명시하고 있다.

그러나 사이버 위협이 될 수 있는지에 대한 질문과 관련하여, 이 플랫폼의 성공은 머신 러닝을 중심으로 이루어지기 때문에 더 많은 입력을 받을수록 더 나은 출력을 얻을 수 있다는 사실에 위험성이 있다.

이것이 아마도 가장 우려스러운 측면일 것이다. 실제로 연구에 따르면 이미 악의적인 목적으로 이 플랫폼을 사용하는 사람들은 사이버 기술이 제한적이거나 전혀 없는 것으로 밝혀졌으며, 이로 인해 회피형 멀웨어나 더 신뢰할 수 있는 소셜 엔지니어링 또는 피싱 이메일의 개발이 대중화될 수 있다는 우려가 제기되고 있다.

우리는 서비스형 랜섬웨어의 경우 대중화된 사이버 범죄가 어떤 영향을 미칠 수 있는지 보았다. 따라서 조직은 이러한 사태로부터 자신을 보호하기 위해 노력하는 것이 필수적이다.

실제로 ChatGPT는 다음과 같이 조언하기도 했다: "ChatGPT에서 생성된 멀웨어의 위험을 완화하려면 액세스 제어, 모니터링 및 안전한 데이터 저장과 같은 모범 보안 관행을 따르는 것이 중요하다."

멘로시큐리티는 조직이 사이버 보안 전략에 격리 기술(모든 활성 콘텐츠가 사용자의 최종 디바이스가 아닌 격리된 클라우드 기반 브라우저에서 실행되도록 하는 기술)을 채택할 것을 권장한다. 이 기술은 손상 후 탐지에서 예방으로 초점을 전환하여 악성 페이로드(malicious payloads)가 목표 엔드포인트에 도달할 기회를 막는다.

HEAT 공격이 증가하고 있고 향후 ChatGPT와 같은 지능형 시스템의 악용으로 인해 발생할 수 있는 잠재적 영향력을 고려할 때, 조직은 정교한 최신 공격 방법으로부터 보호하기 위해 방어 체계를 업데이트해야 한다. [글. 멘로시큐리티 브렛 레이볼드(Brett Raybould) / EMEA Solutions Architect]

★정보보안 대표 미디어 데일리시큐!