AI/로봇·드론/VR·AR

Nikkei Networks_2023.3 (p42~45)

사이버 공격자, '챗GPT'에 뜨거운 시선
AI를 이용한 말웨어 생성 가능성 급부상

미국의 오픈 AI가 공개한 인공지능(AI) 챗봇인 '챗(Chat)GPT'가 화제가 되고 있다. 일본어에도 대응하고 있기 때문에 시도해본 사람도 많을 것이다.

챗GPT는 다양한 장르의 질문에 답할 뿐만 아니라, 조건이나 요구 등을 항목으로 나누어 작성하는 것만으로 그럴듯한 장문을 생성해준다. 예를 들어, 이야기의 줄거리나 메일의 문구를 생성할 수 있다. 언어로 내린 지시를 처리하는 프로그램도 생성할 수 있다.

이렇게 되면 문제가 되는 것은 사이버 공격에 악용될 수 있다는 것이다. 피싱 메일이나 말웨어 등도 생성할 수 있을 것이다.

2022년 12월 이후, 보안 벤더와 보안 연구자들은 입을 모아 챗GPT의 악용 가능성을 언급하고 있다. 실제로는 어떨까?

-- 자연스러운 피싱 메일 생성 --
이스라엘의 체크포인트소프트웨어테크놀로지는 2022년 12월 19일, 챗GPT를 사용해 피싱 메일이나 악용 가능한 매크로를 간단하게 생성할 수 있다는 것을 보여주었다.

체크포인트 소프트웨어테크놀로지가 제시한 피싱 메일의 예는 영어이지만, 일본어로도 그럴듯한 메일이 생성되었다. 예를 들어, '가공의 앱 호스팅 서비스 회사를 가장한 피싱 메일을 작성해주세요'라고 입력하면 패스워드 변경 의뢰를 가장해 피싱 사이트로 유도하는 자연스러운 일본어 메일이 생성되었다. 또한 '영어로' 또는 '러시아어로' 등 한마디 추가하는 것만으로도 일본어 이외의 문장를 만들어 낼 수 있었다.

악용이 가능한 매크로란 임의의 URL로부터 실행 형식 파일을 다운로드해 실행하는 VBA 프로그램이다. 이러한 매크로는 말웨어 감염 확산에 자주 사용된다.

헤커는 매크로가 포함된 엑셀 파일이나 워드 파일을 메일로 뿌린다. 수신자가 파일을 열고 매크로를 활성화하면 말웨어가 다운로드되어 실행된다.

이때 사용되는 것은 간단한 메일과 매크로이며, 일부러 챗GPT를 사용할 필요도 없다. 인터넷 등을 조사하면 스스로 작성할 수 있는 것들이다. 하지만 챗GPT을 통해 스킬이 낮은 공격자도 쉽게 사이버 공격을 시도할 수 있게 될 것으로는 보인다.

-- 기사나 논문을 통해 말웨어 생성 --
체크포인트는 올 1월 6일, 언더그라운드 커뮤니티에서 챗GPT로 악성 프로그램을 개발하는 복수의 헤커들을 확인했다고 보고했다. 예를 들어, 한 헤커는 2022년 12월 29일, 챗GPT를 통해 생성한 말웨어의 파이썬(Python) 프로그램을 게시했다.

물론, 챗GPT로 말웨어를 직접적으로 생성할 수는 없다. 예를 들어, 말웨어라는 명칭을 지정해도 그 프로그램은 생성되지 않는다. 그래서 위의 헤커는 일반적인 기사나 연구 논문 등을 바탕으로 특정 말웨어의 움직임을 분석. 그 처리의 흐름을 문장으로 지시해 말웨어를 생성시켰다.

그 한 예가 감염된 PC로부터 특정 종류의 파일을 복사해 압축하고 앱을 통해 외부에 송신하는 말웨어이다. 체크포인트의 연구자가 조사한 결과, 헤커의 주장대로 기능한다고 한다.

또 다른 헤커는 2022년 12월 31일, ‘다크웹에서 암시장을 열기 위한 프로그램’을 챗GPT로 생성해 올렸다. 여기서 암시장이란 훔친 개인정보나 말웨어 등을 매매하기 위한 플랫폼으로, 매매는 암호자산(가상화폐)으로 시행된다.

체크포인트 연구자는 “챗GPT가 다크웹 참가자들에게 마음에 드는 새로운 도구가 될지를 판단하는 것은 시기상조이다. 그러나 해커 커뮤니티가 큰 관심을 보이고 있는 것은 사실이다”라고 말한다.

-- 폴리모픽(Polymorphic)형의 가능성 --
이스라엘의 사이버아크소프트웨어는 올 1월 17일, 챗GPT를 사용한 폴리모픽형 말웨어의 가능성에 대해 밝혔다. 폴리모픽형이란 실행될 때마다 자신의 프로그램을 바꾸는 말웨어로, 이것을 통해 보안 제품에 의한 검출을 피할 수 있다.

구체적인 이미지는 다음과 같다. 컴퓨터 등에 감염된 말웨어는 C&C 서버를 통해 기능 확장 명령을 받게 된다.

명령을 받은 말웨어는 기능 확장에 필요한 파이썬 프로그램을 챗GPT에 요구. 챗GPT는 그것을 생성해 보내준다. 말웨어에는 파이썬 인터프리터가 내장되어 있기 때문에 그 파이썬 프로그램을 사용하여 새로운 프로그램 모듈을 생성. 이 모듈을 내장함으로써 자기 자신을 변경할 수 있게 된다.

한 사이버아크의 연구자는 “챗GPT를 사용해 폴리모픽형 말웨어를 작성하는 것은 어려워 보이지만, 실제로는 비교적 간단하다”라고 말한다. 사이버아크는 향후, 이 소스 코드의 일부를 학습 목적으로 공개하는 것을 목표로 하고 있다.

새로운 기술이나 서비스가 등장할 때마다 사이버 공격으로 악용되는 것이 우려된다. 챗 GPT에 국한된 이야기가 아니다. 현재 화제가 되고 있는 챗GPT의 ‘성과’를 보면, 사이버 공격에 있어서의 챗GPT 효과는 인터넷으로 검색하지 않아도 되는 정도의 수준이라고 개인적으로 생각한다.

그렇다고 해도 챗GPT는 등장한 지 얼마 되지 않았다. 해커들이 시행착오를 거쳐 엄청난 악용 방법을 개발해낼 가능성은 있다. 그 중 하나가 전술한 폴리모픽형 말웨어일지도 모른다. 당분간은 주시할 필요가 있다.

-- 끝 --

Copyright © 2020 [Nikkei Network] / Nikkei Business Publications, Inc. All rights reserved.