샌즈랩, AI가 변형한 악성코드의 '흔적'까지 찾는다…바이러스블러틴서 연구 성과 '주목'

[프라임경제] 인공지능(AI) 보안 전문 기업 샌즈랩(411080)이 14일부터 16일까지 스페인 세비야에서 열리는 국제 보안 컨퍼런스 '바이러스블러틴 2026(Virus Bulletin 2026)'에서 AI 기반 변종 악성코드 분석 연구 성과를 현지시간 14일 공개했다고 15일 밝혔다. 

샌즈랩은 생성형 AI로 변형된 악성코드에서 AI 모델별 코드 작성 흔적을 확인하고, 이를 변종 추적에 활용하기 위한 분석 근거를 확보했다.

 

'바이러스블러틴(이하 VB)'은 1991년 시작된 국제 보안 컨퍼런스로 악성코드 분석과 사이버 위협 인텔리전스(CTI) 분야에서 세계적으로 권위를 인정받는 행사다. 글로벌 보안 기업의 연구진과 위협 분석 전문가들이 최신 연구 결과와 대응 기법을 발표하고 토론한다. 

샌즈랩은 2023년과 2025년에 이어 올해도 이 무대에서 자체 연구 성과를 공개하며 글로벌 기술 교류를 이어갔다.

 

샌즈랩은 팔로알토네트웍스(Palo Alto Networks), 포티넷(Fortinet)을 비롯한 유수의 글로벌 보안 기업들이 참여하는 '사이버 위협 연합(Cyber Threat Alliance, CTA)'의 회원사다. 

CTA 활동을 통해 위협 정보를 공유하는 동시에 매년 VB 현장에서 회원사와 해외 연구진을 직접 만나 최신 위협 동향과 분석 기술을 논의하는 교류를 이어오고 있다. VB와 CTA는 위협 인텔리전스 전문가를 위한 행사인 TIPS(Threat Intelligence Practitioners Summit)도 공동 개최하고 있다.

 

샌즈랩의 이번 연구는 VB2026 선정위원회의 심사를 거쳐 공식 발표 프로그램에 선정됐다. 전찬빈·임승범 선임연구원은 14일 오후 2시 그린룸(Green Room) 세션에서 'LLM 기반 변종 악성코드의 계보 추적: GHOST는 흔적을 남기는가?'를 주제로 공동 발표를 진행했다. 

두 연구원은 AI가 악성코드를 변형하는 과정에서 남기는 모델별 특징과 이를 변종 추적에 활용하는 분석 접근법을 해외 보안 전문가들에게 소개했다.

이번 연구는 생성형 AI가 악성코드의 자동 변형과 변종 대량 생성에 악용될 수 있다는 문제에서 출발했다. 대규모 언어모델(LLM)이 악성코드의 기능을 유지한 채 내부 구조와 코드 작성 방식을 반복적으로 바꾸면 기존 코드 패턴과 유사성에 의존하는 분석만으로는 변종 간 연관성을 파악하기 어려워질 수 있다.

 

따라서 공격자가 이러한 방식을 악용할 경우 새로운 변종을 대량으로 만들어낼 가능성이 높다는 점에 주목한 샌즈랩 연구팀은 이러한 위협을 분석하기 위해 'GHOST(Generative Heuristic Obfuscation & Semantic Transformation, 생성형 휴리스틱 난독화 및 의미 변환)'를 자체 개발했다. 

GHOST는 LLM을 활용해 악성코드의 구조와 표현을 자동으로 변형하는 연구용 프레임워크다.

 

연구팀은 이를 활용해 5개 악성코드 계열과 2종의 LLM을 대상으로 총 50회의 통제된 실험을 진행하고, 변형된 실행파일을 함수 단위로 비교·분석했다. 그 결과 코드가 바뀌어도 함수 구조와 데이터 처리 방식에 모델별로 반복되는 특징이 남을 수 있음을 확인했다. 

이를 바탕으로 변종 간 연관성을 추적하고 추가 분석이 필요한 샘플과 함수를 좁히는 접근법을 제시했다.

 

이번 연구 성과는 샌즈랩이 축적해 온 악성코드 계보 분석 역량을 AI가 생성·변형한 위협의 분석으로 확장했다는 점에서 의미가 있다. 지난해 VB에서 LLM을 활용한 악성코드 계보 추적 연구를 발표한 데 이어 올해는 AI 모델의 코드 변형 특성까지 분석 기준에 포함했다.

 

현지에서 발표를 마친 전찬빈 샌즈랩 선임연구원은 "연구 중인 기술을 해외 전문가들에게 직접 선보이고 질문과 피드백을 받는 것은 기술의 실효성과 한계를 점검하는 중요한 과정"이라며 "VB에서 이어온 교류를 바탕으로 실제 위협 분석 현장에 필요한 기술을 검증하고 발전시켜 나가겠다"고 말했다.

함께 발표한 임승범 샌즈랩 선임연구원은 "한국의 AI 보안 연구 성과를 글로벌 무대에 소개하고 세계 각국의 전문가들과 논의할 수 있어 자부심을 느낀다"며 "우리가 개발하는 기술이 AI를 악용한 새로운 위협에 대응하고 AI 시대의 보안 기술 고도화에 실질적인 기반이 되길 기대한다"고 소감을 전했다.