[금융권 해킹 사태②] ‘팀플’하는 AI, 해킹 공식을 바꿨다

시사위크=박설민 기자  대규모 금융권 해킹 사태에 전국이 혼란스럽다. 국내 주요 은행에서 해킹에 따른 정보 유출 피해가 잇따라 확인되면서다. 이후 저축은행과 캐피털사까지 피해가 확인되면서 전 국민적 불안감은 커지고 있다. 현재 일부 보험사에서도 유사한 공격 시도까지 포착된 상태다.

그간 대규모 해킹 공격은 자주 발생한 일이다. 하지만 이번 사태가 더 충격적인 것은 ‘인공지능(AI)’을 이용한 국가적 사이버 공격이라는 점이다. AI가 사이버 보안의 가장 위험한 존재가 될 수 있다던 전문가들의 경고가 현실화된 것이다. 이에 해킹을 비롯, AI 관련 보안 문제에 대한 대책 마련이 시급하다는 목소리도 커지고 있다.

◇ 팀을 이룬 ‘AI해커들’, 금융권 보안 취약점 뚫었다

이번 사건의 특징은 국내 주요 은행에 동시다발적으로 발생한 사이버 공격사태라는 점이다. 6일 금융당국에 따르면 지난 9월 28일부터 10월 3일까지 △신한은행 △KB국민은행 △하나은행 △BNK부산은행 △NH농협 △우리은행 등 주요 은행사 6개사 등이 공격을 받았다. 이 중 NH농협·우리은행은 개인정보유출로 피해가 번지진 않았다.

그동안 은행에 대한 해킹 시도 및 사이버 공격은 자주 발생했다. 하지만 이번처럼 동시다발적으로 대형은행을 목표로 삼은 공격 시도는 드물었다. 이것이 가능해진 것은 AI기술의 악용 때문이다. 특히 AI 에이전트가 취약점 탐색과 공격, 결과 분석과 재시도를 자동화하면서 과거보다 훨씬 짧은 시간에 여러 금융사를 동시에 겨냥하는 대규모 공격이 가능해졌다.

전문가들은 이번 해킹에 사용된 AI를 ‘ARTEX AI’로 추정한다. 이는 중국어 기반 자율 침투 AI도구다. 글로벌 공동 소프트웨어 협업 플랫폼 ‘깃허브(GitHub)’에 지난 7월 26일 닉네임 ‘Autumn-27’라는 개발자가 오픈소스 형태로 공개했다. 해당 프로젝트는 바이두의 ‘Agent+’ 공방 챌린지에서 우승하기도 했다.

깃허브에 올라온 개발자의 설명에 따르면 ARTEX는 일종의 ‘AI해커팀’이라고 볼 수 있다. 단일 개체가 하나의 공격을 진행하는 방식이 아닌, 여러 LLM과 보안도구를 묶어서 실제 공격 절차를 가동하는 방식에 가깝다. 공식 설명에서도 개발자는 ARTEX를 ‘LLM 멀티에이전트 기반 자율 침투 시스템’으로 소개한다.

실제로 ARTEX의 공격 방식은 실제 해커 범죄 조직의 운영과 유사하다. 먼저 전체 공격 방향을 결정은 ‘플래너(Planner)’ 알고리즘이 맡는다. 플래너는 해커 조직의 ‘전략 참모’ 역할이다. 공격 목표와 현재까지 확보한 정보를 토대로 다음에 어떤 취약점을 시험할지 정한다.

취약점을 찾은 후, 공격 계획을 짠 플래너는 각각의 ‘워커(Worker)’, 즉, 실제 공격 AI에 작업을 분배한다. 워커들은 실제 HTTP 요청, 명령어 실행 등 침투 작업을 수행한다. 그 다음, 이 결과를 시스템에 다시 공유한다. 이렇게 얻은 정보로 플래너는 ‘계획→실행→결과 분석→재계획’ 과정을 반복하면서 강력한 해킹 능력을 얻게 되는 것이다.

특히 ARTEX는 공격 대상 정보를 저장하는 ‘자산 그래프(Asset Graph)’, 공격 과정에서 발견한 사실·취약점·시도 기록을 저장하는 ‘탐색 그래프(Exploration Graph)’를 함께 사용한다. 이를 통해 워커가 발견한 보안상 취약점, 숨겨진 매개변수는 또다른 워커들에게 실시간 공유돼 말 그대로 ‘AI해킹 팀플레이’가 이뤄지게 되는 것이다.

◇ 연초부터 쏟아졌던 ‘AI해커팀’ 연구들… ‘제로데이’ 공격에 특화

사실 AI기반 사이버 공격에 대한 우려는 이미 학계서 지목되고 있었던 문제다. 특히, ARTEX와 유사한 ‘AI 해킹팀’ 개념은 앞서 학계에서도 연구됐다. 미국 일리노이대 어배너-섐페인(UIUC) 연구진이 올해 초 발표한 연구다. 

해당 연구는 이미 지난 3월 모로코 라바트에서 열린 ‘제19회 EACL(European Chapter of the Association for Computational Linguistics)’서 정식 발표됐다. 이 학회는 국제 주요 자연어처리·계산언어학 분야다.

연구팀은 기존 LLM 해킹 에이전트가 가진 한계점을 연구하던 중, 새로운 가설을 세웠다. ‘한 AI에게 다 시키지 말고 사람 해킹팀처럼 역할을 나누자’는 내용이다. 기존 AI 하나가 웹사이트 탐색, 공격계획, 실행까지 모두 맡는 방식에서 발생하는 병목 등 문제를 보완하기 위함이다. 최근 우리 금융권을 공격했을 것으로 추정되는 ARTEX와 매우 유사한 알고리즘이다. 

이 가설 하에 제작된 AI해킹 시스템은 ‘HPTSA(Hierarchical Planning and Task-Specific Agents)’다. ARTEX와 유사하게 플래너가 공격 대상 시스템을 탐색한 후, 어떤 공격이 필요한지 판단한다. 그 다음, SQLi·XSS·CSRF라 불리는 전문 공격 AI시스템인 ‘Sub-agent’을 호출해 공격한 다음, 결과를 받아 다음 작업을 결정하는 방식이다.

특히, 효과적인 공격을 보인 부분은 ‘제로데이(Zero-day)’다. 제로데이란 소프트웨어 개발자나 보안업체, 제조사가 시스템 보안의 취약점 존재를 아직 모르거나 이를 해결할 방법을 공식적으로 발표하기 전, 해커가 약점을 공격하는 것이다.

연구진은 사전에 알 수 없는 실제 웹 취약점 14개를 만들어 제로데이 공격 상황을 재현했다. 그 결과, AI팀은 취약점 종류나 위치를 알려주지 않은 상태에서 ‘GPT-4’ 기반 HPTSA는 한 번의 공격 실행에서 18% 확률로 취약점을 찾아냈다. 이후 5번 정도 공격을 시도하자 42%까지 성공률이 기하급수적으로 증가했다.

해당 시스템은 기존 AI해킹 시스템과 비교해선 한 번 실행 기준 4.3배, 5회 반복 기준 2배 성공률이 높았다. 이후 연구진이 AI 간 계층적 협업 구조를 제거하자 성능은 최대 13분의 1 수준으로 떨어졌다. 즉, AI들의 ‘협업’이 보안에 있어 굉장히 큰 위협이 될 수 있다는 방증이다.

일리노이대 연구진은 “이번 연구에서 우리가 제작한 LLM 에이전트팀이 제로데이 취약점을 자율적으로 악용할 수 있음을 입증했다”며 “이러한 결과는 사이버 보안 분야의 공격 및 방어 활동 속도가 모두 가속화될 것임을 시사한다”고 설명했다.

이어 “이제 악의적인 공격자는 AI에이전트를 활용해 웹사이트를 해킹할 수 있게 됐다”며 “AI가 향후 사이버 보안의 공격과 벙어 중 어느 쪽에 더 큰 기여를 할지는 아직 불확실한 만큼 꾸준한 연구가 이뤄져야 할 것”이라고 경고했다.

◇ 국감서도 쏟아진 질타, “인력·예산·대책 모두 재정비해야”

결국 국제 주요 학회에서 이미 나온 개념에도 불구, 우리 금융당국이 이번 공격을 제대로 막지 못한 것에 대한 비판은 당분간 지속될 전망이다. 실제로 6일 국회에서 열린 과학기술정보방송통신위원회(과방위) 과학기술정보통신부 국정감사에서도 이와 관련한 의원들의 질타가 쏟아졌다.

과방위 야당 간사인 최형두 국민의힘 의원은 “최근 금융권 해킹 사태는 사이버 보안을 책임지는 총괄 부서인 과기정통부에도 역할이 있다”며 “단순히 금융위 소관이라고 해선 안된다”고 지적했다.

그러면서 “지난해 범부처 정보보호 종합대책에서 없애겠다던 부처 간 칸막이가 지금도 남아 있다”며 “AI해킹 시대, 소관을 핑계로 주무부처들이 손을 놓는다면 스스로 자격을 포기하는 꼴”이라고 비판했다.

AI해킹 대비 인재 부족 문제에 대한 지적도 나왔다. 6일 노혜령 진보당 대변인에 따르면 정부는 지난 5월 한국인터넷진흥원(KISA) ‘취약점관리센터’를 출범시켰다. 하지만 당초 40명 규모로 계획했던 센터의 현재 전담인력은 13명에 불과한 상황이다. ISA가 내년도 20명 증원을 요구했지만 정부안에는 한 명도 반영되지 않았다.

노혜령 진보당 대변인 역시 6일 “AI를 활용한 사이버 공격이 현실의 위협으로 나타나고 있는 상황”이라며 “신한은행을 비롯한 4개 은행과 제2금융권 3곳이 피해를 입었다. 망분리를 주요 보안 수단으로 삼아온 은행마저 해킹으로부터 자유롭지 못하다”고 밝혔다.

이어 “정부는 위협을 몰랐던 것도, 대응 필요성을 몰랐던 것도 아님에도 국가의 취약점 대응을 맡은 기관에는 필요한 인력과 예산을 충분히 지원하지 않았다”며 “전문인력과 AI 기반 취약점 탐지·분석·대응 예산의 확충과 KISA와 금융당국, 금융회사 간 취약점·위협정보 공동 대응체계도 강화해야 한다”고 조언했다.

‘시사위크’와 인터뷰한 전문가들은 국내 사이버 보안 체계 전반을 손봐야 한다고 입을 모았다. 가장 핵심 보안 문제엔 예산과 기술을 쏟지만 정작 ‘쪽문’이라 불리는 작은 취약점엔 둔감하다는 지적이다. 또한 AI를 이용한 사이버 보안 자체를 강화, ‘이이제이(以夷制夷)’의 형태로 AI해킹에 대응해야 한다는 목소리도 커지고 있다.

김창익 KAIST 전기및전자공학부 교수 및 안보과학기술대학원장은 “이번 사건은 정문은 철통처럼 지키면서 공급망 및 서드파티 취약점 등 쪽문은 거의 방치되다시피한 것이 주 원인으로 꼽힌다”며 “모든 외곽 업무망과 파트너사 시스템에도 본점 메인망 수준의 엄격한 제로 트러스트(Zero Trust) 접근 제어와 다중인증(MFA)을 통합 적용해야 한다”고 말했다.

김수현 경희대 소프트웨어융합대학 컴퓨터공학부 교수는 “향후 AI를 활용해 보안을 뚫으려는 범죄 시도가 점점 많아질 것으로 보인다”며 “역으로 AI가 공격을 한다면 우리는 대비하는데 AI모델을 활용, 실제 보안 시스템의 취약점을 찾아 개선하는 것이 필요하다고 생각한다”고 조언했다.