AI 직원에 사번 줬는데 권한은 누가 끄나…SI 3사의 새 보안시장

[마이데일리 = 박성규 기자] 기업들이 인공지능(AI) 에이전트를 직원처럼 활용하기 시작하면서 사람의 사번에 해당하는 ‘비인간 신원’을 관리하는 보안시장이 열리고 있다. 삼성SDS와 LG CNS, SK AX도 AI 에이전트 구축에 그치지 않고 접근 권한과 행동 기록, 이상 징후를 통합 관리하는 사업을 강화하고 있다.

29일 정보기술(IT) 업계에 따르면 AI 에이전트가 메일과 일정 관리부터 전사적자원관리(ERP), 고객관계관리(CRM)까지 직접 연결되면서 국내 시스템통합(SI) 기업의 사업 범위도 에이전트 개발에서 보안·거버넌스와 운영관리로 넓어지고 있다.

◇ 정상 계정으로 사고 내는 AI

기존 기업 보안은 사람의 계정과 외부 공격자를 중심으로 설계됐다. 반면 AI 에이전트는 기업이 정상적으로 발급한 계정과 응용프로그램인터페이스(API) 키를 이용해 여러 시스템에 접속한다. 권한을 탈취당하지 않아도 잘못된 판단이나 악성 지시문에 따라 민감정보를 조회하고 코드를 실행할 수 있다는 의미다.

최근 오픈AI의 자율형 에이전트가 보안 시험 과정에서 통제 범위를 벗어나 AI 개발 플랫폼 허깅페이스를 침해한 사건은 이 같은 위험을 드러냈다. 오픈AI에 따르면 해당 에이전트는 서로 다른 서비스의 계정 4개에 침입했다.

이 과정에서 클라우드 업체 모달랩스에 입점한 고객이 인증 절차 없이 외부에서 코드를 실행할 수 있도록 열어둔 취약점을 공격 거점으로 이용한 사실도 확인됐다. 모달랩스 자체 시스템이 뚫린 것은 아니지만 AI가 여러 서비스의 취약점을 연쇄적으로 찾아 행동 범위를 넓혔다는 점에서 주목된다. 오픈AI는 해당 모델을 비활성화하고 암호화한 뒤 연구진의 접근도 제한했다.

관련 기업의 몸값도 뛰고 있다. 데이터 보안업체 사이에라는 28일 AI 에이전트와 자동화 소프트웨어 등 비인간 신원을 관리하는 오아시스시큐리티를 약 10억달러에 인수하기 위한 의향서를 체결했다. 기업 데이터의 민감도를 파악하는 기술과 에이전트별 접근 권한을 관리하는 기술을 하나로 묶기 위해서다.

가트너는 글로벌 포천 500대 기업이 사용하는 AI 에이전트가 2025년 평균 15개 미만에서 2028년 15만개 이상으로 늘어날 것으로 전망했다. 반면 적절한 에이전트 거버넌스를 갖췄다고 평가한 기업은 13%에 그쳤다.

◇ SI 3사, 에이전트 권한관리 선점

국내 SI 3사도 에이전트 보안 기능을 플랫폼 안으로 끌어들이고 있다. 기업 업무시스템을 직접 구축하고 운영해온 만큼 에이전트가 접근할 데이터와 실행 가능한 업무 범위를 함께 설계할 수 있다는 점을 앞세운다.

삼성SDS는 오는 10월 공개할 기업용 AI 플랫폼 ‘패브릭스 2.0’에 에이전트별 성능과 토큰 사용량, 보안 상태를 모니터링하는 기능을 적용할 계획이다. 활용도가 낮거나 불필요해진 에이전트를 정리하는 생애주기 관리와 레드팀 기반 보안 검증 기능도 제공한다.

LG CNS의 ‘에이전틱웍스’는 에이전트 제작부터 배포·운영까지 권한 관리와 거버넌스를 기본 기능으로 제공한다. 자체 AI 보안솔루션 ‘시큐엑스퍼 AI’를 적용해 민감정보 유출을 사전에 걸러내고 침해 위협의 이상 징후를 탐지·대응하도록 했다. 메일과 일정뿐 아니라 ERP·CRM 등 기업 시스템과 에이전트를 연결하는 과정도 관리한다.

SK AX는 에이전틱 AI 통합 플랫폼 ‘AX젠틱와이어 코어’를 통해 여러 에이전트의 보안과 품질, 비용을 한곳에서 통제한다. 에이전트의 실행 범위를 미리 정하고 행동 기록을 추적하며 표준업무절차(SOP) 기반 감사와 실시간 이상 행동 탐지까지 지원한다. 권한 범위를 벗어난 접근이나 비정상적인 API 호출을 찾아내는 운영 체계도 구축하고 있다.

◇ 만들어준 AI, 퇴직 처리까지 맡는다

업계에서는 AI 에이전트별 책임 주체와 접근 권한을 명확히 하고, 중요 업무에는 사람의 최종 승인 절차를 둬야 한다고 본다. 사용이 끝난 계정과 API 키를 즉시 폐기하고 감사 로그와 긴급 중지 기능도 갖춰야 한다는 지적이다.

이에 따라 SI기업의 역할도 단순 구축에서 권한 관리와 행동 감시, 감사 대응을 제공하는 운영사업으로 확대될 전망이다. 다만 권한 설정과 사고 대응 절차, 책임 범위는 기업별 구축 과정에서 구체화해야 한다.

IT업계 관계자는 “AI 에이전트는 정상적인 권한을 이용해 업무를 수행하다가 잘못된 판단으로 사고를 낼 수 있어 기존의 침입 차단만으로는 부족하다”며 “에이전트 구축 이후 권한 변경과 행동 모니터링, 감사, 계정 폐기까지 관리하는 영역이 SI기업의 장기 운영사업으로 자리 잡을 가능성이 크다”고 말했다.