KT, 국산 NPU·LLM 통합 '기업용 소버린 AI 어플라이언스' 출시

[포인트경제] KT가 국산 AI 반도체와 독자 언어모델(LLM)을 단일 서버에 통합한 기업용 소버린 AI 일체형 장치(어플라이언스)를 선보이며 규제 산업의 AI 전환(AX) 지원에 나섰다.

19일 공개된 'KT NPU LLM Station'은 국내 AI 반도체 기업 리벨리온의 추론 특화 NPU 'ATOM-MAX'에 KT의 독자 LLM '믿음 K 2.5 Pro'와 운영 API 플랫폼을 하나로 묶은 제품이다. 반도체부터 모델, 운영 체계에 이르는 핵심 요소 전체를 순수 국내 기술로 완성해 정부의 소버린 AI 정책을 기업 현장에서 즉각 구현할 수 있도록 했다.

폐쇄망 내부 구축으로 보안 격상…공공·금융·국방 AX 촉매제

이번 제품의 최대 강점은 강력한 보안 체계다. 장비 자체가 고객사 내부에 직접 설치되어 모든 데이터 처리와 연산 과정이 사내망 안에서만 이뤄진다. 그동안 엄격한 망분리 규제와 보안 우려 때문에 외산 생성형 AI 도입에 난항을 겪었던 공공, 국방, 제약, 금융, 제조 분야 기관 및 기업들의 보안 고민을 해결할 방안이 될 전망이다.

초기 도입 문턱도 획기적으로 낮췄다. 하드웨어와 소프트웨어가 결합된 완전체 형태로 공급되어 별도의 복잡한 구축 과정 없이 설치 당일부터 사내 문서 기반 질의응답(RAG) 등의 기능을 활용할 수 있다.

NPU 기반 특유의 높은 전력 효율성을 갖춘 데다 표준 API를 지원해, 기존 사용 중이던 AI 서비스의 접속 정보만 변경하면 추가 코드 수정 없이 곧바로 호환된다.

업무 에이전트 순차 탑재 및 엣지 데이터센터 적용 확대

KT는 향후 회의록 작성, 코딩 지원, 업무 자동화 에이전트 'K-Claw(가칭)' 등 자체 개발한 에이전트를 순차적으로 적용하고 전문 개발사들과 손잡고 맞춤형 구축 사업으로 영역을 넓힌다. 나아가 피지컬 AI 시대를 대비해 엣지 데이터센터(Edge DC)로 적용 범위를 넓혀 저전력·저지연 AI 인프라 구축에도 속도를 낸다.

이진형 KT AX사업본부장(상무)은 "이번 제품이 데이터 주권을 보호하면서 AI 전환을 추진하려는 기업과 기관에 실질적인 해결책이 될 것"이라며, "과학기술정보통신부의 '모두의 AI' 프로젝트 등에서도 국산 NPU를 활용해 국내 AI 생태계 강화에 기여하겠다"고 밝혔다.