국산 AI·NPU·포털 결합…업스테이지·퓨리오사·다음, 'AI 오버뷰' 첫 상용화

[포인트경제] 국내 기술로 개발된 고성능 생성형 AI 모델과 국산 반도체를 결합한 포털 검색 서비스가 상용화된다.

업스테이지, 퓨리오사AI, 에이엑스지(다음) 3사는 공동 온라인 간담회 통해 업스테이지의 인공지능(AI) 언어모델 '솔라(Solar)'와 퓨리오사AI의 2세대 추론용 반도체 '레니게이드(Renegade)'를 적용한 검색 서비스 'AI 오버뷰(Overview)'를 포털 다음에 적용한다고 15일 밝혔다.

그동안 막대한 인프라 비용과 공급망 병목 현상을 유발하던 글로벌 빅테크의 GPU(그래픽처리장치) 의존도를 낮추고, '국산 소프트웨어·국산 하드웨어·플랫폼'을 연계한 대규모 서비스 모델을 완성했다는 점에서 업계의 주목을 받고 있다.

△ 24개 칩으로 '하루 5억 토큰' 실시간 처리…비용은 절반으로

이번 상용화의 핵심은 기술적 독립과 가성비다. 현재 다음 검색 전체 질의 규모의 약 20%에 적용된 'AI 오버뷰'는 사용자가 검색어를 입력하면 AI가 실시간으로 최신 문서를 찾아 요약해 주는 서비스다. 현재 이 서비스에는 퓨리오사AI의 '레니게이드' 칩 24개(서버 3개 노드)가 투입돼 하루 평균 5억 개의 토큰을 안정적으로 실시간 처리하고 있다.

백준호 퓨리오사AI 대표는 "하드웨어 실리콘 설계부터 소프트웨어 스택까지 유기적으로 결합하여 독자적인 패러다임으로 설계했다"며 "그 결과 엔비디아의 최고 사양 가속기인 H200과 대등한 수준의 실시간 서빙 속도를 구현하면서도, 토큰 처리 비용(TCO)은 기존 GPU 대비 최소 1.5배에서 최대 2배(비용의 절반 이상)까지 획기적으로 절감하는 데 성공했다"고 강조했다.

실제 서비스를 운영하는 이건수 다음(AXZ) CEO는 "실시간 정보 검색에서 가장 치명적인 환각 현상(Hallucination)을 제어하기 위해 프롬프트 엔지니어링을 매우 강도 높게 적용했다"며, 기존의 키워드 검색과 벡터 검색을 조합한 '하이브리드 서치' 방식을 완성해 가장 정확하고 신뢰도 높은 최신 정보를 전달하고 있다고 설명했다.

△ 1인 1 에이전트 시대 예고…"연말까지 NPU 1만 장 공급 가능"

세 회사는 이번 상용화를 시작으로 본격적인 AI 서비스 고도화와 글로벌 인프라 확장에 속도를 낸다.

다음은 현재 20% 수준인 AI 오버뷰의 노출 비중을 절반 이상으로 확대하는 한편, 쇼핑·맛집·포토 등 버티컬 영역으로의 서비스 확장을 추진한다. 나아가 포털 이용자 모두에게 고유의 AI 비서를 제공하는 '1인 1 에이전트' 시대를 열겠다는 포부다.

김성훈 업스테이지 대표는 "솔라는 작으면서도 고성능을 내며 한국어 요약에 압도적인 강점을 가진 프론티어 모델"이라며 "다음(Daum)과의 협업을 바탕으로 현재 하루 30B(300억) 토큰 수준의 처리량을 올해 300B 토큰까지 확장할 계획"이라고 말했다.

소프트웨어 가속화에 힘을 얻은 업스테이지 측은 향후 텍스트 요약을 넘어 '임베딩 모델'까지 국산 NPU에 얹기 위한 대규모 인프라 공급 가능 여부를 타진했고, 이에 백 대표는 "레니게이드 칩은 현재 성공적으로 대량 양산 중이며, 연말까지 1만 장 규모의 공급 요청에도 충분히 대응할 수 있다"고 답했다.

△ "비용 50% 절감 가능…국산 반도체 생태계 확장에 동참해 주길"

3사 대표들은 글로벌 빅테크 기업들과의 전방위적인 AI 전쟁에서 승리하기 위해 국내 기업과 개발자들의 적극적인 참여와 지지가 필요하다고 입을 모았다.

백 대표는 "오픈소스나 솔라 모델을 활용해 AI 전환(AX) 작업을 진행 중인 국내 기업과 개발자분들이 국산 NPU를 도입한다면 비용을 절반 수준으로 줄이면서 안정적인 공급망을 확보할 수 있을 것"이라며 국산 반도체 생태계 확장에 적극적으로 동참해 줄 것을 당부했다.