UNIST 윤성환 교수팀, 양자 컴퓨팅 활용 ‘강인한 AI’ 학습 비용 80% 절감

[포인트경제] ​울산과학기술원(UNIST) 인공지능대학원 윤성환 교수팀이 양자 알고리즘을 도입해 인공지능(AI)의 환경 적응력을 높이는 ‘강인한 강화학습’의 학습 효율을 획기적으로 개선했다.

​윤 교수팀은 고려대학교 김중헌 교수팀과 함께 양자 기술을 활용해 기존 대비 계산 비용을 최대 5분의 1 수준으로 줄인 학습 기법 ‘QRIM(Quantum Robust Inner Minimization)’을 개발했다고 6일 밝혔다. 이번 연구는 세계 3대 AI 학회로 꼽히는 ‘국제머신러닝학회(ICML 2026)’에 채택되며 기술적 가치를 인정받았다.

​◆ 양자 중첩 원리로 ‘최악의 시나리오’ 탐색 시간 단축

​강화학습은 AI가 학습한 환경 외의 돌발 상황이 발생하면 성능이 급격히 저하되는 한계가 있다. 이를 해결하기 위해 훈련 과정에서 ‘최악의 상황’을 미리 대비하는 ‘강인한 강화학습’이 사용되지만, 방대한 경우의 수를 일일이 계산해야 하는 탓에 비용 부담이 컸다.

​연구팀은 이 문제를 양자 컴퓨팅의 ‘중첩’ 원리로 풀었다. QRIM은 다수의 시나리오를 동시에 처리하는 양자 특성을 활용해, 기존 방식보다 100배 적은 연산량만으로도 동일한 학습 결과를 도출한다. IBM 양자컴퓨터 기반 실험에서도 하드웨어 잡음 환경을 극복하고 정상 작동하며 기술적 안정성을 확인했다.

​◆ 범용성 강화한 모듈 설계···산업 현장 적용 가속화

​이번 연구는 기존의 강화학습 알고리즘 구조를 유지하면서 최악 상황 탐색 부분만 양자 모듈로 대체할 수 있어 범용성이 높다. 로보틱스나 자율주행 등 환경 변화에 민감한 분야에 즉각적인 적용이 가능할 것으로 전망된다.

​제1저자인 이현규 연구원은 “학습 병목 현상을 양자 알고리즘으로 가속화한 구조”라고 설명했으며 윤성환 교수는 “양자 컴퓨팅이 AI의 한계를 어떻게 구체적으로 보완할 수 있는지 입증한 사례”라고 밝혔다.

​한편 올해 서울 코엑스에서 개최된 ICML 2026에서 국내 연구진이 주도한 양자 AI 논문으로는 이번 연구가 유일하게 채택됐다. 이번 프로젝트는 과학기술정보통신부의 지원을 받아 수행됐다.