LG전자-서울대, 'Secured AI 연구센터' 설립...AI 보안 강화

[포인트경제] LG전자가 서울대학교와 함께 AI 보안 기술 연구개발을 위한 전문 산학 연구센터를 설립한다고 14일 밝혔다. LG전자는 최근 서울 관악구 서울대학교에서 서울대 연구부총장 김주한 교수, LG전자 CTO 김병훈 부사장 등 주요 관계자가 참석한 가운데 'Secured AI 연구센터' 설립을 위한 양해각서(MOU)를 체결했다.

이번 연구센터는 서울대의 세계적 연구 인력과 인프라를 활용해 AI 보안 핵심 기술 확보부터 안전한 AI 서비스 구현까지 다양한 산학 과제를 공동 수행한다. 연구센터는 대규모 언어 모델(LLM) 에이전트 보안 강화 기술과 데이터 유출 방지 기술 등 안전한 AI 생태계 구축에 필요한 기술을 집중적으로 연구·개발한다.

구체적으로는 소프트웨어 개발과 운영 전 과정에 보안 체계를 적용하는 '머신러닝 특화 보안 운영(MLSecOps)' 모델을 확립한다. LLM 에이전트는 언어를 이해하고 생성하며 다양한 작업을 수행하는 기술로 실생활에 널리 활용되고 있으나, 거짓 정보를 생성하는 할루시네이션과 데이터 외부 탈취 시도 등 보안 위협도 증가하고 있다. 기존의 개발운영(DevOps)과 머신러닝운영(MLOps) 방식으로는 이러한 위협에 종합적으로 대응하기 어렵기 때문에 보안에 집중한 통합 체계를 구현해 대책을 마련한다.

또한 데이터 수집부터 학습, 배포, 운영, 폐기까지 전 과정에서 침입 탐지와 데이터 보호 역할을 수행하며, 실제 산업 환경에 적용 가능한 AI 보안 플랫폼도 개발한다. 이 플랫폼은 AI 보안의 통합적 기능을 담당한다.

서울대 연구부총장 김주한 교수는 "AI 보안 분야에서 세계적 수준의 연구를 선도하고 안전한 AI 생태계 구축에 기여하겠다"고 말했다. LG전자 CTO 김병훈 부사장은 "차세대 보안 기술을 고도화해 AI 보안 영역에서 리더십을 구축하고, 고객과 사회에 더 안전하고 신뢰할 수 있는 제품과 서비스를 제공하도록 노력할 것"이라고 밝혔다.

신설 연구센터의 초대 센터장은 서울대 전기정보공학부 학부장 홍용택 교수가 맡는다. 홍 교수는 국제정보디스플레이학회(SID) 펠로우, 한국과학기술한림원 정회원이며, 2025년 대한민국 과학기술훈장 혁신장을 수상한 과학기술계 리더다.