AI 에이전트가 바꾼 은행 업무, 신뢰 '숙제' 남았다

[프라임경제] 시중은행들이 생성형 인공지능(AI)을 기반으로 한 AI 에이전트를 전면 도입하면서 금융권의 업무 방식이 근본적으로 바뀌고 있다. 단순 반복 업무를 넘어 보고서 작성, 시장 분석, 고객 상담까지 AI가 스스로 판단하고 실행하는 수준에 이르렀다.

하지만 AI의 판단이 과연 신뢰할 수 있는가에 대한 질문은 여전히 남아있는 상황이다. 설명할 수 없는 의사결정, 오답 생성, 개인정보 보호 문제 등 기술적·제도적 과제가 본격적으로 수면 위로 떠오르고 있기 때문이다.

지난달 30일 금융권에 따르면 국민·신한·하나·우리은행을 중심으로 AI 에이전트를 기반으로 한 업무 자동화가 빠르게 확산되고 있다. 고객 응대, 투자 제안, 리스크 관리 등 다양한 영역에서 AI가 실무를 대신하면서 조직 내 업무 흐름 자체가 달라지고 있다.

AI 에이전트는 특정 목표를 달성하기 위해 스스로 계획을 세우고, 외부 데이터를 참조하거나 시스템을 조작해 작업을 수행하는 자율형 생성형 AI 기술이다. 기존의 챗봇이나 단순 자동화 프로그램(RPA)과 달리, 복합적인 의사결정을 지원하거나 일련의 절차를 연속적으로 실행할 수 있다는 점에서 차별화된다.

국민은행은 그룹 차원에서 AI 에이전트를 실무에 투입 중이다. 'KB GenAI 포털'을 통해 약 40개의 에이전트를 운영하고 있으며, 프라이빗뱅커(PB)·기업금융(RM)·고객상담(CS) 등 역할별로 세분화돼 있다. 노코드 기반으로 비개발자도 손쉽게 업무 목적에 맞는 AI를 생성·활용할 수 있는 환경도 구축했다.

신한은행은 GPT 기반 'AI 투자메이트', 내부업무 플랫폼 'AI ONE', 고객 응대용 'AI 은행원'까지 에이전트 활용 영역을 전방위로 확장하고 있다. AI ONE은 일정 관리, 문서 요약, 서류 발송 등 40여 개의 기능을 수행하며, AI 은행원은 일부 영업점에서 실제 고객을 응대하고 있다.

하나은행은 AI 에이전트를 규정 기반 업무에 우선 적용하고 있다. 정책금융 상담, 대출계약서 체크리스트 작성, 글로벌 내규 번역 등 복잡한 행정 업무를 AI가 요약·작성하는 방식이다. 이와 함께 AI 광고 심의 시스템도 자체적으로 고도화하고 있다.

우리은행은 운영리스크 관리 분야에서 AI를 실무에 정착시켰다. ‘운영GPT’는 자가진단, KPI 등록, 손실사건 정의 등 운영리스크 관련 질의에 AI가 실시간으로 응답하도록 설계됐다. 매뉴얼 기반의 반복 업무가 크게 줄어들면서 리스크 관리 효율도 높아졌다는 평가다.

인터넷전문은행들도 AI 도입에 속도를 내고 있다. 카카오뱅크는 금융 계산기, AI 검색 기능을 확대하고 있다. 케이뱅크는 로보어드바이저 '케이봇쌤'에 이어 생성형 AI 기반 상담 기능도 도입 예정이다. 토스뱅크는 실험적 접근을 유지하면서 사용자 경험 중심의 AI 기술을 적용하고 있다.

이처럼 AI 에이전트는 은행의 내부 프로세스와 고객 서비스의 판을 바꾸고 있다. 그러나 기술 도입 속도에 비해 신뢰 체계는 여전히 불완전하다는 지적이 나온다.

대표적인 문제가 바로 AI의 판단 근거를 설명할 수 없다는 점이다. 예컨대 AI가 생성한 상담 내용이나 투자 제안이 잘못됐을 경우, 왜 그런 결과가 나왔는지를 설명할 수 없다면 규정 위반이나 민원으로 이어질 수 있다. 특히 금융은 법령과 내규에 기반한 '책임 산업'인 만큼, AI의 '비가시성'은 치명적 약점으로 작용할 수 있다.

오답 생성(hallucination)도 주요 리스크다. 실제와 다른 금융 정보를 제시하거나, 없는 규정을 근거로 설명하는 사례는 AI 챗봇 테스트 과정에서도 꾸준히 발견되고 있다. GPT와 같은 외부 대규모언어모델(LLM)을 사용할 경우 개인정보 유출 우려도 상존한다.

이에 따라 금융권은 △내부망 전용 AI 모델 도입 △오픈소스 기반 자체 모델 학습 △AI 결과에 대한 감시 체계 구축 등에 속도를 내고 있다. 하지만 이 역시 기술력과 비용 문제로 모든 은행에 일괄 적용하기는 어려운 실정이다.

금융당국도 제도 정비에 나섰다. 금융위원회는 AI 도입 확산에 대응해 '금융 AI 7대 원칙' 제정을 추진 중이다. 여기에 설명 가능성(XAI), 책임 있는 설계, 보안성 강화, AI 거버넌스 마련 등이 포함될 예정이다. 아울러 금융 특화 한국어 말뭉치 구축, 금융권 AI 플랫폼 정비 사업도 병행하고 있다.

은행 내부적으로는 직원 교육, 적용 가이드라인, 에이전트 개발 범위 제한 등 자체적인 리스크 관리 체계를 구성하고 있다. 그러나 각 은행의 준비 수준에는 편차가 큰 상황이다.

금융권 관계자는 "AI가 업무를 대신하는 시대지만, 그 결과에 책임지는 건 여전히 사람"이라며 "지금 필요한 건 기술이 아니라, 신뢰를 어떻게 설계할 것인가에 대한 전략"이라고 말했다.