신한은행, 국제 AI 학회에서 금융 AI 검증 논문 2편 발표…에이전트 안전성 정조준

금융·보험 / 박성태 기자 / 2026-11-16 14:38:32
Google구글에서 선호하는 출처로 추가
여신·수신·외환 등 은행 업무 특화 LLM 벤치마크 ‘K-BankEval’ 5000개 문항 구축
AI 에이전트 최종 답변부터 도구 실행 과정까지 검증하는 ‘Agent Foundry’ 체계 공개
금융권 생성형 AI 전환 가속 속 ‘환각·오작동’ 차단할 내부통제 기술력 입증

[메가경제=박성태 기자] 인공지능(AI)이 똑똑해지면서 은행 업무에도 AI 도입이 빠르게 늘고 있지만, 사소한 계산 실수나 근거 없는 잘못된 답변 하나가 곧바로 고객 피해로 이어질 수 있다는 점이 가장 큰 걸림돌로 꼽혀 왔다. 신한은행(은행장 정상혁)이 이러한 불안을 해소하기 위해 AI가 실제 은행원처럼 정확하고 안전하게 일할 수 있는지 깐깐하게 시험하고 검증하는 자체 기술을 개발해 국제 무대에서 인정받았다.

 

▲ 신한은행, 국제AI학술대회에서 금융 AI 안전성 및 신뢰성 연구 성과 발표 [이미지=신한은행 제공]


신한은행은 지난 15일(현지시간) 이탈리아 밀라노에서 열린 글로벌 AI 학술대회 ‘ICAIF(International Conference on AI in Finance) 2026’ 워크숍에서 금융 AI의 안전성과 신뢰성을 높이기 위한 연구 논문 2편을 발표했다고 16일 밝혔다. ICAIF는 전 세계 학계와 글로벌 금융사들이 모여 금융과 AI 기술의 최신 연구 성과와 실제 현장 적용 사례를 공유하는 국제 학술대회다.

신한은행은 이번 학회에서 ▲ 은행 업무에 적합한 AI 모델을 골라내는 평가 기준 ‘K-BankEval(케이-뱅크이밸)’, ▲ AI가 업무를 처리하는 전 과정을 감시·검증하는 플랫폼 ‘Agent Foundry(에이전트 파운드리)’에 관한 연구 성과를 공개했다.

첫 번째 논문에서 소개한 ‘K-BankEval’은 쉽게 말해 AI를 위한 ‘은행 업무 전용 실무 시험지’다. 예금·적금(수신), 대출(여신), 외환 등 실제 은행 창구와 본부에서 이뤄지는 업무 특성을 반영해 총 5000개 문항과 6개 평가 영역으로 설계했다.

평가 항목은 ▲ 은행 업무 전문지식, ▲ 금융 약관과 문서를 정확히 찾아 근거를 대며 답하는 능력, ▲ 업무에 필요한 전산 프로그램을 제때 불러와 쓰는 능력, ▲ 이자·환율 등 금융 계산과 추론 능력, ▲ 고객에게 불리하거나 위험한 안내를 하지 않는 금융소비자 보호 안전성, ▲ 복잡한 업무 순서를 스스로 짜는 계획 능력 등 6가지로 구성됐다.

신한은행이 국내외 주요 AI 모델 6개를 이 시험지로 비교 평가한 결과, 일상적인 대화나 일반 상식 시험에서 1등을 차지한 AI라도 실제 은행 세부 업무에서는 실수가 잦거나 성능 차이가 크다는 사실이 확인됐다. 신한은행은 이 평가 기준을 활용해 각 은행 업무에 가장 잘 맞는 AI 모델을 선별하고, 부족한 부분을 미리 찾아내 보완할 수 있는 기반을 마련했다.

두 번째 논문인 ‘Agent Foundry’는 신한은행 내부의 AI 검증 플랫폼을 활용해, AI가 내놓은 최종 결과물뿐 아니라 답을 찾아가는 ‘중간 풀이 과정’ 전체를 꼼꼼히 따져보는 기술이다.

기존에는 AI가 질문에 그럴듯한 최종 답변만 내놓으면 통과시키는 경우가 많았다. 하지만 실제 은행 업무에서는 AI가 중간에 엉뚱한 전산 도구를 실행하거나 필수 확인 절차를 건너뛴 채 운 좋게 정답만 맞혔다면 대형 사고로 이어질 수 있다.

신한은행은 업무별 필수 확인 사항을 구체적인 채점 기준으로 만든 뒤, AI가 어떤 순서로 자료를 찾고 어떤 전산 도구를 실행했는지 기록 전체를 뜯어본다. 이를 통해 ▲ 답변이 은행 업무 기준을 충족했는지, ▲ 필요한 전산 도구를 알맞게 사용했는지, ▲ 업무 처리 과정이 효율적이었는지를 입체적으로 점검한다. 특히 근거가 부족한 상태에서 어림짐작으로 내놓은 답변은 정상 통과 사례와 엄격히 구분해 걸러내도록 체계를 고도화했다.

최근 국내 주요 시중은행들은 금융당국의 망분리 규제 완화 기조에 맞춰 상담 챗봇 수준을 넘어 대출 심사 보조, 자산관리 상담, 내부통제 등 핵심 업무에 생성형 AI를 본격적으로 투입하고 있다.

문제는 생성형 AI 특유의 ‘환각 현상(모르는 내용도 사실인 것처럼 지어내 답하는 오류)’이다. 일상적인 정보 검색에서는 AI가 틀린 답을 내놓아도 사용자가 걸러낼 수 있지만, 은행 업무에서 금리나 한도를 잘못 계산하거나 금융소비자보호법상 필수 안내 사항을 누락하면 곧바로 불완전판매와 금전적 피해로 직결된다. 글로벌 금융권에서 단순히 AI의 지능을 높이는 경쟁을 넘어, AI의 오작동을 사전에 통제하고 검증하는 기술력이 상용화의 성패를 가르는 핵심 기준으로 자리 잡은 이유다.

신한은행 관계자는 “금융 분야에서 AI를 실질적으로 활용하려면 단순히 AI 성능이 뛰어나다는 평가를 넘어 실제 은행 업무에 적합한지, 업무 수행 과정이 내부 기준에 맞게 이뤄지는지를 함께 검증하는 것이 무엇보다 중요하다”며 “앞으로도 금융 환경에 특화된 AI 평가·검증 기술을 지속적으로 고도화해 고객과 직원 모두가 안심하고 활용할 수 있는 금융 AI 환경을 만들어가겠다”고 말했다.

 

 

[ⓒ 메가경제. 무단전재-재배포 금지]

뉴스댓글 >

많이 본 기사

오늘의 이슈

포토뉴스

SNS