[메가경제=박선영 기자] 생성형 인공지능(AI)을 넘어 스스로 정보를 분석하고 판단해 업무를 수행하는 'AI 에이전트'가 금융산업으로 빠르게 확산되면서 금융소비자 보호와 책임 체계 마련이 새로운 과제로 떠오르고 있다. AI가 투자상품을 추천하고 자산을 관리하는 시대가 현실화되는 가운데, 잘못된 투자 판단이나 금융사고가 발생했을 때 책임을 누구에게 물을 것인지에 대한 제도 정비가 시급하다는 지적이다.

NH투자증권은 한국경제연구학회와 공동으로 4일 'AI 시대 금융산업이 가야 할 길: 혁신과 신뢰, 그리고 금융소비자 보호'를 주제로 정책세미나를 개최했다고 밝혔다. AI 에이전트가 금융의 판단과 실행을 대신하는 시대를 맞아 학계와 감독당국, 금융업계가 AI 금융의 신뢰 기반과 정책 방향을 논의하기 위해 마련된 자리다. 양 기관은 이번 공동 개최를 계기로 AI 금융 정책 연구와 제도 개선 논의를 지속적으로 이어가기로 했다.

 

▲ 신재욱 NH투자증권 대표이사가 4일 서울 여의도 파크원 타워2 Creator Hall에서 열린 정책세미나 'AI 시대 금융산업이 가야 할 길'에서 환영사를 하고 있다. [사진=NH투자증권 제공]

금융권에서는 생성형 AI를 활용한 상담 서비스를 넘어 투자 분석과 자산관리, 기업여신 심사, 리스크 관리, 이상거래 탐지(FDS), 리서치 작성 등으로 활용 범위가 빠르게 확대되고 있다.

특히 AI 에이전트는 투자자의 자산 현황과 소비 패턴, 시장 데이터를 종합적으로 분석해 금융상품을 추천하거나 일정 조건에 따라 주문을 수행하는 단계까지 발전하고 있다.

업계에서는 AI가 금융회사의 생산성을 높이는 동시에 고객 맞춤형 서비스를 크게 확대할 것으로 기대하고 있다. 반면 AI의 판단 과정이 복잡해질수록 금융사고 발생 시 책임 소재를 어떻게 규정할 것인지가 새로운 과제로 떠오르고 있다.

첫 번째 발제에 나선 이종섭 서울대 경영대학 교수는 AI 금융 시대의 가장 큰 위험으로 '책임 공백'을 지목했다.

그는 "AI가 만든 제안으로 사고가 나도 책임질 주체가 현행법에 정해져 있지 않다"며 "AI 금융 규제의 중심도 접근을 막는 규제보다 책임을 명확히 하는 방향으로 전환해야 한다"고 강조했다.

이 교수는 국내 AI 금융 경쟁력이 기술 부족 때문이 아니라 획일적인 망분리 규제와 레거시 시스템, 단기 성과 중심의 투자 문화, 조직의 경직성 등 구조적 문제에 영향을 받고 있다고 진단했다.

또 현행 규제가 데이터 접근만 통제할 뿐 실제 위험이 발생할 수 있는 데이터 결합과 활용, 추적 과정은 제도적으로 충분히 관리하지 못하고 있다고 지적했다.

이에 대한 대안으로 ▲AI 에이전트 등록제, ▲통제 역량에 따른 데이터 비례 개방, ▲시장 전체를 고려한 거시 감독, ▲오픈뱅킹 고도화 등을 제안했다.

두 번째 발제를 맡은 정희수 하나금융연구소 소장은 금융상품 구매 방식이 플랫폼과 모바일 애플리케이션 중심에서 AI 기반 비교·검색으로 빠르게 이동하고 있다고 진단했다.

그는 AI 모델 오류와 데이터 편향, 보안 문제뿐 아니라 금융사고로 이어질 수 있는 컴플라이언스(준법감시) 리스크도 함께 커지고 있다며 AI 플랫폼의 법적 지위와 책임 범위를 명확히 하고 금융소비자보호법에도 AI 관련 위험 요소를 반영할 필요가 있다고 제안했다.

전문가들은 앞으로 AI가 추천한 금융상품을 소비자가 그대로 가입하는 사례가 늘어날 경우 설명의무와 적합성 원칙을 어떻게 적용할 것인지도 새로운 과제가 될 것으로 보고 있다.

AI가 추천하는 금융상품이라고 해서 높은 수익이나 안전성이 보장되는 것은 아니다. AI는 과거 데이터와 학습된 정보를 기반으로 판단하기 때문에 예상치 못한 시장 충격이나 지정학적 리스크, 정책 변화 등을 완벽하게 예측하기는 어렵다.

전문가들은 투자자가 AI의 추천을 참고하더라도 자신의 투자 목적과 위험 성향에 맞는지 최종적으로 확인하는 과정이 필요하다고 조언한다.

또 AI가 어떤 데이터를 근거로 투자 판단을 내렸는지 설명할 수 있는 '설명 가능한 AI(Explainable AI)' 체계 구축도 소비자 신뢰 확보를 위한 핵심 과제로 꼽았다.

금융회사들도 AI 활용을 빠르게 확대하고 있다. 이경종 KB국민은행 AI금융센터장은 현재 KB금융이 100개 이상의 AI 에이전트를 운영하고 있다고 소개하며 금융권 공동의 대규모 언어모델(LLM) 검증 체계 구축 필요성을 제안했다.

이번 세미나를 공동 주최한 NH투자증권의 박선학 전무는 AI를 '의사결정을 혁신하는 새로운 생산요소'로 정의하고, 사람과 AI가 함께 의사결정을 수행하는 '투트랙(Two-Track) 인공지능 전환(AX)' 전략을 소개했다.

금융권에서는 AI 경쟁력이 앞으로 자산관리와 리스크 관리, 고객 서비스 품질을 좌우하는 핵심 경쟁력이 될 것으로 보고 있다.

해외 주요국도 AI 금융에 대한 제도 정비를 서두르고 있다. 유럽연합(EU)은 위험 수준에 따라 AI 활용을 관리하는 '인공지능법(AI Act)'을 마련했고, 미국도 금융회사의 AI 활용 과정에서 알고리즘의 책임성과 소비자 보호를 강화하는 방향으로 관련 논의를 이어가고 있다.

업계에서는 국내 금융권 역시 글로벌 규제 흐름에 맞춰 AI 거버넌스와 데이터 관리 체계를 선제적으로 구축해야 한다는 목소리가 커지고 있다.

이번 세미나에서는 AI 금융의 신뢰 기반을 마련하기 위한 다섯 가지 정책 과제도 제시됐다.

구체적으로 ▲AI 에이전트 책임 귀속 체계 확립, ▲데이터 거버넌스와 비례적 데이터 개방, ▲금융권 공동 AI 검증·표준화 인프라 구축, ▲금융소비자보호법의 AI 리스크 반영, ▲AI 모델 집중에 따른 시스템 리스크 감독 체계 마련 등이다.

김봉준 금융감독원 수석조사역은 AI 에이전트의 자율성을 어디까지 허용할 것인지에 대한 사회적 논의가 필요하다고 강조했다.

백연주 한국금융연구원 연구위원은 고객 접점이 금융회사보다 AI 플랫폼으로 이동할 가능성이 커지는 만큼 버티컬 AI를 앞세운 빅테크의 금융시장 영향력이 확대될 수 있다고 전망했다.

윤영진 상명대 교수와 최정운 한국화학융합시험연구원 책임연구원은 금융위원회 AI 가이드라인의 국제표준화와 국제표준화기구(ISO) 공동작업반(JWG 7) 논의에서 금융소비자 보호 기준을 확대할 필요가 있다고 제안했다.

신재욱 NH투자증권 대표이사는 "AI 기반 의사결정과 금융소비자 보호가 함께 가는 방향에 대해 폭넓은 논의가 이뤄진 뜻깊은 자리였다"며 "AI 기술 혁신과 소비자 신뢰가 함께 성장할 수 있는 금융 생태계 조성을 위해 지속적으로 논의를 이어가겠다"고 말했다.

전문가들은 AI 금융이 확산될수록 금융회사의 경쟁은 단순한 기술 개발보다 신뢰 확보 경쟁으로 옮겨갈 것으로 보고 있다. AI가 어떤 근거로 판단했는지 설명할 수 있는 투명성과 사고 발생 시 책임을 명확히 하는 제도, 개인정보 보호 체계가 함께 갖춰져야 AI 금융이 안정적으로 정착할 수 있다는 분석이다.

 

 

 

[ⓒ 메가경제. 무단전재-재배포 금지]