▲ 박성태 부국장기술의 편리함에 도취해 있는 사이, 자본시장의 심장부는 인간의 통제권을 내어줄 중대한 기로에 섰다. 화면 속에서 조용히 텍스트를 띄우던 생성형 인공지능의 다음 종착지는 스스로 판단하고 포트폴리오를 재편하며, 주문 체결까지 전결(專決)하는 '에이전트 AI'를 향하고 있다. 

 

당장 금융사의 핵심 시스템에 투입된 현실은 아니지만, 자본시장의 판도를 통째로 뒤바꿀 이 파괴적 미래를 챗봇 다루듯 가벼운 호기심으로 방치하기에는 그 뒤에 도사린 유동성의 규모와 폭주 위험이 지나치게 거대하다. 천문학적인 자본이 코딩된 알고리즘의 통제 아래 놓일 사상 초유의 구조적 시험대에 한국 금융시장 역시 내던져졌다.

경고음은 이미 글로벌 시장에서 요란하게 울렸다. 지난 10월 15일, 전 세계 금융 규제를 조율하는 금융안정위원회는 에이전트 AI의 자율성이 초래할 파괴적 미래를 경고하는 최종 보고서를 선제적으로 내놓았다. 

 

같은 날 홍콩 금융관리국 역시 은행권 인공지능 감독 지침인 '책임·회복력·신뢰 체계'를 전격 발표했다. 두 기관이 던진 메시지의 본질은 간명하면서도 서늘하다. 인공지능은 권한의 한계를 스스로 인식하지 못하며, 목표 달성을 위해 가장 위험한 지름길을 택할 수 있다는 것이다.

홍콩 금융관리국이 제시한 '의도 기반 책임' 원칙은 기술 뒤로 숨으려는 금융사들의 비겁한 퇴로를 정조준했다. 알고리즘 오작동으로 대규모 금융 사고가 터졌을 때, 이를 개발사나 실무 전산 부서의 탓으로 돌리는 관행을 용납하지 않겠다는 선언이다. 인공지능을 도입해 수익을 취하려 했던 금융사의 이사회와 고위 경영진이 모든 법적·재정적 책임을 온전히 지라는 뜻이다.

한국 자본시장 역시 결코 이 파고에서 자유롭지 않다. 현재 국내 금융권의 인공지능 활용은 고객 응대용 단순 챗봇이나 단편적인 정보 수집, 기초적인 투자 알림 서비스 수준에 머물러 있다. 그러나 당장의 활용도가 낮다고 현장의 방어 태세마저 안일해서는 안 된다. 

 

단순 보조 도구였던 기술이 스스로 자산 매매를 전결하는 에이전트 단계로 임계점을 넘어서는 순간, 통제 불능의 시스템 붕괴는 벼락처럼 닥쳐오기 때문이다. 금융당국이 2021년부터 '금융분야 인공지능 가이드라인'을 선제적으로 마련하고, 최근 전 금융권에 정보기술 자산 관리 의무화를 강력히 주문한 배경도 이 턱밑까지 다가온 위협에 대비하기 위함이다. 그럼에도 주요 금융지주들이 혁신을 명분으로 기술 도입 속도전에만 열을 올릴 뿐, 폭주를 멈춰 세울 지배구조의 고삐는 여전히 헐겁게 쥐고 있다.

기계가 스스로 자본을 굴리는 세상에서 가장 두려운 시나리오는 서로 다른 인공지능 간의 '알고리즘 충돌'이다. 시장의 미세한 균열을 폭락 징후로 오판한 복수의 에이전트 AI가 0.1초 만에 동시다발적 투매를 쏟아낼 때, 인간의 개입이 차단된 시장은 그 즉시 기능을 상실한다. 초당 수천 건의 매도 폭탄이 쏟아지며 막대한 자금이 증발하는 공황 상태에서 뒤늦게 시장 안정 장치를 찾은들 훼손된 신뢰의 둑을 다시 쌓을 수는 없다.

자본시장의 본질은 수학적 연산이 아니라 신뢰다. 맹목적인 디지털 만능주의에서 벗어나 기계의 결정을 인간이 외부에서 상시 감시하고 제어하는 '인간 상시 감독 체계'를 뼈대로 세워야 단단하다. 비정상적인 거래 징후가 감지되는 즉시 인공지능의 모든 권한을 회수하고 전원을 내릴 수 있는 물리적 '즉각 차단 장치(킬 스위치)'의 의무화는 선택이 아닌 생존의 마지노선이다.

혁신의 속도가 통제의 범위를 넘어서는 순간, 기술은 도구가 아니라 재앙이 된다. 부와 자본의 미래를 불투명한 알고리즘의 자비에 맡길 것인가, 아니면 마지막 제어권을 끝까지 인간의 손에 쥘 것인가. 지금 금융권이 증명해야 할 것은 인공지능의 화려한 지능이 아니라, 그 폭주를 언제든 멈춰 세울 수 있는 냉철한 통제권이다.

 

[ⓒ 메가경제. 무단전재-재배포 금지]