[메가경제=황성완 기자] KT는 27일 서울 종로구 광화문 West 빌딩에서 AI 모델 선택, 비용 관리, AI신뢰·안전 기능을 하나의 플랫폼에서 제공하는 AI 플랫폼 'KT 토큰팩토리(KT Token Factory, 이하 토큰팩토리)'를 공개했다.
 |
| ▲KT 토큰 팩토리 서비스 개요. [사진=KT] |
KT는 토큰팩토리를 AI 시대 고객의 AX(AI Transformation)를 지원하는 핵심 플랫폼이자 새로운 성장 사업으로 육성할 계획이다.
AI 시대를 대표하는 경제 단위는 토큰이다. 다양한 AI 모델 출시와 AX 사업 성장 영향으로 글로벌 AI 토큰 소비량은 최근 1년 동안 약 35배 폭증한 것으로 조사됐다.
현재 업무에 활용할 수 있는 AI 모델은 번역·요약·코딩·추론 등 분야별로 강점이 다르고 성능과 비용도 모두 상이하다. 이에 따라 모든 업무를 하나의 AI 모델로 처리하기보다 업무 목적과 요구 품질에 맞는 최적의 모델을 선택해 활용하는 것이 AX의 핵심 과제가 됐다.
토큰팩토리는 국내·외 500개 이상의 AI 모델을 통합 제공하며 가입부터 사용량 확인, 비용 관리, 결제까지 한 곳에서 처리할 수 있어 고객이 업무 목적, 비용, 보안 요구 사항에 맞는 최적의 모델을 손쉽게 활용할 수 있다.
여러 AI 모델을 개별적으로 탐색하거나 각각의 이용 환경을 관리할 필요 없이 모델 선택부터 이용 현황 모니터링, 비용 관리까지 통합적으로 수행할 수 있다.
토큰팩토리는 KT가 통신사업을 통해 축적한 연결·과금·보호 역량을 AI 서비스에 적용한 플랫폼이다. 통신망이 사람과 서비스를 연결해왔듯 국내외 다양한 AI 모델을 하나로 연결하고, 통신 과금 역량을 바탕으로 사용량 기반의 정밀한 토큰 과금 체계를 구현했다. 또한 고객이 안심하고 AI를 활용할 수 있도록 데이터 보호와 보안 기능도 강화했다.
토큰팩토리는 업무 성격에 따라 적합한 AI 모델을 자동으로 선택해 불필요한 비용 지출을 줄인다. 단순 업무에는 가벼운 모델을, 복잡한 분석 업무에는 고성능 모델을 적용해 효율성과 품질을 동시에 높인다.
단순히 가장 성능이 높은 모델이나 가장 저렴한 모델을 일률적으로 선택하는 대신, 고객이 요구하는 목표 품질을 충족하면서 비용 효율도 높일 수 있도록 KT가 자체 개발한 AI 모델 라우팅 기술인 ‘오토 모델 라우터(Auto Model Router)’를 적용해 토큰팩토리의 핵심 기능인 모델 최적화를 완성했다.
이 기술로 질문의 업무 유형, 난이도, 품질, 비용, 고객이 사전에 허용한 모델 범위 등을 종합해 AI 모델을 선택한다. 해당 기술은 모델 선택 성능을 평가하는 글로벌 벤치마크인 ‘RouterArena’에서 종합 1위를 기록하며 기술력을 인정받았다.
프롬프트 압축 기술도 고도화했다. 한국어 특성을 고려한 정밀 압축과 불필요한 반복 표현 제거를 통해 질문의 의미와 응답 품질은 유사하게 유지하면서 입력 토큰 수를 줄여 처리 효율을 높이고, 비용 부담과 응답 시간을 낮춘다.
이러한 KT 자체 기술을 통해 AI 이용에 필요한 토큰 사용을 최대 25%까지 절감하는 효과를 제공한다. 동일한 업무 품질을 유지하면서 운영 효율을 높여 더 많은 고객의 AI 도입과 AX 전환을 촉진할 것으로 기대된다.
토큰팩토리는 해외 AI 서비스 의존에 따른 데이터 주권 우려를 줄이기 위해 한국 내 KT 데이터센터에서 직접 AI 추론 서비스를 제공한다.
KT는 국내에서 안전하게 운영되는 소버린 AI 인프라 기반 위에서 KT 자체 모델과 국내외 오픈웨이트(Open Weight) 모델, 독자 AI 파운데이션 모델 등 다양한 AI를 안전하게 활용할 수 있도록 멀티 AI 기반을 구축했다.
누구나 활용할 수 있도록 공개된 오픈웨이트 모델은 높은 활용성과 비용 효율성을 갖췄지만, 기업이 실제 업무에 활용하기 위해서는 데이터 보안과 AI 이용 과정의 안전성을 함께 고려해야 한다.
KT는 다양한 오픈웨이트 모델을 국내 인프라에서 안정적으로 이용할 수 있는 환경을 제공하고, 모델 평가체계와 자체 가드레일(Guardrail) 기술을 적용해 AI 이용 과정의 안전성을 높였다. 고객이 입력하는 프롬프트의 개인정보 및 민감정보와 유해 표현을 점검하는 것은 물론, AI가 생성한 답변도 가드레일로 점검해 보다 안전하게 활용할 수 있도록 지원한다.
특히 한국어 환경에 최적화된 가드레일 기술을 지속 업그레이드해 국내 최고 수준의 경쟁력을 확보하고 있다. 향후에는 고객별 업무환경과 보안 요구를 반영해 탐지 대상과 차단 수준을 세밀하게 설정할 수 있도록 기능을 확장할 계획이다.
고객은 업무 목적과 요구사항에 따라 다양한 AI 모델을 선택하면서도 데이터 주권과 보안 요구 사항을 충족시킬 수 있다. 특히 높은 수준의 보안과 데이터 관리가 요구되는 산업 현장과 기업에서도 최신 AI를 보다 안전하고 유연하게 활용할 수 있을 것으로 기대된다.
KT는 데이터 주권과 신뢰를 기반으로 최신 AI를 자유롭게 활용할 수 있는 AI 환경을 구현해 고객의 AI 도입과 AX 전환을 가속할 계획이다.
KT는 글로벌 AI 게이트웨이 플랫폼이자 AI 모델 마켓플레이스 1위 사업자인 ‘오픈라우터(OpenRouter)’와 국내 최초로 공식 파트너십을 체결했다. 이를 통해 토큰팩토리 플랫폼에 연계 가능한 글로벌 AI 모델 500개 이상을 확보하며, KT 자체 추론 모델과 글로벌 AI 모델을 통합 제공하는 국내 최대 규모의 AI 플랫폼을 구축한다.
양사는 향후 오픈라우터의 글로벌 AI 모델과 KT의 국내 인프라 및 소버린 AI 모델들을 연계해 글로벌 AI 역량을 확대할 계획이다. 특히 KT가 국내에서 제공하는 AI 모델의 글로벌 유통을 추진하는 등 토큰팩토리를 국내외 AI 모델과 이용자를 연결하는 AI 허브로 발전시켜 나갈 예정이다.
KT는 오는 30일 토큰팩토리를 출시하고 고객과 서비스 범위를 단계적으로 확대할 계획이다. 출시 초기에는 여러 AI 모델을 활용하면서 비용을 효율적으로 관리하려는 기업 고객을 대상으로 서비스를 제공한다.
KT는 오픈라우터와의 협력을 비롯해 AI 코딩·에이전트 분야에 특화된 유라클과 CAST AI, 기업용 AI 워크스페이스 분야의 타임리 등 국내외 전문기업과 협력을 확대한다. 또한 업스테이지, 다음을 비롯한 ‘모두의 AI’ 컨소시엄 참여사들과 협력을 강화해, AI 인프라부터 모델 활용, AI 서비스까지 연결되는 ‘KT 토큰팩토리’ 파트너 생태계를 구축하고 글로벌 시장으로 사업 영역을 확대해 나갈 계획이다.
박상원 KT AX사업부문장(전무)은 “AI 시장은 이제 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다”며 “KT는 통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 고객의 AX 전환을 지원하고 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시켜 나가겠다”고 말했다.
한편, KT는 대표 고객 문화축제 ‘2026 KT VOYAGE FESTIVAL’을 지난 24일 개최했다.
[ⓒ 메가경제. 무단전재-재배포 금지]
