KT가 AI 모델 500여 개를 한곳에서 고르는 토큰팩토리를 10월 30일 정식 출시합니다 | DAKER 커뮤니티
KT가 2026년 10월 27일 국내외 AI 모델 500개 이상을 한곳에서 쓰고 사용량과 비용까지 통합 관리하는 AI 플랫폼 토큰팩토리를 공개했습니다. 서울 광화문에서 열린 KT AX 사업 전략 기자간담회에서 소개됐고, 정식 출시는 10월 30일입니다. 모델을 골라 쓰는 회사가 늘면서 어느 모델을 어떤 일에 붙일지, 비용은 어떻게 관리할지가 과제가 되는 상황이라, 여러 모델을 함께 쓰는 팀이라면 살펴볼 만합니다.
모델 500여 개를 한 플랫폼에서
토큰팩토리는 AI 모델마다 다른 성능과 비용을 고려해 업무 목적에 맞는 모델을 고르고 사용량을 관리하는 플랫폼입니다. 기업 고객은 여러 모델을 따로 구독하거나 관리할 필요 없이, 하나의 플랫폼에서 모델 선택과 이용 현황 모니터링, 결제까지 처리할 수 있습니다. KT는 글로벌 AI 모델 마켓플레이스 사업자인 오픈라우터와 국내 최초로 공식 파트너십을 맺어 모델 500개 이상을 확보하고, KT 자체 추론 모델과 통합해 제공한다고 밝혔습니다. 앞으로는 KT가 국내에서 제공하는 AI 모델을 해외로 유통하는 사업도 추진합니다.
스스로 모델을 고르는 오토 모델 라우터
핵심 기술은 KT가 자체 개발한 오토 모델 라우터입니다. 질문의 업무 유형과 난이도, 요구 품질, 비용을 종합 분석해 적합한 모델을 자동으로 고릅니다.
오토 모델 라우터는 모델 선택 성능을 평가하는 글로벌 벤치마크 라우터아레나에서 종합 1위를 기록했습니다.
여기에 한국어 특성을 고려한 프롬프트 압축 기술도 더했습니다. 불필요한 반복 표현 등을 없애 질문의 의미와 응답 품질은 비슷하게 유지하면서 입력 토큰 수를 줄이는 방식입니다. 모델마다 성능과 비용이 다른 만큼, 쉬운 질문에는 가벼운 모델을, 까다로운 질문에는 성능이 높은 모델을 자동으로 배정해 전체 비용을 낮추는 것이 목표입니다. KT는 이런 자체 기술로 AI 이용에 필요한 토큰 사용량을 최대 25% 줄일 수 있다고 설명했습니다(회사 발표).
국내 추론과 보안도 함께
KT는 데이터 주권과 보안 기능도 강조했습니다. 해외 AI 서비스 의존에 따른 데이터 유출 우려를 줄이기 위해 국내 KT 데이터센터에서 자체 AI 추론 서비스를 제공하고, KT 자체 모델과 국내외 오픈웨이트 모델, 독자 파운데이션 모델을 국내 인프라에서 쓸 수 있게 합니다. 자체 가드레일 기술로는 이용자가 입력한 개인정보와 민감정보, 유해 표현을 점검하고 AI가 생성한 답변의 안전성도 검증합니다. 토큰팩토리는 초기에 여러 모델을 쓰며 비용을 효율적으로 관리하려는 기업 고객을 대상으로 서비스하고, 이후 개인 고객으로 범위를 넓힐 예정입니다. KT는 유라클, CAST AI, 타임리 등 AI 전문기업과 협력을 넓히고, 업스테이지와 다음 등 모두의 AI 컨소시엄 참여사와도 협력을 강화한다고 밝혔습니다.
여러 모델을 쓰는 팀이 챙길 점
이번 발표에서 가져갈 수 있는 것은 모델 하나에 묶이지 않고 작업별로 바꿔 쓰는 접근입니다. 질문의 성격에 따라 모델을 자동으로 고르고, 사용량과 비용을 한 화면에서 보고, 한국어 입력의 토큰을 줄이는 방식은 여러 모델을 섞어 쓰는 팀의 고민과 맞닿아 있습니다. 국내 데이터센터 추론과 가드레일을 함께 제공한다는 점은 사내 데이터를 다루는 기업이 특히 눈여겨볼 대목입니다. 박상원 KT AX사업부문장 전무는 AI 시장이 더 좋은 모델을 만드는 경쟁에서 AI를 더 쉽고 효율적으로 쓰도록 돕는 경쟁으로 빠르게 바뀌고 있다고 말했습니다. 데이터 분석 대회나 사내 업무에 여러 모델을 붙이는 팀이라면, 라우팅과 비용 관리, 국내 추론과 가드레일을 하나로 묶은 이런 플랫폼이 어떤 선택지를 주는지 10월 30일 출시 뒤 직접 견줘 볼 만합니다. 특히 모델이 자주 바뀌는 환경에서 플랫폼 하나로 선택과 결제를 묶어 두면, 새 모델이 나올 때마다 연동을 다시 붙이는 수고를 덜 수 있습니다.
여러분 팀은 업무마다 모델을 바꿔 쓸 때, 선택 기준을 무엇으로 두고 있습니까?