Apache 2.0 开源 · 企业私有化部署

企业 AI 的
统一控制面

连接所有模型,管住每一把 Key,看清每一枚 Token。TokenHub 让身份、路由、成本与审计在一个平台内闭环。

OpenAI 兼容接口OAuth / OIDCSQLite → PostgreSQL
TokenHub 企业 AI 网关总览后台
99.99%服务可用性目标
智能路由主备资源实时切换
一个入口,连接企业内外的模型资源
主流闭源模型
国内模型服务
本地 Ollama / vLLM
OpenAI 兼容服务

AI 已经进入业务,治理不能还停留在共享 Key

当模型调用从试验走向生产,企业需要管理的不是一串密钥,而是一条贯穿身份、数据、模型、成本与责任的访问链路。

01

调用不可见

个人账号、共享 Key 与中转服务让请求散落在组织边界之外。谁在调用、提交了什么、服务于哪个项目,都难以追溯。

02

成本无归属

供应商账单只有总量,无法下钻到员工、团队与项目。Agent 的重试和循环,会把小问题快速放大成预算风险。

03

模型被绑定

应用直接耦合不同供应商,切换模型、处理限流或增加备用通道都要改代码,资源采购无法形成统一调度。

04

责任链断裂

身份、路由、费用、错误和后台操作分散在多个系统。发生安全事件时,只能靠人工拼接零散日志。

从“能调用”到“可治理”,把 AI 访问收回企业边界

TokenHub 位于应用与模型之间,集中执行身份、授权、调度、计量与审计策略。

多模型接入与智能路由

统一 OpenAI / Anthropic 兼容入口,按优先级、权重和健康状态调度 Provider,自动完成故障转移。

模型智能路由能力示意

项目级 Key 与细粒度授权

上游凭证统一保管;员工和应用只获得受项目、角色、模型、额度与并发约束的内部凭证。

Token 成本归因

按用户、团队、项目、模型与成本中心拆分用量,让每一笔 AI 支出都有业务归属。

全链路日志与后台审计

将调用身份、项目 Key、路由命中、Token、费用、错误与策略变更关联为一条可检索的审计链。

TokenHub 监控与审计能力示意

一次调用,五层治理

业务仍按熟悉的 API 开发,治理策略在网关侧独立演进,不把复杂度推回每个应用。

员工与应用

使用项目 Key 发起请求

身份与权限

验证角色、模型与额度

路由策略

按成本与健康状态选路

模型服务

连接云端或本地模型

计量与审计

记录用量、费用与结果

不是报表拼图,而是可执行的治理工作台

三类角色各有清晰工作界面:普通用户关注可用模型与个人用量,团队负责人管理项目,管理员配置平台策略。

SCREEN / 01

平台总览

集中查看请求量、Token、成本、Provider 健康与高频模型,异常趋势一眼可见。

真实产品界面
TokenHub 平台总览界面

部署在你的基础设施里,边界由你定义

从单实例验证到 PostgreSQL 多实例,TokenHub 支持渐进式落地。身份、凭证、策略、日志和用量数据由企业掌握。

Docker ComposeLinux systemdOAuth / OIDCRBAC 权限模型SQLite 轻量起步PostgreSQL 横向扩展
tokenhub / deploy
$ git clone https://github.com/astaxie/TokenHub.git
$ cd TokenHub
$ docker compose up -d

✓ gateway ready
✓ database connected
✓ health checks passed

→ http://localhost:8080

让每一次 AI 调用,都有身份、有边界、有归属

从统一入口开始,把分散的模型连接升级为可持续、可规模化的企业 AI 基础设施。