AI 仓库情报摘要

FR-AI / ANALYSIS

为什么值得关注

该平台聚合 16+ 款顶级大模型（如 GLM-5.1、Kimi-K2.6、GPT-4.1），支持本地私有化部署确保数据不出境，按 Token 用量灵活计费，用户无需自购硬件即可享受低延迟推理。

适合谁使用

需要合规私有化 AI 推理的企业
寻求低成本算力的 AI 创业团队
需要多模型统一 API 的开发者
开展大模型教学与科研的高校机构

典型使用场景

将大模型能力快速集成到企业内部系统
无需购买 GPU 即可构建 AI 应用
为客服系统接入 7×24 小时智能服务
批量生成文案、翻译、摘要等内容

项目优势

数据安全：本地私有化部署，数据完全不出境
低延迟：自建 GPU 集群就近推理，毫秒级响应
多模型聚合：一个平台接入 16 款主流大模型
用量可视化：实时监控 Token 消耗和费用明细

使用前须知

模型可用性和更新依赖第三方厂商
需要注册并获取 API Key 才能使用，非完全开源产品
私有化部署可能带来额外的成本和运维复杂度

README 快速开始

🚀 Token 开放平台

一站式大模型算力服务平台 —— 本地私有化部署，按量计费，开箱即用。

💬 加入社群

📱 扫码加入微信群或飞书群，获取最新模型上线通知、优惠活动与技术交流。

▲ 左：微信群 | 右：飞书群（如二维码过期请添加微信 zwl568633995）

📖 项目简介

Token 开放平台 是一个面向企业与开发者的 AI 模型算力服务平台。我们通过自建 GPU 服务器集群私有化部署主流大语言模型，为用户提供稳定、安全、低延迟的模型推理服务。

用户无需昂贵的硬件投入和复杂的运维工作，只需注册账号，即可在 Web 控制台或通过标准 API 直接调用 GLM-5.1、Kimi-K2.6、Qwen3.5/3.6 系列、GPT-4.1、Claude Sonnet、Gemini 2.5 Pro 等 16 款头部大模型，按 Token 用量灵活计费。

✨ 核心优势

优势	说明
🔒 数据安全	本地私有化部署，数据不出境，满足企业合规要求
⚡ 低延迟推理	自建 GPU 集群就近部署，毫秒级响应
🎯 多模型聚合	一个平台接入所有主流模型，无需对接多家厂商
💰 弹性计费	按实际 Token 用量付费，无最低消费，用多少付多少
🛠️ 开箱即用	Web 控制台 + RESTful API，5 分钟即可接入业务
📊 用量可视化	实时监控 Token 消耗、费用明细、调用日志

🖥️ 平台预览

🎬 操作演示

https://github.com/user-attachments/assets/c420e1cc-2ea6-4739-9de5-4dcfc96cff42

📸 界面截图

▲ 控制台首页 — 模型选择与用量概览

▲ 在线对话 — 支持多模型切换与流式输出

▲ 用量面板 — Token 消耗与费用实时可见

🤖 已接入模型（16 款）

通用对话（大参数旗舰）

模型	厂商	特点
glm-5.1	智谱 AI	复杂推理、长文本理解、Agent 任务
kimi-k2.6	Moonshot AI	超长上下文、文档分析、深度研究
qwen3.5-122b-a10b	阿里巴巴	阿里旗舰大模型，120B 参数，复杂推理与创作
claude-sonnet-4-6	Anthropic	多语言对话、逻辑推理、创意写作
gpt-4.1	OpenAI	通用对话、代码辅助、知识问答
gemini-2.5-pro	Google	多模态理解、实时联网、长上下文

通用对话（性价比之选）

模型	厂商	特点
qwen3.5-35b-a3b	阿里巴巴	35B 参数，高性价比日常对话
qwen3.5-27b	阿里巴巴	轻量快速，响应迅速
qwen3.6-35b-a3b	阿里巴巴	最新 3.6 版本，35B 参数
qwen3.6-27b	阿里巴巴	轻量快速，低延迟
glm-4.7-flash	智谱 AI	智谱轻量模型，极速响应
minimax-m2.7	MiniMax	多轮对话、角色扮演、内容生成
gemma-4-31b-it	Google	31B 参数，Google 开源模型，轻量通用

推理与代码

模型	特点
deepseek-r1-distill-qwen-32b	32B 参数，蒸馏 R1 推理能力，代码与数学推理
deepseek-v4-flash	DeepSeek 轻量快速模型，推理与编程
qwen3.5-27b-claude-4.6-opus-reasoning-distilled	蒸馏 Claude 推理能力，复杂逻辑推理

📌 模型版本持续更新，支持为大型客户 定制私有模型部署。

🏗️ 技术架构

flowchart TB
    subgraph User[用户层]
        Web["🌐 Web 控制台"]
        API["🔌 API / SDK"]
        SSO["🔐 企业 SSO 集成"]
    end

    subgraph Gateway[网关层 - Gateway]
        Auth["统一鉴权"]
        Rate["限流 & 路由"]
        Log["日志 & 计费埋点"]
    end

    subgraph O

项目描述

南京斯锐德科技有限公司出品的token开放平台

SRD-token-Open-Platform-