Jakubantalik
Featured
thinking-orbs
A React component library that renders six hand-tuned animated thought orb loading indicators on a plain 2D canvas, with two purpose-tuned sizes and automatic theme detection for AI and agent UIs.
AI repository intelligence
FR-AI / ANALYSISWhy it is worth attention
It aggregates 16+ top proprietary models (e.g., GLM-5.1, Kimi-K2.6, GPT-4.1) under one platform with on-premises deployment guarantees, enabling data sovereignty and low-latency inference without upfront hardware investment.
Who it is for
- Enterprises requiring compliant private AI inference
- AI startups seeking cost-effective GPU access
- Developers needing multi-model API integration
- Educational institutions for LLM experimentation
Use cases
- Integrating LLM capabilities into internal enterprise systems
- Building AI-powered applications without GPU procurement
- Smart customer service with 24/7 automated responses
- Batch content generation (copywriting, translation, summarization)
Strengths
- Data security via local private deployment ensuring no data leaves premises
- Low-latency inference from self-built GPU clusters with millisecond response
- Single API/console for 16+ top models from multiple vendors
- Transparent usage dashboard with real-time token monitoring and cost breakdown
Considerations
- Dependency on third-party model vendors for model availability and updates
- Requires registration and API key to access; not a fully open-source product
- Potential additional cost and complexity for fully private on-premises deployments
README quick start
🚀 Token 开放平台
一站式大模型算力服务平台 —— 本地私有化部署，按量计费，开箱即用。
💬 加入社群
📱 扫码加入微信群或飞书群，获取最新模型上线通知、优惠活动与技术交流。
▲ 左：微信群 | 右：飞书群（如二维码过期请添加微信 zwl568633995）
📖 项目简介
Token 开放平台 是一个面向企业与开发者的 AI 模型算力服务平台。我们通过自建 GPU 服务器集群私有化部署主流大语言模型，为用户提供稳定、安全、低延迟的模型推理服务。
用户无需昂贵的硬件投入和复杂的运维工作，只需注册账号，即可在 Web 控制台或通过标准 API 直接调用 GLM-5.1、Kimi-K2.6、Qwen3.5/3.6 系列、GPT-4.1、Claude Sonnet、Gemini 2.5 Pro 等 16 款头部大模型，按 Token 用量灵活计费。
✨ 核心优势
| 优势 | 说明 |
|---|---|
| 🔒 数据安全 | 本地私有化部署，数据不出境，满足企业合规要求 |
| ⚡ 低延迟推理 | 自建 GPU 集群就近部署，毫秒级响应 |
| 🎯 多模型聚合 | 一个平台接入所有主流模型，无需对接多家厂商 |
| 💰 弹性计费 | 按实际 Token 用量付费，无最低消费，用多少付多少 |
| 🛠️ 开箱即用 | Web 控制台 + RESTful API，5 分钟即可接入业务 |
| 📊 用量可视化 | 实时监控 Token 消耗、费用明细、调用日志 |
🖥️ 平台预览
🎬 操作演示
https://github.com/user-attachments/assets/c420e1cc-2ea6-4739-9de5-4dcfc96cff42
📸 界面截图
▲ 控制台首页 — 模型选择与用量概览
▲ 在线对话 — 支持多模型切换与流式输出
▲ 用量面板 — Token 消耗与费用实时可见
🤖 已接入模型（16 款）
通用对话（大参数旗舰）
| 模型 | 厂商 | 特点 |
|---|---|---|
| glm-5.1 | 智谱 AI | 复杂推理、长文本理解、Agent 任务 |
| kimi-k2.6 | Moonshot AI | 超长上下文、文档分析、深度研究 |
| qwen3.5-122b-a10b | 阿里巴巴 | 阿里旗舰大模型，120B 参数，复杂推理与创作 |
| claude-sonnet-4-6 | Anthropic | 多语言对话、逻辑推理、创意写作 |
| gpt-4.1 | OpenAI | 通用对话、代码辅助、知识问答 |
| gemini-2.5-pro | 多模态理解、实时联网、长上下文 |
通用对话（性价比之选）
| 模型 | 厂商 | 特点 |
|---|---|---|
| qwen3.5-35b-a3b | 阿里巴巴 | 35B 参数，高性价比日常对话 |
| qwen3.5-27b | 阿里巴巴 | 轻量快速，响应迅速 |
| qwen3.6-35b-a3b | 阿里巴巴 | 最新 3.6 版本，35B 参数 |
| qwen3.6-27b | 阿里巴巴 | 轻量快速，低延迟 |
| glm-4.7-flash | 智谱 AI | 智谱轻量模型，极速响应 |
| minimax-m2.7 | MiniMax | 多轮对话、角色扮演、内容生成 |
| gemma-4-31b-it | 31B 参数，Google 开源模型，轻量通用 |
推理与代码
| 模型 | 特点 |
|---|---|
| deepseek-r1-distill-qwen-32b | 32B 参数，蒸馏 R1 推理能力，代码与数学推理 |
| deepseek-v4-flash | DeepSeek 轻量快速模型，推理与编程 |
| qwen3.5-27b-claude-4.6-opus-reasoning-distilled | 蒸馏 Claude 推理能力，复杂逻辑推理 |
📌 模型版本持续更新，支持为大型客户 定制私有模型部署。
🏗️ 技术架构
flowchart TB
subgraph User[用户层]
Web["🌐 Web 控制台"]
API["🔌 API / SDK"]
SSO["🔐 企业 SSO 集成"]
end
subgraph Gateway[网关层 - Gateway]
Auth["统一鉴权"]
Rate["限流 & 路由"]
Log["日志 & 计费埋点"]
end
subgraph O
Description
南京斯锐德科技有限公司出品的token开放平台
Related repositories
Similar projects matched by category, topics, and programming language.
makecindy
Featured
cindy
Cindy is an open-source AI agent that runs locally on your machine, integrates multiple AI harnesses and models, and provides memory, skills, and automation to perform real work in your projects and apps.
mereyabdenbekuly-ctrl
Featured
clodex-ide
Clodex is an open-source, local-first agentic IDE that combines persistent AI tasks, code, terminal, browser, Git, models, memory, and governed execution in one Electron workspace, currently in technical preview.