预热算力池,告别冷启动
模型会预先加载到已启动的 GPU 上,因此任务无需等待加载权重和预热,提交后即可开始生成。
时间线仅用于说明,并非按比例绘制。
支柱 03 · 自动路由
我们的路由器位于每个模型请求的入口。它会实时了解各路由的运行状态,根据你的具体请求评估速度和成本,并在性能下降时自动切换。
支柱 02 · 自有 GPU 推理服务
开源模型由我们自行运行推理服务:优化注意力机制和内核,使用已预热、无需加载的 GPU,并针对每个模型调优服务。同一开放权重模型原本需要几分钟,现在几秒即可完成;每秒 GPU 算力成本也更低。
由我们于 2026 年 10 月从提交请求到输出完成进行计时。H3 Fast 等快速版本使用开放权重优化推理服务,并非实验室发布的版本。查看并排对比
模型会预先加载到已启动的 GPU 上,因此任务无需等待加载权重和预热,提交后即可开始生成。
时间线仅用于说明,并非按比例绘制。
根据工作负载调整批处理、并发、内存和调度方式,以更少的 GPU 运行时间生成相同的模型输出。
调度器会按模型、分辨率和时长连续安排任务,让同一批硬件减少空闲时间、完成更多工作。
条纹区域表示 GPU 闲置时间。图示仅供说明。
GPU 推理团队
我们的推理团队成员来自 Stanford、MIT、UCLA、清华大学和 NVIDIA,专注于 GPU 系统、推理优化和模型服务,为我们自有的开源模型 GPU 推理服务提供技术支撑。
这些标志表示团队成员曾在相关高校就读或在相关公司工作,并不代表这些高校或公司为我们背书或与我们合作。所有商标均归其所有者所有。
支柱 01 · 官方合作
我们与 ByteDance, MiniMax 和 Alibaba 直接合作,因此能以最低的合作伙伴和渠道价格提供其发布的原版模型。
最高低于官方目录价 26%
实时目录价低于官方价格
最高低于官方目录价 29%
实时目录价低于官方价格
最高低于官方目录价 69%
实时目录价低于官方价格
算算能省多少
选择模型和生成量。所有价格均来自实时目录,并与官方目录价并列显示。
拖动滑块或选择模型,试算自己的用量。
Wan 3.0(720p):每月使用1,000 分钟视频,按官方目录价计价为$6,000,在 CheaperGen 则为$4,542,每月可节省$1,458。
逐项对比
| 对比项 | 直接使用各实验室 API | CheaperGen |
|---|---|---|
| 模型 | 每个账户和 API 只接入一家实验室 | 一个 API 接入来自 13 家实验室的 45 款模型 |
| 价格 | 官方目录价 | 最高低于官方目录价 93% |
| 路由与故障切换 | 自行构建和维护 | 每个请求均自动处理 |
| Serving | 实验室的标准 API | 合作渠道 + 我们自有的调优 GPU 算力池 |
| 计费 | 每家实验室分别签合同并收取发票 | 统一预付余额,按实际用量付费 |