d.run AI 操作系统

打通算力-模型-应用的企业级服务平台

d.run 是一款新一代 AI 操作系统，将算力资源、AI 模型与应用统一纳入云原生运行体系，让 AI 工作负载像操作系统进程一样被高效调度、管理与优化。

从 GPU 到模型，从训练到应用，d.run 让 AI 基础设施真正实现系统化运行。

产品架构

点击图中绿色高亮模块可跳转到对应官方文档。

应用场景

智能体 Coding 知识库

金融自动驾驶教育科研制造政务医疗

模型服务

模型广场 多模型聚合 · 开箱即用

模型管理 API 兼容模型体验自定义模型

Token 治理

用量统计 多维度 Token 计量 智能路由 自动模型选择 / 故障转移 流量控制 限流 / 降级

内容合规安全 Token 渠道管理 API 密钥管理模型精度评估

推理优化

引擎优化 vLLM / SGLang P/D 分离 多层 KV 缓存 LMCache / KVBM KV 缓存优化 Mooncake 大规模编排 Dynamo / LLM-D 权重加速 ModelExpress / MatrixHub

KV 感知调度自动并行策略 SLO 优化量化 / MTP 算子调优微调 / 强化学习

智能算力调度

优化调度

负载类型感知WAS / Gang / Binpack 混合任务调度队列 / 训推 / 忙闲拓扑感知调度TAS 分布式推理调度LWS / Kueue

异构池化

异构计算DRA GPU 共享HAMi / MIG GPU 管理GPU Operator / AICR GPU 网络加速Spiderpool / Nixl 高速分布式存储Lustre / CMX

算力硬件

海光 HYGON 昇腾 Ascend NVIDIA 沐曦 METAX 寒武纪 Cambricon 摩尔线程昆仑芯天数智芯壁仞科技燧原 Enflame 平头哥 T-Head

新一代 Agent 运行时：主动规划任务、调用工具、自主执行。

一站式机器学习服务，整合异构算力与训推一体化。

从模型部署到运维管理的全生命周期服务。

推理加速与引擎管理最佳实践。