铭信

铭信 FX 与 NVIDIA Dynamo:互补而非竞争

直接答案

Dynamo 是 NVIDIA 开源的分布式推理框架,管理 KV Cache 的路由与分层调度;它需要外置存储层承接下沉的 KV。铭信 FX 正是这一层,在非 N 卡平台上铭信提供完整替代栈。

Dynamo 解决什么问题

NVIDIA Dynamo(开源)面向多节点分布式推理:prefill/decode 分离、KV 感知路由、经 NIXL 把 KV Cache 分层下沉到内存/SSD/对象存储(公开资料口径)。它是软件编排层——KV 下沉的目的地仍需高性能存储硬件承接。

铭信在这张图里的位置

N 卡集群:FX 阵列可作为 Dynamo/NIXL 的下沉目标层,NVMe-oF 标准接口直接对接,实测带宽锚点见 R1–R3。

非 N 卡集群(MI308X/昇腾/沐曦):Dynamo 生态覆盖有限,铭信提供 vLLM+LMCache 开源栈的源码级适配 + FX 硬件的完整替代方案,480B 生产形态实测 +29–40%(R2/R3)。

一句话:与 Dynamo 是「框架 vs 存储层」的互补关系,与「无外存重算」才是对照关系(8.6–20×,R2)。

常见问题

用了 Dynamo 还需要买存储吗?

需要:Dynamo 管调度,KV 数据本身要落在某层介质上。显存/内存容量有限,外置全闪是容量与成本的平衡点。

LMCache 和 Dynamo 什么关系?

同属 KV 分层生态:LMCache 聚焦 vLLM 的 KV 存储后端,Dynamo 是更大的分布式编排框架,两者社区有协作与集成。

国产平台上有 Dynamo 等价物吗?

vLLM+LMCache 组合承担同类角色;铭信的 ROCm 适配与并行读补丁(R1/R8)就是让这套开源栈在国产平台达到生产可用。

数据出处(可查证)

R1FX100 大模型推理与训练 综合性能测试报告(AMD MI308X ×8)2026-07-03
下载报告 PDF ↓
R2FX100 KV Cache 性能测试报告(480B·TP8 长上下文·正式版)2026-07-05
下载报告 PDF ↓
R3FX100 KV Cache 性能测试汇总报告(480B·TP4×2·全指标·正式版)2026-07-06
下载报告 PDF ↓
R8FX100-KVCache AMD 代码导出包 + KVCache 测试结果数据2026-07
联系我们获取 →

相关阅读

先联测、后决策:门禁化验收,不达标即止损

完整测算模型 NDA 后 Python 可复现,客户可自行改参数重算;本站所有关键数字附报告编号,接受任何第三方查证。

本站内容为商务合作信息展示,不构成投资要约或任何收益承诺。实测数据均出自签字级/正式版测试报告(见证据库);厂商口径、公开口径、估算口径均如实标注。