PD 分离（Prefill/Decode 分离）与 KV Cache 的传输层
PD 分离把 prefill 与 decode 放到不同实例，KV Cache 成为两者之间的「交接物」。分离架构放大了 KV 层的重要性：既要实例间传输，也要外置持久化承接冷会话。
PD 分离为什么火，和 KV 有什么关系
Prefill 是算力密集型、decode 是显存带宽密集型，混在同一实例互相干扰。业界主流方向（NVIDIA Dynamo、Mooncake 等公开架构）是把两者分离部署，代价是 prefill 产生的 KV 必须传给 decode 实例——KV Cache 从「实例内部状态」变成「集群一等公民数据」。
一旦 KV 成为跨实例流转的数据，共享存储层的价值就凸显：R3 实测验证了 fs:// 共享池跨实例热共享——任何实例都能命中同一份 KV，这正是分离式架构需要的底座能力。
外置层在分离架构中的位置
热路径（prefill → decode 的即时交接）走 RDMA 内存传输；温冷路径（会话挂起、恢复、跨批次复用）落外置全闪。FX100 经 NVMe-oF/RoCEv2 提供后者：480B 生产形态冷恢复读回实测 TTFT p50 11.85s、对重算 12.6×（R2）。
配比锚点同样适用：单口 100GbE 支撑 8 节点 KV 回读（R2/R3 带宽数据）。分离架构下 prefill 池与 decode 池可共享同一外置层，容量利用率更高。
常见问题
PD 分离一定更好吗？
不一定：小规模部署分离反而增加复杂度与传输开销。它的适用区是大规模多租户服务；单机/小集群先做 KV 分层收益更直接（R2 单实例口径 +29–40%）。
铭信方案支持 Dynamo/Mooncake 这类框架吗？
FX 是标准 NVMe-oF 块设备，任何框架的 SSD/文件下沉层都能对接；vLLM+LMCache 路线已实测（R1–R3），其他框架按联测排期验证，不预支数字。
KV 传输会成为新瓶颈吗？
取决于网络与并行度设计。实测锚点：并行读补丁后单卡冷读 5.23 GB/s（R1）、8 节点共享回读逼近网卡上限（G3 门禁口径）。
数据出处（可查证）
相关阅读
本站内容为商务合作信息展示，不构成投资要约或任何收益承诺。实测数据均出自签字级/正式版测试报告（见证据库）；厂商口径、公开口径、估算口径均如实标注。