应用场景
按「算力平台 × 业务负载」组织的方案库:每个场景注明实测平台与报告编号, 跨平台数字不混用,未实测的组合如实标注排期中。
AMD MI308X 推理集群的存储加速方案
MI308X(192GB HBM/卡)推理集群配外置 KV 分层:ROCm 7.2 + vLLM + LMCache + FX100 实测 480B 模型吞吐 +29–40%、TTFT 降 26–32%(R1–R4 签字级报告)。
昇腾 910B 集群的模型加载与训练存储加速
昇腾 910B 集群常见瓶颈是 NFS 存储:模型加载以十分钟计。铭信 FX 实测 DeepSeek-32B/70B 服务加载 6.2×/9.3× 提速,训练三组负载全面改善(R9)。
沐曦 GPU 平台的显存效益与 KV 分层实践
沐曦等国产 GPU 显存规格有限,外置 KV 层价值更突出。R5 在 N260 单卡完成七组对照实测,论证外置层可等效替代 128GB 级显存驻留。
Agent 与代码助手平台的会话恢复加速
Agent 与代码助手的负载特征是长上下文+高频中断恢复。外置 KV 层把恢复从整段重算变为读回:480B 实测 TTFT p50 从 149.5s 降至 11.85s。
算力租赁平台:用存储把单卡产出提上去
算力租赁的隐性成本是切换空转:换模型、换租户时 GPU 在等加载。实测 FX100 下 20 次/小时切换档算力有效利用率从 46.7% 提至 62.8%。
训练集群的 Checkpoint 与数据读加速
训练每次存 checkpoint 都是全员等待的气泡。实测 FX100 下 8 卡 32B LoRA 整模型快照 178s → 94s(1.9×),持续写带宽 3.26 → 6.40 GB/s。
AI 视频生成产线:ComfyUI + LTX-Video 在国产平台的落地
视频生成栈在非 N 卡平台常见 dtype/算子/内核报错。铭信完成 ComfyUI + LTX-Video 2.3 全部 7 个模型在 MI308X/ROCm 7.2 的实跑验证,零算子错误。
千卡智算中心的推理存储规划
千卡智算中心的存储规划核心是三级架构+KV 分层:每台 FX100 服务 8 节点的实测配比,TCO 全模型 Python 可复现,门禁化联测控制建设风险。