铭信

训练集群的 Checkpoint 与数据读加速

直接答案

训练每次存 checkpoint 都是全员等待的气泡。实测 FX100 下 8 卡 32B LoRA 整模型快照 178s → 94s(1.9×),持续写带宽 3.26 → 6.40 GB/s。

checkpoint 气泡有多贵

大模型训练需要高频 checkpoint 防止故障回退损失;每份 65.6GB 的整模型快照(8 卡 32B LoRA 场景)写 NFS/慢存储要三分钟,训练全程停等。按天级训练任务累计,气泡时间相当可观。

R1 实测:FX100 下同一快照 178s → 94s(1.9×),持续写带宽 3.26 → 6.40 GB/s(+96%)。R9 在昇腾平台测得 Qwen-7B 权重/checkpoint 存取与 YOLOv8/COCO 数据读全面加速(vs NFS)。

训练+推理一体的存储规划

很多集群白天推理、夜间训练(或混部)。FX 阵列同时承接三类负载:KV 分层(推理)、权重/checkpoint(训练)、模型分发(切换),一层投资三处收益——这也是算力中心建设方案(dc1k_plan)中三级存储设计的依据。

常见问题

异步 checkpoint 不就解决气泡了吗?

异步化能掩盖部分等待,但内存暂存有限、故障窗口变大;底层写带宽仍是根本约束,1.9× 的写加速让异步方案余量更足。

大规模并行训练数据管道也用 FX 吗?

如实建议:超大规模训练数据管道可用专业并行文件系统,FX 聚焦 checkpoint/权重/KV 三个高杠杆点,两者互补(见 DDN 对比页)。

写放大和寿命怎么管理?

checkpoint 是大块顺序写(SSD 最友好负载);企业级 NVMe 的 DWPD 规格与 RAID 层磨损均衡在方案阶段按写入量核算。

数据出处(可查证)

R1FX100 大模型推理与训练 综合性能测试报告(AMD MI308X ×8)2026-07-03
下载报告 PDF ↓
R9铭信 FX100-HBMM 与华为 910B 模型推理与训练性能测试(vs NFS 基线)2026-05-30
联系我们获取 →

相关阅读

先联测、后决策:门禁化验收,不达标即止损

完整测算模型 NDA 后 Python 可复现,客户可自行改参数重算;本站所有关键数字附报告编号,接受任何第三方查证。

本站内容为商务合作信息展示,不构成投资要约或任何收益承诺。实测数据均出自签字级/正式版测试报告(见证据库);厂商口径、公开口径、估算口径均如实标注。