算力中心效能优化
面向已有集群的效能挖潜：模型切换有效 TPS、并发加载、Checkpoint 写、利用率建模——先提效、再扩卡。
核心能力与实测依据
- 模型切换有效词元产出率实测建模：20 次/小时切换档算力有效利用率从 46.7% 提至 62.8%（R1 实测）
- 模型并发加载：8 卡同时冷读，墙钟时间快 16%、单模型加载快 30%（R1 实测）
- 训练 Checkpoint 并发写快 1.9×，减少训练气泡（R1 实测）
- 显存等效替代方法论：外置 KV 层可替代 128GB 级显存驻留（R5，14B 七组对照）
支撑证据
R1FX100 大模型推理与训练 综合性能测试报告（AMD MI308X ×8）2026-07-03
LMCache 并行读补丁、KV 分层多卡扩展、模型并发加载、模型切换有效 TPS、训练 checkpoint 并发写（Qwen2.5-32B/7B）
下载报告 PDF ↓R5FX100 KV Cache 性能测试报告（14B·显存效益·正式版，编号-004）2026-07-03
七组对照（GDS 直读/重算两档显存/低显存直读），显存等效替代三步论证（该轮平台为沐曦 N260 单卡，方法论跨平台，数字不与 MI308X 混用）
下载报告 PDF ↓合作路径
先联测、后决策：门禁化验收，不达标即止损。完整测算模型 NDA 后 Python 可复现，客户可自行改参数重算；本站所有关键数字附报告编号，接受任何第三方查证。