沐曦 GPU 平台的显存效益与 KV 分层实践
直接答案
沐曦等国产 GPU 显存规格有限，外置 KV 层价值更突出。R5 在 N260 单卡完成七组对照实测，论证外置层可等效替代 128GB 级显存驻留。
国产 GPU 的显存约束
国产 GPU 单卡显存普遍小于国际旗舰，长上下文并发下 KV 逐出更频繁——外置分层在这类平台不是锦上添花而是刚需。铭信选择沐曦 N260 做显存效益专项实测正是为此。
R5 七组对照说了什么
14B 模型、七组对照（GDS 直读/重算两档显存/低显存直读等），三步论证得出「外置 KV 层可等效替代 128GB 级显存驻留」。GDS 直读路径在沐曦平台验证可用。方法论跨平台，数字为该平台口径（如实标注，不与 MI308X 混用）。
对采购的含义：显存不足时先算一笔外置层的账——全闪约 ¥2,014/TB（FX100 满配折算）与 HBM 的价差是数量级的。
常见问题
沐曦平台软件栈成熟吗？
R5 实测基于沐曦软件栈跑通全部七组对照，含 GDS 直读路径；具体版本与适配要点见报告（证据库下载）。
海光/摩尔线程等其他国产卡适配吗？
方法论平台无关；已实测平台为沐曦/昇腾/AMD 三家（R5/R9/R1–R4），其他平台按联测排期推进，不预支数字。
单卡实测能推广到集群吗？
R5 聚焦显存效益方法论（单卡即可论证）；集群级 KV 分层吞吐数据参考 R2/R3（MI308X 平台），沐曦集群实测以回填为准。
数据出处（可查证）
R2FX100 KV Cache 性能测试报告（480B·TP8 长上下文·正式版）2026-07-05
下载报告 PDF ↓R5FX100 KV Cache 性能测试报告（14B·显存效益·正式版，编号-004）2026-07-03
下载报告 PDF ↓相关阅读
本站内容为商务合作信息展示，不构成投资要约或任何收益承诺。实测数据均出自签字级/正式版测试报告（见证据库）；厂商口径、公开口径、估算口径均如实标注。