国内软件11月01日
两台H3C MegaCube跑GLM-5.3-Flash:短文本仅17~29 tokens/s,256K上下文未被验证
实测表明,在2×GB10/128GB的H3C MegaCube上以TP=2部署GLM-5.3-Flash NVFP4,短文本端到端输出仅17~29 tokens/s,四并发吞吐仍约…
「NVFP4」 共找到 1 条相关资讯
实测表明,在2×GB10/128GB的H3C MegaCube上以TP=2部署GLM-5.3-Flash NVFP4,短文本端到端输出仅17~29 tokens/s,四并发吞吐仍约…