查看: 6|回复: 0

如果堆叠 4 块 M5 Ultra,我预计运行 Kimi K3 / GLM 5.3 的速度将比 API 快得多(>100 tok/秒)。

[复制链接]

9

主题

1

回帖

29

积分

新手上路

积分
29
发表于 昨天 22:57 | 显示全部楼层 |阅读模式
512GB 的 M5 Ultra 将于 10 月上市,拥有高达 1.2TB/s 的内存带宽。

内存带宽比 M3 Ultra 高出 50%,比 DGX Spark 和 M4 Pro 高出 4.4 倍。

如果堆叠 4 块 M5 Ultra,我预计运行 Kimi K3 / GLM 5.3 的速度将比 API 快得多(>100 tok/秒)。


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部