查看: 7|回复: 0

AMD发布迷你主机:128GB可以跑本地AI大模型,苏妈现场用这款设备离线运行 2350 亿参数大模型,全程无需云端、数据中心和外接 GPU。

[复制链接]

7

主题

1

回帖

33

积分

新手上路

积分
33
发表于 昨天 21:45 | 显示全部楼层 |阅读模式
AMD发布迷你主机:128GB可以跑本地AI大模型,苏妈现场用这款设备离线运行 2350 亿参数大模型,全程无需云端、数据中心和外接 GPU。

该设备搭载128GB 统一内存,GPU 可调用约 110GB 内存,容量远超 RTX 4090、RTX 5090,模型推理性能更是超过 RTX 5080 三倍以上。128GB内存就能跑本地大模型,有没有懂AI的朋友评价一下? http://t.cn/AXaa9AWV

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部