查看: 14|回复: 0

Easy同学正在独立开发# FreeToken 加速效果:

[复制链接]

13

主题

0

回帖

49

积分

新手上路

积分
49
发表于 4 小时前 | 显示全部楼层 |阅读模式

#Easy同学正在独立开发#  FreeToken 加速效果:

- 配备 8GB 显存 RTX 4060 的普通笔记本电脑能以 39 tok/s 的速度运行 35B 模型
- 而搭载 RTX 5090 的游戏台式机则能以交互方式运行庞大的 284B DeepSeek 模型。

为什么它能做到?我让 Gemini 解读了一下它的论文
​​​





















本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部