查看: 8|回复: 0

Ollama 功能确实齐,可要说只想让本地模型火速跑起来,是不是有点小题大做?

[复制链接]

10

主题

1

回帖

32

积分

新手上路

积分
32
发表于 昨天 23:19 | 显示全部楼层 |阅读模式
Ollama 功能确实齐,可要说只想让本地模型火速跑起来,是不是有点小题大做?Shimmy 走了条更轻的路——Rust 打造,整包 5MB 上下,启动不足 100ms,内存约 50MB。

① 单个文件就能运行,下完基本直接开用
② 端口自动分配,配置这活儿不用管
③ 自带 OpenAI 兼容 API
④ Hugging Face、Ollama 和本地模型都能自动扫出来
⑤ 体积小、启动快,老机器也吃得消
嫌本地模型工具太笨、就想要个打开即跑的,不妨试它一把。
🔗 https://github.com/Michael-A-Kuykendall/shimmy



本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部