查看: 14|回复: 0

自己搭个本地 AI 服务器,以前有多折腾你心里有数:Ollama、Open WebUI、n8n、ComfyUI 一个个装、一个个连,装到怀疑人生。

[复制链接]

9

主题

1

回帖

27

积分

新手上路

积分
27
发表于 昨天 23:40 | 显示全部楼层 |阅读模式
自己搭个本地 AI 服务器,以前有多折腾你心里有数:Ollama、Open WebUI、n8n、ComfyUI 一个个装、一个个连,装到怀疑人生。

如今有个玩意儿叫 ODS,一行命令全给你装妥、接好,还自动按你的硬件挑模型,装完打开 localhost:3000 直接开唠。

我觉得最爽的是这几点:
1️⃣ 本地跑模型,prompt 和数据全在自己机器上,不上云
2️⃣ 一个面板管模型、服务、GPU 状态
3️⃣ 语音、agent、工作流、RAG、出图全都打包好
4️⃣ 没显卡也行,能切云端 API 模式
不用订阅,不用云,Linux、Mac、Windows 都支持。想折腾私有 AI 的,这个省事。
🔗 https://github.com/Osmantic/ODS


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部