本地跑大模型，最麻烦的问题往往不是“哪个模型最好”，而是——你的电脑到底带得动哪个？

瑞霞

本地跑大模型，最麻烦的问题往往不是“哪个模型最好”，而是——你的电脑到底带得动哪个？

llmfit 就是专门解决这个问题的终端工具。

启动之后，它会自动检测你的 RAM、CPU、GPU，然后从大量模型中筛选适合当前硬件的选择，并给出综合评分。

主要功能包括：
🖥️ 自动识别本机硬件
📊 从质量、速度、适配度、上下文等维度评分
🧮 根据显存/内存情况选择合适量化版本
🧠 支持 MoE 模型
⚙️ 兼容 Ollama、llama.cpp、MLX、LM Studio
🖥️ TUI 交互界面 + CLI 命令行

以前折腾本地模型，经常是先下载一个几十 GB 的模型，折腾半天才发现内存不够或者速度惨不忍睹。

有了它，可以先让工具根据你的机器反推模型，再决定下载什么。

特别适合第一次搭本地 LLM 环境，或者手里有多台不同配置电脑、不知道该怎么选模型的人。🔗https://github.com/AlexsJones/llmfit