这个项目是Shopify的创始人tobi搞的一个本地的RAG文档检索项目。
项目官方的介绍是:
一个设备内的搜索引擎,能找到你需要记住的所有内容。
索引你的Markdown笔记、会议记录、文档和知识库。
用关键词或自然语言搜索。
QMD结合了BM25全文搜索、矢量语义搜索和LLM重新排序——所有这些都通过node-llama-cpp本地运行,配合GGUF模型。
它用了一个本地模型,可能有人担心自己的电脑跑不动。
不会,那个本地模型非常小,只要不是太差的电脑,都可以跑得动。
首次启动,整理文档的时候,会慢一些,后面就快了。
你可以在你的龙虾openclaw里面装这个,然后让龙虾具有本地搜索的能力。
这样你的一些文档,就可以在龙虾里面搜索,引用了。
项目地址:github.com/tobi/qmd