每次我告诉自己“到此为止吧”，就像有魔力一样，总会冒出新的“瓶颈”来找上我。当然，我只能选择“火力全开”，把这种“瘾”提升到新的高度——伙计​​们，这可比吸毒带劲多了！节点 1 — (Dell PowerEdge R ...

知识库哪能每回提问都从零检索一遍。GitHub 上的 LLM Wiki 主打的就是让 AI 把散落各处的资料一点点整理成一套能持续生长的 Wiki。它有几个亮点：① 多层信号构建知识图谱，内容关联更有依据② 用 Louvain 社区 ...

这个机柜满员啦！DGX Spark 6台齐装满员！4（deepseek 1017）+ 2（GLM 5.3 Flash）常驻借助CRS 812交换机随时可以切换2+2+2或3（GLM 5.3） + 3 切换时长不超过5分钟并发能力虽然不强，但眼下要烦恼的是喂不 ...

🚨 AI 自己写的推理引擎，把 Strata 和 Basalt 给办了？GitHub 上刚冒出一个黑马推理引擎 Infernix，最骚的是作者在主页坦白：这项目的代码和文档，几乎全是 Claude Opus 5.5 和本地跑的 Qwen 联手搓出来的！在 ...

🚨 24G 显存直接跑通 262K 超长文！Qwen3.8-27B 迎来史诗级“纯线性注意力”魔改。开源社区刚刚把千问 27B 的底层架构给彻底换血了——模型 Qwen3.8-27B-Longbook27-v2 直接把原版里剩下的 16 层全注意力全部干掉 ...

NVIDIA 已取消了推出配备 24GB GDDR7 显存的 GeForce RTX 5080 SUPER 显卡的计划。该版本原定用于取代 16GB 的基础型号，通过采用 3GB 显存颗粒，将显存容量提升 50%。截至 11 月初，各显卡合作伙伴仍未收到原定于 ...

💥 16GB 显存，硬啃到 26 万上下文。RTX 5080 + 128GB，Strata 跑 Qwen3.8-Flash-Next 125B（IQ3_S）。到 258K 还约 101.8 tok/s，没卡死。温馨提示：作者自测。你会拿 16GB 卡试吗？来源：@M_Lililab👇 ...

本地AI大爆发：单卡 RTX 3090 运行 7000多亿参数的 DeepSeek v4.1-flash-1017 能有多快？ 持续生成速度约 28 t/s，预填充 约 300 t/s。显卡是6年前的，机器是十年前的。十年前的CPU，加10年前的内存 （512 GB DDR4 2 ...

💥 3090 + 80GB，Qwen3.8 Flash Next 写到 100 tok/s。Strata 本地：读提示约 1473 tok/s，生成约 100。作者还在问有没有更快的。温馨提示：作者自测，上下文长度未写清。你觉得还能再快吗？来源：@cheatyyyy ...

🤯越狱 PS5 在跑 Qwen。PS5LM 把 llama.cpp 搬上主机 GPU。Qwen3.5-9B 约 55 tok/s，Qwen3.8-27B 约 20 tok/s。手机电脑都能连。温馨提示：要越狱主机。你会拿闲置 PS5 试吗？来源：GitHub cobanov/PS5LM👇ht ...

以后70系列的显卡要上位了吗但是我听说明年要有24G显存的5080了，哈哈，但是这个官网怎么回事，80.90系列的选项都取消了 ​​​

这是我经手过最酷的一套配置。发现 Micro Center 的 RTX 6000 Ada (Max-Q) 到货了，我赶紧告诉了 Jordan，他让我立刻去买 4 张回来。我们之前试过 4 张工作站版显卡，结果得配 2 个电源，如果不放在专业托管机房 ...

2B能跟12B掰手腕，放两年前不敢想。最实用的是4bit才1个G，老手机都能塞，256K上下文对端侧是真解渴。已拉权重，周末拿家里那台8G旧本子跑个离线助手试试成色，行的话单位旧设备全员复活 ...

准备买 Mac Studio 了，一台512GB 还是两台 256GB 呢？看了一下，国行同样选 M5 Ultra，36 核 CPU、80 核 GPU，每台配 1TB 硬盘，单机 172,999，两台合计 173,498，只贵 499，单机的好处是省事，512GB 统一内存 ...

接手一个别人的项目，最熬人的从来不是写代码，是先把那一堆东西看明白。Ix这个工具，直接把代码仓库变成了一张能查的知识地图。底层用的是tree-sitter，支持26种语言，自动把符号、调用、导入这些关系理清楚。数 ...