订阅

抢沙发

标题 版块/圈子 作者 回复/查看 最后发表
【深度实测】从 M6 Mac mini 换到 128GB M5 Max Mac Studio:本地跑 72B 大模型、Flux.1 生图与 Wan 2.1 离线生成视频到底快多少?New AI 硬件与部署 海底捞 半小时前 00 海底捞 半小时前
升级 Strata 0.2.17(引擎 0.1.63)完成 ✅非常满意的一次升级 New Local LLM(本地大模型) 音乐人闭能文 1 小时前 00 音乐人闭能文 1 小时前
Hy4-flash 与 DeepSeek V4.1 Flash 对比(均开启最大推理能力,运行于单台 M5 Ultra 512GB 设备上)。测试包含 58 个相同问题,温度参数(temperature)设为 0,且未启用“思考模式”(thinking cap)。 New 开源项目与模型 南赤北舂 1 小时前 00 南赤北舂 1 小时前
WireGuard 组网是真省心啊,几分钟部署完毕 想起原来用 l2tp/ipsec,strongSwan加accel-ppp,真是费时费力 New AI 工具与软件 侧面 1 小时前 00 侧面 1 小时前
使用本地大模型(LLM)的典型体验 New AI 硬件与部署 黄河大侠霍元甲 2 小时前 00 黄河大侠霍元甲 2 小时前
Google Gemma团队发布了一个官方交互式教程,解释LLM是如何工作的(当然是以Gemma为例,也介绍了Gemma 4 的架构优化内容)New 开源项目与模型 珊珊子 5 小时前 00 珊珊子 5 小时前
穿越党必备[允悲]:ClawDOS,一个适用于DOS的AI编码助手。New AI 工具与软件 像昵 5 小时前 00 像昵 5 小时前
这是一款 PCIe 5.0 x 16 的 CXL 2.0 扩展卡,上面可以插 8 条 DDR4 内存。 New AI 硬件与部署 吉祥的祥 5 小时前 00 吉祥的祥 5 小时前
你的显卡能玩GTA 6吗? ​​​ New 开源项目与模型 蓝蓝夜 5 小时前 00 蓝蓝夜 5 小时前
Google 最新发布的 Gemini 4 Neon 实测来了!这轮最亮眼的是修困难 bug。 New 开源项目与模型 loveinter2003 5 小时前 00 loveinter2003 5 小时前
就最近这一周的表现来看,谷歌确实异军突起了,再加上 Anthropic 上市,同时昨天又爆出证明了黎曼猜想,而 OpenAI 最新模型遭遇差评,OpenAI 确实很郁闷啊。 New AI玩客 民间编诗人 10 小时前 00 民间编诗人 10 小时前
Thinking Machines (前OpenAI首席技术官米拉·穆拉蒂的AI公司)开源了新款端侧小钢炮 Inkling 2 Mini New Local LLM(本地大模型) 狂刷排名 18 小时前 00 狂刷排名 18 小时前
我为推理引擎自行设定了 42GB 的内存上限,并分别运行了 Strata v0.2.16 和 v0.2.15 版本。 New AI 硬件与部署 煎焗榴莲壳 18 小时前 00 煎焗榴莲壳 18 小时前
【垃圾佬封神】不到2400元手搓32G显存AI服务器!双Radeon VII解锁vLLM张量并行,并发飙至98 tok/s碾压Ollama六倍!New AI 硬件与部署 道成 18 小时前 00 道成 18 小时前
【全栈底层打通】从 LLM、Token 到 MCP 与 Agent Skill:一帖揉碎 AI 核心技术体系,看懂 Claude Code 与 OpenClaw 的底层运作逻辑!New AI 提示词(Prompt)工程 张兜兜 18 小时前 00 张兜兜 18 小时前
安卓手机连电脑这事,一个开源工具差不多就全包了。 New AI Agent 纵横经纬 18 小时前 00 纵横经纬 18 小时前
GPT-6 Astra 才亮相多久,已经有人用它鼓捣出 70 多款游戏了? New AI 工具与软件 蕙心纨质 18 小时前 00 蕙心纨质 18 小时前
OK,一不小心做了一个百人/Agent 实时编辑文档的功能,补全了 Multica 呼声最高的一块能力。 New AI Agent 叶落长安 18 小时前 00 叶落长安 18 小时前
Inkling 2 Mini 的循环结构省下的是存储,每个 token 要读的字节反而多了七成。 New 开源项目与模型 登黑不得善终 18 小时前 00 登黑不得善终 18 小时前
按权重文件里每个张量的大小算,Inkling 2 Mini 单路每出一个 token 要从内存读约 5.5 GB。中间 12 层跑 3 遍就占了 3.4 GB,BF16 的输出头还有 0.93 GB。New AI玩客 dxl0812 18 小时前 00 dxl0812 18 小时前
Screen Studio 的开源替代品,如今已经卷到能让 AI 自动生成演示视频的程度了! New AI 工具与软件 道成 19 小时前 00 道成 19 小时前
💥我靠!美国开源新模型Inkling 2 Small横空出世!594B只激活17B,正面硬刚DeepSeek/Kimi,计划下周开源! New 开源项目与模型 娇兰美业 19 小时前 00 娇兰美业 19 小时前
🚨炸了!Thinking Machines 正式开源 Inkling 2 Mini 权重 !性能反超 Qwen 3.8 27B ! New 开源项目与模型 皮埃尔 19 小时前 00 皮埃尔 19 小时前
Gemini 4 Neon 设计桌面 AI 硬件宠物 PCB 全过程记录,从元器件选型、原理图绘制到 PCB 布局、走线、覆铜,都是 Antigravity 里的 Gemini 4 Neon 通过 EasyEDA MCP 在嘉立创 EDA 专业版里直接操作 New AI 绘图与设计 侧面 19 小时前 00 侧面 19 小时前
卧槽,OpenAI 联合创始人 Andrej Karpathy 刚刚直接把屏幕分享出来,毫无保留地演示了自己每天是怎么跟大模型打交道的。New AI玩客 无亟 19 小时前 00 无亟 19 小时前
我听到最多的抱怨就是,大家根本不知道拿 AI 智能体干什么。 New AI玩客 张海明 20 小时前 00 张海明 20 小时前
Linux 用户不用再为了几个 Windows 软件反复重启切系统了。 New 开源项目与模型 用户大弟 20 小时前 00 用户大弟 20 小时前
Strata 称 v0.2.16 版本的“回答没有变化”(在 10 个测试提示词下,生成的 Token 与 v0.2.15 版本完全一致)。但在我的测试环境中,我无法验证这一点。 New AI 硬件与部署 何顺辉 20 小时前 00 何顺辉 20 小时前
各位一起港湾的硬件极客、算力发烧友以及长期关注服务器芯片演进的兄弟们: 万万没有想到,苏妈这次在数据中心与高性能计算(HPC)领域直接把牙膏管给踩爆了!New AI 硬件与部署 伊江南 20 小时前 00 伊江南 20 小时前
给大家带来 Qwen4-Max 全方位实测!New AI 硬件与部署 南方雪松 昨天 00:30 00 南方雪松 昨天 00:30
最近一直在给企业做 AI 化改造,发内容少了 做的几乎是全流程的改造很费劲 New AI Agent 袁更生 前天 23:58 00 袁更生 前天 23:58
【避坑指南】本地跑 AI 智商税大起底!3090 涨疯背后的真相:为何 5090、苹果 M3 Ultra 和 DGX Spark 干活根本打不过老卡皇?New AI 硬件与部署 诚思 前天 23:35 00 诚思 前天 23:35
分享一个提升 agent 效果的技能。 New AI Agent 易达运输物流 前天 23:18 00 易达运输物流 前天 23:18
Chrome 里其实藏着一个能白嫖的 AI,只是大多数人都没注意到吧? New AI玩客 谭志刚 前天 23:15 00 谭志刚 前天 23:15
浅尝gpu,GPU是如何跑代码的 New AI玩客 帽儿果 前天 23:07 00 帽儿果 前天 23:07
如果按“购买新卡时的性价比”来对当前一代显卡进行排序,大致是: New AI 硬件与部署 密斯特真行 前天 22:58 00 密斯特真行 前天 22:58
看到一个很有意思的思路:针对具体 Agent 工具链做强化学习,小模型也能打出离谱的实战效果 New 开源项目与模型 ☆飘☆ 前天 22:56 00 ☆飘☆ 前天 22:56
Qwen3.8-27B 只用 1,200 个任务做了 18 天强化学习,Terminal Bench 4.1 从 5.6% 涨到 12.0%。 New Local LLM(本地大模型) 月下彩云轻舞 前天 22:31 00 月下彩云轻舞 前天 22:31
华擎(ASRock)推出面向工作站的“Intel Arc Pro B65 Creator 32GB”显卡,配备 32GB 显存 New AI 硬件与部署 必填内容 前天 22:22 00 必填内容 前天 22:22
Z-Library 居然被人做成 AI Skill 了,找书、下载、导入微信读书一条龙!🔥 New AI Skills wx520 前天 18:06 00 wx520 前天 18:06
马斯克都转过的开源项目,你居然还没上手? New 开源项目与模型 买菱角就找我 前天 18:04 00 买菱角就找我 前天 18:04
程序员不死,只是凋零New AI玩客 不可重启的人生 前天 14:35 00 不可重启的人生 前天 14:35
2500 块装一台能跑的 AI 服务器!两张 2019 年的老旗舰 Radeon VII,靠 vLLM 张量并行把吞吐拉爆——性能直接 6 倍碾压 Ollama,32GB 显存还能完整塞下 27B 大模型 New Local LLM(本地大模型) 银河爷 前天 13:56 00 银河爷 前天 13:56
英伟达藏了 5 年的福利被薅出来了!一张 8G 显存的二手矿卡,硬生生「爆改」出 80G——SM 单元解锁到 126 组,单项跑分直接反超 2 万美元的零售 A100,靠的居然是 5 美元树莓派 + 不断断电重试New Local LLM(本地大模型) 风丝袅 前天 13:47 00 风丝袅 前天 13:47
AMD 用户的春天真来了!vLLM 魔改分支「Radiance」独立,特有显卡 P2P 机制让 LLM 多并发体验远超 Strata,也能支持 Minimax H3 多卡 TP,AMD 显卡用户迎来生态红利!New Local LLM(本地大模型) 曹玉兰 前天 13:40 00 曹玉兰 前天 13:40
4xM(x) Studio Apple Cluster New AI 硬件与部署 小和哥 前天 13:37 00 小和哥 前天 13:37
张 12G 的 RTX 3060,硬生生跑起了 1250 亿大模型——还吐字接近 70 token/s!这位老哥的本地极限实测:不是显卡变强了,是把「医院」拆开摊平着看病 New Local LLM(本地大模型) axwww 前天 13:33 00 axwww 前天 13:33
谁说 A 卡跑 AI 只能看热闹?一张 4000 块二手 7900 XTX,把 125B 千亿大模型干到近 200 Tokens/s——24GB 显存跑 256K 超长上下文,36 轮极限高压 0 报错 New Local LLM(本地大模型) 陈鹏浩 前天 13:22 00 陈鹏浩 前天 13:22
不涨正确率,却砍掉42.9%的操作!这位老哥给 Qwen3.8-27B 挂了个 319MB 的"代码补丁",RX 7900 XTX 实测:本地跑模型,"更利索"比"更聪明"值钱多了New Local LLM(本地大模型) 青竹居士 前天 13:13 00 青竹居士 前天 13:13
workbuddy ,主流智能体工具,几乎零门槛,使用简单。New AI玩客 娇兰美业 前天 10:43 00 娇兰美业 前天 10:43
关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

快速发帖
关注公众号
返回顶部