订阅

AI 硬件与部署 今日: 7 |主题: 431|排名: 1 

  • 隐藏置顶帖 置顶 一起港湾 (17GW.com) 论坛发帖须知
    欢迎来到 一起港湾 (17GW) 社区!这里是 AI 技术爱好者、数码极客和生活分享者的精神家园。为了维护港湾的纯净秩序与技术氛围,请在开启您的分享之旅前,仔细阅读并遵守以下发帖规范。 一、 核心发帖准则 [*]主题契合,精准归类:请确保内容与所属版块(如 AI 技术、数码维修、资源分享等)相关。标题应简明扼要,避免“ ...
    11194 teanzhong 发表于 2026-3-29 站务公告与反馈
  • 【深度实测】从 M6 Mac mini 换到 128GB M5 Max Mac Studio:本地跑 72B 大模型、Flux.1 生图与 Wan 2.1 离线生成视频到底快多少? New
    各位一起港湾的苹果生态极客、本地 AI 开发者、以及正在纠结生产力工作站配置的视频创作者们: 最近不少兄弟在后台问:“我手里已经有台 32GB 内存的 Mac mini,平时剪片加跑点本地小模型挺顺的,到底有没有必要咬牙上 128GB 统一内存的 Mac Studio?” 今天结合一线创作者将 M6 Mac mini(32GB)升级到满血 M5 Max Mac ...
    011 海底捞 发表于 半小时前 显卡与算力
  • 使用本地大模型(LLM)的典型体验 New
    使用本地大模型(LLM)的典型体验 ・你心想:“这个模型挺擅长写代码的。” ・于是你让它写了一些代码。 ・结果它在一些细微之处出了错。 ・你换个模型再试一次。 ・对比之后,你得出结论:“这个更好。” ・不知不觉间,你开始在多个模型之间来回切换。 最终,你发现无法完全信任单一模型,于是开始根据不同任务选择使用 ...
    011 黄河大侠霍元甲 发表于 2 小时前 AI 硬件与部署
  • 这是一款 PCIe 5.0 x 16 的 CXL 2.0 扩展卡,上面可以插 8 条 DDR4 内存。 New
    这是一款 PCIe 5.0 x 16 的 CXL 2.0 扩展卡,上面可以插 8 条 DDR4 内存。 现在 DDR5 太贵,而较新的主板一般只支持 DDR5。这个扩展卡可以让新设备使用速度慢一些但便宜的 DDR4 内存。 ​​​
    010 吉祥的祥 发表于 5 小时前 AI 硬件与部署
  • 我为推理引擎自行设定了 42GB 的内存上限,并分别运行了 Strata v0.2.16 和 v0.2.15 版本。 New
    我为推理引擎自行设定了 42GB 的内存上限,并分别运行了 Strata v0.2.16 和 v0.2.15 版本。 测试环境包括:1 块 RTX 5070 12GB 和 1 块 RTX 5060 Ti 16GB(共 2 块 GPU),64GB 系统内存(其中 56GB 分配给 WSL2),以及 Qwen3.8-Flash-Next IQ3_S 模型。我启用了“将 KV 缓存保留在内存中”的功能(参数 `--kv-resident 32 ...
    027 煎焗榴莲壳 发表于 18 小时前 AI 硬件与部署
  • 【垃圾佬封神】不到2400元手搓32G显存AI服务器!双Radeon VII解锁vLLM张量并行,并发飙至98 tok/s碾压Ollama六倍! New
    各位一起港湾的硬核垃圾佬、本地大模型折腾党、以及想用最低成本给团队搭建私有 AI 算力底座的极客兄弟们: 今天给大家带来一套堪称“算力性价比天花板”的硬核实战方案——总预算仅需 2397 元(不到 2500 块),用两张“过气老将” AMD Radeon VII 搭配经典 X99 洋垃圾平台,从零手搓一台拥有 32GB HBM2 超高带宽显存 的 ...
    024 道成 发表于 18 小时前 AI 硬件与部署
  • Strata 称 v0.2.16 版本的“回答没有变化”(在 10 个测试提示词下,生成的 Token 与 v0.2.15 版本完全一致)。但在我的测试环境中,我无法验证这一点。 New
    Strata 称 v0.2.16 版本的“回答没有变化”(在 10 个测试提示词下,生成的 Token 与 v0.2.15 版本完全一致)。但在我的测试环境中,我无法验证这一点。 我的测试环境配置为:1 块 RTX 5070 12GB 显卡 + 1 块 RTX 5060 Ti 16GB 显卡(共 2 块),内存 64GB;所用模型为 Qwen3.8-Flash-Next IQ3_S,上下文长度限制分别为 128 ...
    020 何顺辉 发表于 20 小时前 AI 硬件与部署
  • 各位一起港湾的硬件极客、算力发烧友以及长期关注服务器芯片演进的兄弟们: 万万没有想到,苏妈这次在数据中心与高性能计算(HPC)领域直接把牙膏管给踩爆了! New
    各位一起港湾的硬件极客、算力发烧友以及长期关注服务器芯片演进的兄弟们: 万万没有想到,苏妈这次在数据中心与高性能计算(HPC)领域直接把牙膏管给踩爆了! 继跳过第五代 Turin 的 X3D 布局后,AMD 在第六代霄龙 EPYC 9006X 系列(代号 Venice-X) 上正式宣告:服务器级 3D V-Cache 技术王者归来! 不仅直接塞进了高达 ...
    020 伊江南 发表于 20 小时前 AI 硬件与部署
  • 给大家带来 Qwen4-Max 全方位实测! New
    给大家带来 Qwen4-Max 全方位实测! 本期用 Qwen4-Max 写了个结合AI实时生成的的嵌入式程序, 可以抓取 huggingface 开放权重模型榜单, 还搞了个3渲2的AI日历! 从测试结论来看, Qwen4-Max 相比 Qwen3.8-Max 有了非常巨大的提升, 其中前端和 Agent 能力提升明显, 而后端 Agentic Coding 能力我测完了似乎有点说法? 究竟性能 ...
    030 南方雪松 发表于 昨天 00:30 AI 硬件与部署
  • 【避坑指南】本地跑 AI 智商税大起底!3090 涨疯背后的真相:为何 5090、苹果 M3 Ultra 和 DGX Spark 干活根本打不过老卡皇? New
    各位一起港湾的独立创客、Agent 玩家、以及准备自建本地算力底座的硬件发烧友们: 最近后台每天都有无数兄弟在问同一个问题:“我想在本地跑大模型、挂自动干活的 AI 智能体(Agent),到底该买哪张卡?是咬牙上 5000 美金的 RTX 5090,还是买 6000 美金的苹果 M3 Ultra,或者等老黄那个号称 1P 算力的 DGX Spark?” 今 ...
    028 诚思 发表于 前天 23:35 显卡与算力
  • 如果按“购买新卡时的性价比”来对当前一代显卡进行排序,大致是: New
    如果按“购买新卡时的性价比”来对当前一代显卡进行排序,大致是: 3060 → 9070GRE → 9070 → 9070XT,或者 5070 → 9070XT。 如果想要更高的性能,那可能就得考虑 5070Ti 及以上级别的型号了。 至于 9060XT 和 5060Ti,以目前的定价来看,似乎已经没有它们的容身之地了…… ...
    031 密斯特真行 发表于 前天 22:58 AI 硬件与部署
  • 华擎(ASRock)推出面向工作站的“Intel Arc Pro B65 Creator 32GB”显卡,配备 32GB 显存 New
    华擎(ASRock)推出面向工作站的“Intel Arc Pro B65 Creator 32GB”显卡,配备 32GB 显存 ➡️采用双槽位设计,结合了涡轮式散热系统与均热板 https://gdm.or.jp/pressrelease/2026/1120/661301
    036 必填内容 发表于 前天 22:22 AI 硬件与部署
  • 4xM(x) Studio Apple Cluster New
    042 小和哥 发表于 前天 13:37 AI 硬件与部署
  • 卧槽!下一台 Switch,说不定真是你手里的 iPhone 或 Mac! New
    卧槽!下一台 Switch,说不定真是你手里的 iPhone 或 Mac! GitHub 上冒出个狠项目 NX2Apple,上线一周就拿下 700+ Star,目标就是让苹果设备跑起 Switch 游戏! 这回更新更猛: 1、Mac 游戏库上线了,游戏封面自动识别,存档还能统一管理。 2、游戏 ROM 整合成单个 IMG 文件,管起来更省事。 3、iOS 支持 Xcode 签名安 ...
    056 先姐 发表于 前天 01:53 AI 硬件与部署
  • NVIDIA 携手华硕 (ASUS)、戴尔 (Dell) 和微星 (MSI) 推出了紧凑型 RTX Spark 台式机。 New
    NVIDIA 携手华硕 (ASUS)、戴尔 (Dell) 和微星 (MSI) 推出了紧凑型 RTX Spark 台式机。 这些设备配备高达 128GB 的​​统一内存,并具备 1 Petaflop(千万亿次浮点运算)的 AI 算力,支持在本地运行参数量达 1200 亿的模型。来自宏碁 (Acer)、技嘉 (GIGABYTE)、惠普 (HP) 和微软 (Microsoft) 的相关系统也即将推出。 在芝加 ...
    068 娣娣女 发表于 3 天前 AI 硬件与部署
  • Net Yaroze,依然是有史以来最迷人的 PlayStation。 New
    051 FineRIk 发表于 3 天前 AI 硬件与部署
  • 用8卡Pro6000d自建的deepseek v4.1 flash 可以跑到142tok/s,最高可以跑到192。token自由了,很好。 New
    052 东方看客 发表于 3 天前 AI 硬件与部署
  • 用 NVIDIA 显卡的注意一下 New
    用 NVIDIA 显卡的注意一下: 最近的 621.14 和 621.24 驱动被曝出会反复往 SSD 里写数据,机器闲置时也在写。 有用户记录到 NVDisplay.Container.exe 这个服务每小时写入高达 30GB,问题持续下去会影响 SSD 寿命。 想确认自己有没有中招: 按 Win + R 打开运行,输入 resmon 回车,切到磁盘标签页,盯着 NVDisplay.Cont ...
    056 橙色枫叶 发表于 3 天前 AI 硬件与部署
  • PCIe 转接卡与直接插槽安装:来看看我们的客户如何对比这两种方式 New
    声明:我来自 Autonomous 公司。我们专门构建用于本地 AI 运算的多显卡工作站,既包括通过 PCIe 延长线(riser)连接的显卡,也包括直接插在主板上的显卡。以下内容基于我们客户的实际反馈,而非单纯的规格参数。我们已将设计方案开源,仓库链接见评论区。 当显卡数量超过 2 张时,插槽间距便成了决定装机方案的关键 ...
    047 望开书 发表于 3 天前 AI 硬件与部署
  • 工业之美! New
    053 dowell 发表于 3 天前 AI 硬件与部署
  • 我的书桌 New
    051 老高—深圳代理 发表于 3 天前 AI 硬件与部署
  • 下一页 »

    快速发帖

    还可输入 120 个字符
    您需要登录后才可以发帖 登录 | 立即注册

    本版积分规则

    关注公众号

    相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

    Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

    在本版发帖
    关注公众号
    返回顶部