一起港湾 - AI技术分享社区

Mac mini / Studio 硬件配置整理了一版模型对应的 tok/s 也放进去了都是没开 DFlash 的速度同配置 MacBook 跑出来也是这个档位开 DFlash 以后通常还能再提 1.6～3.8 倍左右大家按预算选就行Mac 平时办 ...

0 146 loveinter2003 发表于 2026-9-1 AI 硬件与部署

Mac mini 涨价的真正原因。苹果无意中制造了一款强大的 AI 硬件。

0 143 韩宇佳发表于 2026-9-1 AI 硬件与部署

Apple M5 Ultra 的带宽虽然看着不错，但是无论怎么算，他的算力都很一般。

Apple M5 Ultra 的带宽虽然看着不错，但是无论怎么算，他的算力都很一般。M5 Ultra 的频率按照1.9X算（图里1.9G）也就撑死40TOPS的 FP32数值，考虑到这不是Dual-Issue FP32，本身并不算很低。但M5 系列的矩阵加 ...

0 147 海底捞发表于 2026-9-1 AI 硬件与部署

人工智能实验室和企业显然正在竞相购置任何具备相当计算能力的机器，包括苹果的 Mac mini 和 Mac Studio 设备，以及即将推出的基于 NVIDIA RTX Spark 的 PC。

人工智能实验室和企业显然正在竞相购置任何具备相当计算能力的机器，包括苹果的 Mac mini 和 Mac Studio 设备，以及即将推出的基于 NVIDIA RTX Spark 的 PC。 🔗 https://wccf.tech/1l5k3 ...

0 374 未鸣惊人发表于 2026-8-31 AI 硬件与部署

mac 本地部署 llm 不是最佳选择

有人说 AI 时代苹果是最大赢家，核心在于 mac 的成本优势，我不赞成。在成本方面，按照我个人的使用经验，调用云端 api （我们假设使用的是 deepseek v4 flash)每日成本在¥25/天，如果购买 M5 Max 128GB （市场价 ...

0 163 唐代斯发表于 2026-8-31 AI 硬件与部署

兄弟们，炸裂消息。苏姿丰拎了个饭盒大小的主机上台，现场跑起2350亿参数大模型。

兄弟们，炸裂消息。苏姿丰拎了个饭盒大小的主机上台，现场跑起2350亿参数大模型。不靠云端不租GPU，全靠AMD Ryzen AI Max+ 395，全球首款CPU和GPU共享统一内存的x86处理器，128GB统一内存。对比一下：RTX 5090才 ...

0 142 陈前进发表于 2026-8-31 AI 硬件与部署

🔥本地部署机器怎么选？！

🔥本地部署机器怎么选？！看下面这张图就很直观了个人推荐：1. Mac Studio M5 Ultra 96G2. 2x RTX 4090 24G3. RTX 4090 魔改 48G - 胆大的来4. DGX Spark ...

0 160 芯彤发表于 2026-8-31 AI 硬件与部署

事实证明，苹果芯片架构是LLM（层级存储器）的理想之选。它将高速内存、高带宽和统一架构完美结合，堪称神奇。

事实证明，苹果芯片架构是LLM（层级存储器）的理想之选。它将高速内存、高带宽和统一架构完美结合，堪称神奇。Mac Studio M5 Ultra（512GB，1.2TB/s）搭载了完整的GLM-5.3-Flash（320字节），采用FP8格式，并可在桌 ...

0 174 小兜儿发表于 2026-8-29 AI 硬件与部署

+2

Easy同学正在独立开发# FreeToken 加速效果：

#Easy同学正在独立开发# FreeToken 加速效果：- 配备 8GB 显存 RTX 4060 的普通笔记本电脑能以 39 tok/s 的速度运行 35B 模型- 而搭载 RTX 5090 的游戏台式机则能以交互方式运行庞大的 284B DeepSeek 模型。 ...

0 173 糖球球发表于 2026-8-29 AI 硬件与部署

🚨NVIDIA 正在免费赠送 5 款最先进的中国 AI 模型

🚨NVIDIA 正在免费赠送 5 款最先进的中国 AI 模型无需显卡。无需订阅。无需为每个模型付费。只需一个 API 密钥即可访问全部 5 款模型。以下是您可以免费使用的模型：DeepSeek V4 Flash → 超高速推理M ...

0 159 陈大老爷发表于 2026-8-29 AI 硬件与部署

“你需要一块5090显卡来实现本地人工智能！！！” 哈哈，随便你吧，书呆子。

0 137 爱馨发表于 2026-8-29 AI 硬件与部署

如果你像我一样贫穷，只有 24G 的显存，可以在 unsloth studio 里面这么设置参数（图 1）

如果你像我一样贫穷，只有 24G 的显存，可以在 unsloth studio 里面这么设置参数（图 1），这样可以把默认 70K 的 Context 长度拉到 213K，并且在长程的任务中仍然能够保证到 20+ tok/s，短任务的话 50 tok/s 没问题 ...

0 186 亦飞凡发表于 2026-8-26 AI 硬件与部署

转：从H200到GB300，真实Agent工作负载的吞吐量提升了最高30倍，成本大致翻倍。

转：从H200到GB300，真实Agent工作负载的吞吐量提升了最高30倍，成本大致翻倍。从GB300到Vera Rubin，吞吐量再次飙升最高30倍，整机架价格大致再翻倍。按照老黄的摩尔定律，合着这两年英伟达最大的技术突破不是G ...

0 152 沽上行走的人发表于 2026-8-26 AI 硬件与部署

如果堆叠 4 块 M5 Ultra，我预计运行 Kimi K3 / GLM 5.3 的速度将比 API 快得多（>100 tok/秒）。

512GB 的 M5 Ultra 将于 10 月上市，拥有高达 1.2TB/s 的内存带宽。内存带宽比 M3 Ultra 高出 50%，比 DGX Spark 和 M4 Pro 高出 4.4 倍。如果堆叠 4 块 M5 Ultra，我预计运行 Kimi K3 / GLM 5.3 的速度将比 API ...

0 205 北兮发表于 2026-8-25 AI 硬件与部署

Ventuno Q 单板计算机 (SBC) 即将开启预售，售价 299 美元。

@ArduinoVentuno Q 单板计算机 (SBC) 即将开启预售，售价 299 美元。https://cnx-software.com/2026/08/25/299-arduino-ventuno-q-sbc-combines-qualcomm-dragonwing-iq8-soc-and-stm32h5-mcu/这款全新的单板 ...

0 149 李光磊发表于 2026-8-25 AI 硬件与部署