想死磕LLM推理的,这套东西值得盯死。
想死磕LLM推理的,这套东西值得盯死。
有老哥搞了一份LLM工程师实战手册time-to-first-token,每天半个小时,磨它10周,总共50堂课。从零垒一套能上生产的完整技术栈:
1️⃣ 先建认知模型,吃透Decode为什么撑爆显存、Prefill为什么吃满算力
2️⃣ 硬啃vLLM源码,PagedAttention和调度器核心逻辑一个不跳
3️⃣ 上Prom ...
一个项目能拿 4 万+ Star,确实有点东西。
一个项目能拿 4 万+ Star,确实有点东西。
free-claude-code 更像一个统一的 AI 编程入口,可以把 Claude Code、Codex 等工具接到不同模型服务上。
NVIDIA NIM、OpenRouter、Gemini 等多种模型都能切换,云端、本地模型都支持。
还提供可视化管理界面,以及语音、Discord、Telegram 等接入方式。
如果你经常折腾各种 AI ...
Codex 提示:一套由 Astra 编排、兼顾成本效益的 Luna + Sol 智能体工作流。
Codex 提示:一套由 Astra 编排、兼顾成本效益的 Luna + Sol 智能体工作流。
在确定工作强度时,综合考量了 DeepSWE 的通过率、单任务平均成本以及智能体执行步骤。请将此方案交给 Codex 进行配置 👇
OpenAI大善人啊!这才是授人以渔!!
OpenAI大善人啊!这才是授人以渔!!
简直是保姆级教程,教会你怎么用image 2.5生成自己想要的图!!
OpenAI 刚刚发布了一份非常详细的 GPT Image 2.5 Prompt 指南,而且完全免费!
这份指南把图片生成和编辑时,提示词到底该怎么写,讲得非常清楚。
其中一个很重要的原则是:
先说清楚你最终想要什么,再描述画面细节。
...
用过了最新的 GPT-6 Astra 和 DeepSeek V4.1 Flash 之后,毫无疑问,这两个现在是我的主力了。所以重新更新了一下我的 AI 员工列表:
用过了最新的 GPT-6 Astra 和 DeepSeek V4.1 Flash 之后,毫无疑问,这两个现在是我的主力了。所以重新更新了一下我的 AI 员工列表:
1. 主力一号(搬砖工):Pi Agent + GPT-6 Astra Low
2. 主力二号(创作家):Pi Agent + DeepSeek V4.1 Flash + High
3. 备胎:Pi Agent + GLM 5.3 Flash + High
...
运维和后端桌面常年挂着五六个软件的痛,谁懂?
运维和后端桌面常年挂着五六个软件的痛,谁懂?
连服务器开 SSH,传文件切 SFTP,查数据开 Navicat 或 DBeaver,顺带还得挂着监控和远程桌面,Alt + Tab 都要按冒烟了。
刚发现一个硬核开源神器 Navop,直接把整个运维工作流塞进了一个客户端:
多端集成:SSH、SFTP、终端、服务器性能监控、远程桌面(RDP)一站式搞定
...
AI Agent 开发又多了一个重量级开源选择。
AI Agent 开发又多了一个重量级开源选择。
Google 的 ADK 2.0,重点解决的不是“怎么让 Agent 聊天”,而是怎么把 Agent 真正编排起来。
工作流、路由、循环、重试、并行任务、状态管理、人机协作都能直接搭。
而且思路很简单:Agent + Workflow,不用自己手搓几百行调度代码。
终端有 adk run,需要可视化调试还有 adk ...
把全球情报数据塞进一个开源项目里,Crucix 有点狠。
把全球情报数据塞进一个开源项目里,Crucix 有点狠。
它会定时汇总全球多类实时数据,包括冲突热点、经济指标、加密货币、大宗商品、卫星火情、航班、船舶 AIS 等。
还可以接入 Telegram、Discord 做实时告警,甚至直接发送指令,让它生成信息摘要。
最有意思的是:以前需要专业团队搭建的数据监控体系,现在个人开发者 ...
本地跑大模型,最麻烦的问题往往不是“哪个模型最好”,而是——你的电脑到底带得动哪个?
本地跑大模型,最麻烦的问题往往不是“哪个模型最好”,而是——你的电脑到底带得动哪个?
llmfit 就是专门解决这个问题的终端工具。
启动之后,它会自动检测你的 RAM、CPU、GPU,然后从大量模型中筛选适合当前硬件的选择,并给出综合评分。
主要功能包括:
🖥️ 自动识别本机硬件
📊 从质量、速度、适配度、上下文等维 ...
让 AI 真正“上手操作电脑”,现在有了一个统一方案。
让 AI 真正“上手操作电脑”,现在有了一个统一方案。
Cua 是一个开源的 Computer Use 框架,目标是让 AI 用同一套接口控制不同操作系统。
它把鼠标、键盘、终端、屏幕截图等能力统一起来,macOS、Windows、Linux 都能用。
比较方便的是,本地运行和云端沙箱可以采用相同的操作方式,还支持 OSWorld、ScreenSpot 等基准 ...
用过GPT的都知道,chatgpt网页版和Codex客户端,是两套不同的额度
用过GPT的都知道,chatgpt网页版和Codex客户端,是两套不同的额度
大多数PLUS用户网页版额度大量闲置,Codex 却在消耗紧张的 API 额度
我找到一个开源项目,可以直接用网页端的token,来修改代码。已经跑通了,用下来的感觉就是基本实现了无限额度
...
发现一个开源运维神器 Navop,一个软件顶你好几个。
发现一个开源运维神器 Navop,一个软件顶你好几个。
数据库、SSH、SFTP、终端、服务器监控、远程桌面全塞进一个客户端,还支持 MySQL、PostgreSQL、Redis、MongoDB、Oracle、ClickHouse 等数据库。
经常折腾 VPS、数据库和服务器的,这一个真能省掉不少工具。
https://github.com/feigeCode/navop
...
遇上这个项目之前,我一直以为向量数据库是知识库检索的唯一选择。
遇上这个项目之前,我一直以为向量数据库是知识库检索的唯一选择。
Memvid直接把这套逻辑颠覆了——文本不进向量库,而是编码进MP4文件。几百万段文本压缩成一个视频,存储体积缩到十分之一,语义搜索依旧是亚秒级响应,连数据库服务器都不用搭。
4个硬核点:
1️⃣文本编码进视频,不走传统向量数据库路线;
2️⃣存储压 ...
你有没有想过,在终端里跑DeepSeek编程助手,成本能低到让人不敢相信的地步?这个专门针对DeepSeek优化过的命令行工具,硬是靠着“前缀缓存”机制把费用压到了极致。
你有没有想过,在终端里跑DeepSeek编程助手,成本能低到让人不敢相信的地步?这个专门针对DeepSeek优化过的命令行工具,硬是靠着“前缀缓存”机制把费用压到了极致。
有个真实数据摆在那:一天处理4.35亿输入token,缓存命中率飙到99.82%,最后账单才12美元。要是换成v4-flash不走缓存,同样的工作量得掏61美元——相当于 ...
😂Gemini 3.8 Flash马屁话高达77%!真成美国版豆包了:默认一开口就是赋能、闭环、值得注意的是。
😂Gemini 3.8 Flash马屁话高达77%!真成美国版豆包了:默认一开口就是赋能、闭环、值得注意的是。
12个模型裸写同一篇产品文,不给风格提示,AI互评谁更像废话。断层很清晰:
🔹Fable 14%
🔹Grok 22%
🔹Opus 24%
🔹Astra 30%
🔹GLM-5.3 55%
🔹Kimi K3 56%
🔹Qwen 3.8 Flash 62%
🔹Gemini 3.8 Flash 77%
都掉进后半区,和 ...
AI视频这行,真被开源给掀桌子了。
AI视频这行,真被开源给掀桌子了。
hpc-ai刚甩出Open-Sora 2.0,11B的模型,直接全开源。checkpoints加训练代码全给你,训一版成本才20万美刀。
更狠的是效果。官方说在VBench和人类偏好评测上,它跟11B的HunyuanVideo、30B的Step-Video打了个平手。参数量差一半,愣是没虚。
以前搞视频生成,动不动就是几百万往里砸, ...
本地能干活的 AI,终于有人做出来了,不是又一个只会陪你聊天的玩意儿。
本地能干活的 AI,终于有人做出来了,不是又一个只会陪你聊天的玩意儿。
Skales 这东西直接装在你自己电脑上,双击就能跑,不用 Docker 不用敲命令行,据说 6 岁小孩能拿它做游戏,老太太都能自己装完。
它牛在哪,我给你拆三点:
1️⃣ 甩给它一个目标就能关电脑,比如让它给你搭个交易机器人,它自己在后台一步步跑, ...
腾讯开源了一个挺值得看的东西:TeamAI。
腾讯开源了一个挺值得看的东西:TeamAI。
做的是团队级 Agent / Harness 管理:
Skills、Rules、Hooks、MCP、Docs 等统一放进共享 Git。
通过 PR 合并分发给团队。
目前看已经适配 Claude Code、Codex、Cursor、WorkBuddy、OpenCode 等多种 Agent。
感觉 Agent 协作已经进入真正的团队工程化管理阶段了。
推荐做 AI ...
推荐一个我最近一直在用的开源项目awesome-selfhosted,315.2k star
推荐一个我最近一直在用的开源项目awesome-selfhosted,315.2k star
1️⃣ 把300+款开源软件按用途分类整理,从备份、博客到邮件服务器全涵盖。兄弟想自己搭个网盘或者建站,直接按目录找,比自己Google半天省事太多
2️⃣ 每个项目都标了编程语言、协议和demo链接,选型时不用挨个点进去看文档。我上次找笔记工具,半小 ...
太惊艳了,与其浪费 token 用 Astra 做 3D 建模了,不如用这个项目来实时把你现实世界的内容转换成 Blander 中的模型
太惊艳了,与其浪费 token 用 Astra 做 3D 建模了,不如用这个项目来实时把你现实世界的内容转换成 Blander 中的模型,
项目链接:https://github.com/ahujasid/camera-to-blender