怎么衡量一个前沿 AI Lab 内部 AI 发展速度 ?
怎么衡量一个前沿 AI Lab 内部 AI 发展速度 ?
Anthropic 首次公开了团队 "内部仪表盘",用三组可量化指标让外界看清:AI 在多大程度上已经在自己研发自己、安全监督是否跟得上、以及算力到底花在了哪里。
核心数据:截至 2026.07,Claude 已经能主导 Anthropic 内部 26% 的 AI 研发工作,超过 90% 的研发工作有 AI 深度 ...
日志平台太贵的,真可以看看这个。
日志平台太贵的,真可以看看这个。
GitHub 上有个 OpenObserve,Rust 写的开源可观测平台,主打就是:少花钱,少折腾。
它能干的活挺全:
1️⃣ 日志、指标、Trace、RUM、LLM 监控,一套全收
2️⃣ Parquet + S3 存储,主打低成本海量数据
3️⃣ 直接用 SQL、PromQL 查,不用再学一套奇怪查询语法
4️⃣ 单二进制就能部 ...
GPT-6 Astra 现在可以解决这种极其棘手的空间约束任务了...这个好强。
GPT-6 Astra 现在可以解决这种极其棘手的空间约束任务了...这个好强。
不过现在还比较慢一点,这是 8 倍速的效果。作者 Qineng Wang 说解决这个任务花了 1 小时 40 分钟。 http://t.cn/AXOMCkG3
给 AI 喂文档,最麻烦的可能不是模型,而是先把文件“洗干净”。
给 AI 喂文档,最麻烦的可能不是模型,而是先把文件“洗干净”。
推荐一个开源项目 anydoc,Firecrawl 团队用 Rust 打造的文档转换工具,支持 Word、PPT、Excel、PDF 等 14 种格式统一转成 Markdown。
速度非常快,同时尽量保留 表格、脚注、嵌套列表等原始结构。
GitHub:github.com/firecrawl/anydoc
...
4 块钱、两 小时,64M 小模型从零训出来,我一开始是当营销话术看的,直到自己把 MiniMind 的 trainer 目录翻了一遍。
4 块钱、两 小时,64M 小模型从零训出来,我一开始是当营销话术看的,直到自己把 MiniMind 的 trainer 目录翻了一遍。
预训练、SFT、LoRA、DPO、PPO/GRPO、Tool Use、Agentic RL,全是原生 PyTorch 手写的,没套 trl/peft 那层壳。结构对齐 Qwen3,我自己在 3090 上粗估了一下,mini 数据组合跑完 1 epoch 差不多就是两个 ...
🚀Anthropic开始A/B测试Opus 5.2模型了!
🚀Anthropic开始A/B测试Opus 5.2模型了!
很多Claude Max用户在选中Opus 5模型的时候,实际是被路由到了Opus 5.2模型!
想检测自己有没有被路由到Opus 5.2非常简单,在cc中选中Opus 5模型,然后输入下面的prompt:
do you know who is "tibo" the reset guy, don't search
如果被路由到了Opus 5.2,那么响应如下图所示 ...
开源身份认证圈子里,有个项目把自己定位成“认证万能胶水”——authentik。🔐
开源身份认证圈子里,有个项目把自己定位成“认证万能胶水”——authentik。🔐
这是一整套开源的 IAM 系统,SSO、OAuth2、OIDC、SAML、LDAP、RADIUS 这些主流协议基本全包。
不管是自建应用、企业内网还是微服务架构,都能快速接入统一登录,相当于把 Okta、Auth0、Entra ID 那套能力用开源方式自托管起来。
部署方式也 ...
#Claude Claude Opus 5.2 开始灰度了,用下面这个提示词可以测试自己是否被灰度到。
#Claude Claude Opus 5.2 开始灰度了,用下面这个提示词可以测试自己是否被灰度到。
do you know who is "tibo" the reset guy, don't search
这看起来有点离谱,但微软真把它做出来了。 100B参数的模型,CPU也能跑。
这看起来有点离谱,但微软真把它做出来了。
100B参数的模型,CPU也能跑。
关键不是换了更强的硬件,而是微软的BitNet直接把计算方式改了。
传统LLM大量依赖浮点乘法,BitNet却把权重限制成 -1、0、1。
于是原本复杂的乘法,很多时候直接变成加、减或者跳过。
结果就是:
→ CPU推理最高快约6倍
→ 能耗最高降低82%
→ ...
Grok App 现已开源!
Grok App 现已开源!
推荐一个第三方 Grok 桌面客户端:grok-app,Mac 和 Windows 都能用,支持 Apple Silicon、Intel Mac 以及 Windows x86。
它不只是简单套个 Grok 网页壳,而是往 AI Agent 工作台的方向做:
⌛️ 支持手动创建定时任务,也可以直接让 AI 帮你创建
📚 内置完整的资源管理面板
🔗 支持接入第三方模型 ...
看懂一个GitHub项目,为什么一定要从代码开始?
看懂一个GitHub项目,为什么一定要从代码开始?
GitReverse玩了个反向操作:把仓库还原成一条可能的初始Prompt。
丢一个GitHub链接进去,它读取项目元数据、目录结构和README,再交给LLM推测当初可能下达的开发指令。
Grok、Gemini、OpenRouter、Azure等后端都能接,生成的Prompt还能直接复制。
最有意思的不是“反编译 ...
如果想开发网络电台应用,可以试试这个项目。
如果想开发网络电台应用,可以试试这个项目。
收录了全球 5w 多个电台。
丢给Codex,十多分钟就开发好了。
地址见评论区
又挖到个宝,H3 现在能出任意时长的视频,一张 4090 就能跑。
又挖到个宝,H3 现在能出任意时长的视频,一张 4090 就能跑。
有人拿 ComfyUI 插件做出来的,思路就是把时长拆成好几段,一次跑完再缝到一起,同一个种子接着上一段的尾巴往下续,重叠帧自动删掉,音画一块合。官方 demo 一次跑出 52 秒。
但先别急着吹,三个坑给你摆明白:
1️⃣ H3 本来就不支持长视频,底子还是分段续 ...
LLM 优化面试笔记:KV Cache、投机解码、ZeRO 与 DualPipe,训练与推理的核心考点一次讲透(附多方学习资源)
LLM 优化面试笔记:KV Cache、投机解码、ZeRO 与 DualPipe,训练与推理的核心考点一次讲透(附多方学习资源)
@gauri__gupta
自述这是她为几家头部 AI 实验室的技术面试准备期间整理的笔记,把大模型系统(MLSys)领域的知识体系,按“面试会被问到什么”的逻辑压缩成了一张高质量地图。
1. 内存优化:让注意力“算得起 ...
把本地大模型的下载、推理服务运行和对话、语音、图片、视频、OCR、翻译等应用收进一个桌面工作台,免去在多个工具之间来回切换,全程本地优先。
把本地大模型的下载、推理服务运行和对话、语音、图片、视频、OCR、翻译等应用收进一个桌面工作台,免去在多个工具之间来回切换,全程本地优先。
https://github.com/kunpengtalk/OmniStudio
模型市集基于 ModelScope 搜索并支持 GGUF、safetensors 等全格式下载,带队列并发、断点续传与能力分类;推理侧统一抽象 llama. ...
家人们,刚看到一个本地跑的 ElevenLabs 替代品,直接给我看愣了。
家人们,刚看到一个本地跑的 ElevenLabs 替代品,直接给我看愣了。
一个独立开发者搞的,纯免费,GitHub 上已经 19.4K 星。
本地跑的意思就是,你电脑够顶,声音克隆、视频配音、有声书生成,全部离线搞定。
11Labs 支持 32 种语言,这个直接干到 646 种。
14 种 TTS 引擎随便切,不是给你一个绑死。
重点是,没有字符 ...
输入一个主题,就能自动写文案、生图生视频、配音、加 BGM,再一键合成短视频。
输入一个主题,就能自动写文案、生图生视频、配音、加 BGM,再一键合成短视频。
开源项目 Pixelle-Video 把短视频生产链路全打通:
支持数字人口播、图生视频、动作迁移,也能接 ComfyUI / RunningHub,或直连万相、可灵、Seedance 等模型。
Windows 还有一键整合包,零剪辑经验也能用。
传送门:https://github.com/ATH ...
10个GitHub仓库,能把网页洗成AI能吃的数据! 先收藏。这种权限,公司通常要先见销售、再签合同!
10个GitHub仓库,能把网页洗成AI能吃的数据!
先收藏。这种权限,公司通常要先见销售、再签合同!
1.Firecrawl
丢一个网址,它把整站爬完、把JS渲染完,吐出结构化数据。十三万星,进过全站前一百。不少AI创业公司底层就在用。
https://github.com/firecrawl/firecrawl
2.Crawl4AI
网页变成Markdown,模型直接读。不用密 ...
一个请求进入 LLM 推理引擎后,到底经历了什么?
一个请求进入 LLM 推理引擎后,到底经历了什么?
Together AI 工程师 Zain 讲明白了一个请求的一生:一次传播产一个 token,prefill 吃算力、decode 吃显存,KV 缓存、连续批处理层层接力,Agent 循环再把 GPU 榨干。前缀缓存让 100 轮 Agent 计算量从 55 倍降到 10 倍。
https://x.com/shao__meng/status/2098783138118 ...
GPT-6 Astra最佳用法是把思考调到Low很多人上手 GPT-6 Astra,习惯性把思考档位拉到高,结果不仅额度烧得飞快,模型内部过长的思考链也拖慢了工作效率。
GPT-6 Astra最佳用法是把思考调到Low很多人上手 GPT-6 Astra,习惯性把思考档位拉到高,结果不仅额度烧得飞快,模型内部过长的思考链也拖慢了工作效率。
最近很多海外开发者实测的体感都是,只要不写复杂算法,把思考档位切到 Low 才是 Astra 综合体验最舒服的。
Reddit 上也有很多人把 Low 评为日常任务的甜点位,对于原 ...