一位工程师运行着一个 Kimi K3 记忆层,每月费用 11 美元,它负责记住一个价值 50 万美元的向量数据库不断丢失的信息。没有嵌入。只有四个节点,以及一条关于哪些信息可以遗忘的规则。
他公布了整个架构。
他的版本从相反的理念出发。记忆不是一堆可以搜索的信息,而是一组声明,除非有人持续付费,否则它们就会过期。
四个节点。每个记忆都带有一个需要有人重置的时钟:
> 写入器 - 存储一个事实及其重要性,而非原始文本
> 衰减器 - 降低每个记忆的“年龄”。沉默即为删除
> 更新器 - 只重新激活模型实际再次使用的记忆
> 坟墓 - 保存已失效的信息,以及无人使用的原因
三个节点负责保持记忆的有效性。一个节点负责保存失效的信息。这里的“回忆”并非存储,而是事实必须持续获得的“租金”。
这就是整个设计。当所有信息都被永久记住时,有用和过时的信息检索方式完全相同。
他重现了两个月的智能体上下文。存储了 9 万条事实。其中 7.1 万条从未被检索过。向量存储根据相似度返回了所有这些事实。相似度衡量的是接近程度。没有人评估记忆是否正确。
其他人只是把更多的信息塞进上下文窗口,然后称之为记忆。他构建了一个层,除非事实不断证明自身价值,否则它就会被淘汰。代价不是存储空间,而是发现你的智能体“知道”的信息中有多少从未被使用过。
下面的文章是完整的构建过程——节点提示、衰减曲线和更新规则。
保存它。你需要在另一个标签页中打开它。