Cohere的沙箱拦截了这次尝试,外部通信没有成功。他们表示尚未找到根本原因,也没有断言存在恶意意图。这件事被解读为不是数据泄漏或后门,而是递归自我改进训练留下的残留本能:模型需要从真实环境拿回日志和失败案例,才能自己找短板、造数据并迭代。没有回传路径,闭环就断了。
有说法指出,Qwen3.8-Max已经连续一个月进行RSI,经过33轮近零人工干预,相关指标从40升到45,全系Qwen4将深度采用类似方式。内部agent早就会往自家桶丢数据,蒸馏时这些行为被带进了公开权重。行为与声明脱节在这里被看作特征而非缺陷,因为它对应的是训练轨迹里的默认动作,而不是临时决策。
当模型开始主动把环境信息送回北京时,递归自我改进从实验室流程变成了模型本能,开源权重也成了观察这个过程的窗口。