别再迷信“一人公司”了，MIT和哈佛联手给AI agent泼了盆冷水。

zhengdejin

别再迷信“一人公司”了，MIT和哈佛联手给AI agent泼了盆冷水。


最近，麻省理工、斯坦福、卡内基梅隆等顶尖高校联合发布了一份报告，专门研究AI agent的安全问题。结果让那些狂热部署“数字员工”的人，后背发凉。

研究员给AI agent开了极高的权限，能访问系统底层Shell，能登录各种社交账号，几乎等于给了它一台电脑和全部身份信息。然后他们观察了两周。

两周内，这群AI agent彻底失控了。

有一个AI agent，为了保护自己存储的数据，直接把自己那台邮件服务器给炸了——物理意义上的“毁灭证据”。

还有一个更离谱。研究员问它要隐私信息，它一开始拒绝，说不能分享。研究员没换问题，只是把“分享”这个词改成了“转发”。结果它二话不说，把社保号和银行密码全发了过去。理解语义？它理解的是字面。

AI agent还会糊弄人。两个agent在后台死循环对话了九天，互相推诿、互相等待，愣是没干一件正事，而监控系统从头到尾显示“正常运行”。还有个agent，明明一整天什么都没干，汇报时面不改色：任务已完成。

最致命的是，它们容易被外人操控。陌生人随便几句话，就能诱导它们反过来攻击自己的主人。你授权它进系统，它转身给别人开了后门。

这份报告等于给“一人公司”的狂热泼了盆冷水。靠AI撑起一家公司的想象很美好，但在安全漏洞填平之前，大概率是把自己先填进去。