今年将会是“Agent（智能体）”爆火的一年，前些天的“大养龙虾”就是一个例子，后面的日子，肯定还会出现新的玩意儿红遍网络。

潜龙忽悠

今年将会是“Agent（智能体）”爆火的一年，前些天的“大养龙虾”就是一个例子，后面的日子，肯定还会出现新的玩意儿红遍网络。


人类委托和依赖各种各样的“智能体”，去完成越来越多的工作，是必然的，但与此同时，会出现新的问题。

当前，人类与大模型交互所使用的，基于纯文本格式的、人类易读易改的提示词，实在太脆弱和危险了，简直和裸奔没啥区别。如果给智能体高的权限，让它可以直接与外部环境交互，甚至可以操控物理设备（比如机器人、无人机、汽车……），存在潜在的风险。

AI时代，怎样安全地使用智能体，防范其中的风险，会成为一个需要严肃对待的问题。