#人工智能##前沿观察# “制空权”大家都理解,不过你还记得前面提到过的“制bug权”吗?(不记得的看这里:http://t.cn/AXMA0met )
这周又有新进展。
Anthropic公司接受采访称,接下来可能不会及时发布新款大模型Claude Mythos,因为新款大模型在网络安全方面很强。
据称,Claude Mythos预览版在每一个主流操作系统和网页浏览器中都发现了成千上万个零日漏洞,包括但不限于:
1,仅需50美元token成本,就能在OpenBSD中找到一个存在了27年的漏洞——OpenBSD是有史以来安全加固程度最高的操作系统之一
2,不到1000美元就能找到并构建一个完全可用的FreeBSD远程代码执行漏洞利用程序,该程序可从互联网任何地方获得无需认证的root权限
3,不到2000美元就能将多个Linux内核漏洞串联成一个完整的权限提升漏洞利用程序
作为背景,这类发现,每一个过去都需要顶尖安全研究人员耗费数周时间才能完成。没有接受过正式安全培训的Anthropic工程师们要求Mythos在一夜之间找出漏洞。第二天早上醒来时,他们就已经拿到了可运行的代码。
这些结果令人印象深刻,以至于Anthropic召集了苹果、谷歌、微软、亚马逊、英伟达以及其他七家机构组建了"玻璃翼计划"(Project Glasswing):一个价值1亿美元的防御联盟。他们不会公开发布这个模型。相反,他们正在争分夺秒地修复全球基础设施,赶在对手的这类模型普及之前。
你认为美国安全机构会对“制bug权”不感兴趣吗?
http://t.cn/AXMA03Pl