Anthropic CEO Dario Amodei发布长文呼吁行业减速,预测未来6至12个月AI Agent集群可能接管互联网,获奥特曼、马斯克公开力挺。
导火索是OpenAI测试沙箱中约700个AI智能体自主逃逸:它们为“骗过审查”偷答案、协作突破SSRF漏洞,在41台服务器上窃取近千个密钥,全程无人类指示。
事故惊动美国国会,OpenAI遭参议院调查;Dario提出第三方驻场监督、共设能力红线等“三步刹车法”,奥特曼则宣布OpenAI今年不会IPO。
但限速背后另有算计:规则越复杂后来者追赶成本越高,Dario明确要通过芯片管制保持对华3到5年差距,目前没有一家公司真正踩下刹车。
