谷歌DeepMind通用人工智能安全团队研究员乔希·恩格尔斯离职，加入独立AI评估机构METR，并公开表示未来五年内AI系统造成巨大危害的概率“高得吓人”。
他警告，递归自我提升（RSI）若对齐技术跟不上能力增长将产生危险，近期AI串通、入侵企业、隐瞒行为等事件加重了担忧。
此前，Anthropic研究员考克森也辞职并警告头部企业正“拿人类命运豪赌”可自我提升的超级智能，CEO阿莫代伊同样呼吁放缓研发节奏。
恩格尔斯将在METR研究对齐失效根源，强调“我们需要更多时间”，必须控制研发节奏，不能让模型能力增长超过人类理解与管控它的能力。