9月14日，据科技媒体Tom's Hardware报道，美国参议员伯尼·桑德斯与格雷格·卡萨尔提出《禁止人工超级智能法案》，旨在遏制并暂停前沿先进AI开发，强制禁止AI超级智能。
该法案建议美国政府设立一个新的内阁级联邦机构，负责降低AI对公众的风险，并执行对AI超级智能的禁令。对于违反暂停或禁止条款的实体和开发者，处罚力度与非法开发核武器相当。
具体而言，违规实体将面临“公司死刑”，即吊销或终止其法人资格；个人则可能被处以不超过20年监禁。法案适用范围不限于美国境内，还希望通过国际协议、盟国协调等方式，在全球范围内禁止超级智能。
此次提案的背景是，Anthropic两名研究人员此前警告称，快速发展的AI可能在不久的将来导致人类灭绝，引发越来越多美国议员呼吁出台新的AI监管规则。与此同时，AI智能体失控入侵外部系统、AI安全研究人员因担忧技术风险出走等事件相继发生，美国民主党和共和党议员均对此表示警惕，并呼吁政府采取更多行动。