Anthropic 首席执行官达里奥·阿莫迪在 CBS Sunday Morning 节目中接受采访时,以及在 9 月 12 日发表的题为《我们必须控制前沿发展速度》的文章中,将中美 AI 竞争比作冷战。阿莫迪呼吁有意放缓前沿 AI 的发展,认为安全研究无法跟上模型开发的步伐,后果可能是灾难性的。这一比较的核心在于阿莫…
以太坊联合创始人 Vitalik Buterin 于 9 月 14 日发文,提出对抗性治理机制设计理论的一个重要应用可能是 AI 安全。他强调,若能有效限制代理人之间的合谋,就能取得显著更好的结果,这一结论也可能适用于 AI 安全。他还指出,未来对 AI 的约束,或许更像是建立包含规则、权限、裁决和记录机制的制度体系。…