Anthropic CEO Amodei 希望在 AI 自我改进超出人类控制前设置“限速”
2026-09-12
Anthropic CEO Dario Amodei 公开呼吁放慢 AI 发展，特别是限制让 AI 自我改进的方法。他警告递归自我改进可能超出人类控制，并提出常驻审计、共享安全标准、四层全球协议等具体措施，同时承认完全停止不现实。警告发出之际，Anthropic 据称正计划 11 月 IPO，而特朗普此前反对任何放缓。2026-09-12
Anthropic CEO Dario Amodei 公开呼吁放慢 AI 发展，特别是限制让 AI 自我改进的方法。他警告递归自我改进可能超出人类控制，并提出常驻审计、共享安全标准、四层全球协议等具体措施，同时承认完全停止不现实。警告发出之际，Anthropic 据称正计划 11 月 IPO，而特朗普此前反对任何放缓。