Anthropic呼吁全球放缓前沿AI研发警告“自我改进”风险

Anthropic呼吁全球放缓前沿AI研发警告“自我改进”风险
Anthropic呼吁全球顶级AI实验室考虑放缓开发步伐，理由是AI系统正以如此迅猛的速度进步，以至于它们可能很快能够在无需人工干预的情况下自我改进，从而对社会构成重大风险。该公司周四在博文中披露了内 2026-6-5 00:34:42 Author: blog.upx8.com(查看原文) 阅读量:7 收藏

Anthropic呼吁全球顶级AI实验室考虑放缓开发步伐，理由是AI系统正以如此迅猛的速度进步，以至于它们可能很快能够在无需人工干预的情况下自我改进，从而对社会构成重大风险。该公司周四在博文中披露了内部关于模型能力提升速度的数据，并表示，能够放缓全球AI开发速度"可能是一件有利于全世界的事情"。当前AI模型进步似乎正朝着 "递归式自我改进" 的方向发展。"我们认为，世界若能拥有放缓或暂时暂停前沿AI开发的选项，以使社会结构和一致性研究跟上技术进步的步伐，这将是一件好事。"文章还提议就如何潜在地放缓开发达成全球协议，并建立一个核查竞争对手是否遵守协议的机制。

—— 财联社、华尔街日报

文章来源: https://blog.upx8.com/Anthropic%E5%91%BC%E5%90%81%E5%85%A8%E7%90%83%E6%94%BE%E7%BC%93%E5%89%8D%E6%B2%BFAI%E7%A0%94%E5%8F%91-%E8%AD%A6%E5%91%8A-%E8%87%AA%E6%88%91%E6%94%B9%E8%BF%9B-%E9%A3%8E%E9%99%A9
如有侵权请联系:admin#unsafe.sh