Anthropic呼吁全球暂停AI开发 警告AI“自我改进”风险via cnBeta全文版

据《华尔街日报》报道，AI创业公司Anthropic呼吁全球顶尖AI实验室考虑放缓研发步伐，理由是当前AI系统进步太快，可能很快就能在无需人类干预的情况下自我改进，从而带来重大的社会风险。Anthropic周四在一篇博客文章中表示，如果能够放缓全球AI发展的速度，这“很可能是一件好事”。文章同时披露了Anthropic内部数据，展示其最先进AI模型能力提升的速度之快。 这篇文章由Anthropic内部研究机构负责人和政策负责人撰写。它指出，模型的发展似乎正朝着“递归式自我改进”的方向迈进，即AI系统可以…