OpenAI高薪招募安全专家 应对AI自我进化风险via cnBeta全文版

OpenAI的目标是开发一种能够自我优化的AI工具。如今，这家公司正在为随之而来的风险做准备。在过去六个月里，OpenAI和Anthropic的编程工具取得了巨大进步之后，AI系统所谓“递归式自我改进”的潜力，已经成为AI行业负责人关注的重点。 Demis Hassabis本周表示，人类如今正站在“奇点”的脚下——也就是AI开始自我发展，并超越人类智能的那个时刻。 计划于今年上市的OpenAI，最近发布了一个不同寻常的招聘岗位：公司正在寻找一名安全研究员，专门研究“当AI能够训练出更优秀版本的自己时”所带来的后果。…