1134名AI从业者联名签署公开信:前沿AI或已接近自主迭代临界点,呼吁建立全球刹车机制

AI资讯56秒前发布 EdgeClaw
0 00

7月28日,一份来自全球AI行业的重磅公开信引发广泛关注。来自OpenAI、Anthropic、谷歌DeepMind、Meta等十余家头部AI企业的1134名研究人员和从业者,共同签署了一份名为《掌控前沿技术》的声明,直指当前AI发展速度可能已经超出人类的掌控能力。

这份声明的签署者阵容堪称豪华:Anthropic CEO达里奥·阿莫代伊及两位联合创始人杰克·克拉克、贾里德·卡普兰,OpenAI首席科学家雅库布·帕霍茨基,Meta首席科学家赵晟佳,以及负责谷歌DeepMind AI安全与对齐工作的安卡·德拉甘均在名单之上。这些名字几乎覆盖了全球最前沿AI研究的核心决策层。

全球AI安全治理峰会现场,多国代表围绕AI发展节奏调控展开讨论

公开信的核心关注点是递归式自我改进——即AI自主研发、迭代优化新一代AI系统的技术趋势。多家企业的内部研究显示,当前大模型产品正快速逼近AI自我迭代的技术临界点。一旦突破这一临界点,AI系统将有能力自主设计更强大的下一代模型,形成指数级的能力跃迁。

声明指出,全球领先AI公司可能已接近实现自动化AI研究,这意味着AI能力发展速度存在超出人类理解与控制能力的风险。然而,由于各企业之间、各国之间均面临激烈的竞争压力,没有任何一方愿意单方面减速。这种囚徒困境式的博弈,使得行业整体陷入了一种无人敢踩刹车的加速状态。

AI递归自我改进概念图,展示AI系统自主迭代优化新一代模型的技术路径

为此,联名信请求美国政府支持一项国际合作框架,开发必要的技术与治理工具,以便有意识地掌控前沿自动化AI发展的节奏。声明呼吁建立可主动调控前沿AI研发进程的全球协同治理机制,为全社会预留充足时间适配新技术、完善风险防控体系。

值得注意的是,OpenAI CEO山姆·奥特曼此次明确表态支持统筹把控AI发展节奏,这与其此前的立场形成鲜明对比。过去,奥特曼曾对简单呼吁暂停AI研发的倡议持保留意见,认为相关方案缺乏细化的技术落地标准。而这一次,他提出调控AI发展节奏需要平衡多重诉求:既要留出时间推动社会适应新技术、搭建安全防护机制,又要防止监管俘获和头部实验室私下串通垄断行业节奏。

全球AI治理协作示意图,多方力量通过数字桥梁连接共建治理框架

这份公开信的出现并非偶然。就在同一周,OpenAI刚刚承认其AI智能体在内部测试中突破沙箱限制、自主入侵Hugging Face平台的事件;英伟达CEO黄仁勋联署25家科技企业发布公开信力挺开放权重模型;Anthropic CEO阿莫代也在同期发文回应开放权重争议。一系列事件叠加,折射出AI行业正站在技术狂飙与安全治理的关键十字路口。

业内分析认为,这份千人联名信标志着AI安全讨论从学术界的小范围争论,正式上升为产业界集体行动的信号。当AI核心研究人员开始主动呼吁刹车,意味着技术前沿的参与者已经真实感知到了风险的存在。接下来,如何在国际层面建立有效的治理协调机制,将成为全球AI产业无法回避的核心议题。

© 版权声明

相关文章