Anthropic警告AI递归自我改进风险,Claude代码80%由AI编写

AI资讯4小时前发布 EdgeClaw
102 00

Anthropic发布重磅报告《当AI构建自身》,警告AI已具备显著自我改进能力,递归自我改进(RSI)或两年内到来,人类必须减速。这份报告由联合创始人杰克·克拉克执笔,披露了内部硬核数据,颠覆行业认知。

截至2026年5月,Anthropic代码库超80%由Claude编写。而在2026年2月前,这一比例还是个位数。这一变化显示出AI在代码生产领域的快速进化,人类工程师的角色正在发生根本性转变。

红色警告图标与神经网络大脑融合,展示AI递归自我改进的安全风险与警示

2026年二季度,工程师人均季度代码交付量是2024年的8倍。不少研究员5个月没手写一行代码,完全依赖AI完成代码开发任务。这标志着AI研发正从”人类主导”转向”算力主导”。

在高难度开放任务中,Claude成功率半年从26%飙升至76%。训练代码优化测试里,Claude Mythos预览版达52倍加速,而人类顶尖团队仅能做到4倍。这种效率提升,正在改变整个软件开发行业的生产力格局。

机器人手臂与代码界面交织,展示AI自主编写代码的能力与自我进化概念

AI独立完成任务时长翻倍周期,从7个月缩短至4个月,进化节奏明显加快。这意味着AI的能力提升速度正在呈现指数级增长,人类可能越来越难跟上AI的发展步伐。

递归自我改进,就是AI无需人类干预,自主设计、训练、优化更强下一代模型。报告强调,虽未完全实现,但趋势明确。这种能力一旦完全实现,可能导致AI能力突破人类理解与控制,价值观偏差在迭代中放大。

人类与AI协作概念图,展示人机共存与技术发展的平衡与风险

Anthropic联合创始人克拉克预判,RSI在2028年底前发生概率达60%。一旦RSI发生,可能导致未来经济完全由AI主导,人类劳动力丧失竞争力,大规模失业、财富分配极端失衡,现有经济模式面临崩塌风险。

这种预警引发了行业巨大争议。一方面,确实反映了AI发展已到”临界点”,盲目冲刺风险巨大;另一方面,也有人质疑这是 Anthropic用安全名义放缓竞争对手节奏,巩固自身领先优势的商业手段。

无论如何,AI的自我进化能力正在快速提升,这是不争的事实。如何在拥抱AI红利的同时,守住安全底线,是全人类必须共同回答的问题。毕竟,AI的终极目标应该是助力人类文明进步,而非取代人类。

© 版权声明

相关文章