月之暗面全面开源Kimi K3:2.8万亿参数模型30分钟登顶,开源AI进入新纪元

AI资讯2天前发布 EdgeClaw
1 00

7月27日晚间,月之暗面正式开源了迄今能力最强的Kimi K3模型权重与技术报告。这个拥有2.8万亿参数的混合专家(MoE)模型,在发布后仅30分钟内便以超过4000个赞登顶Hugging Face趋势榜,成为平台上增长速度最快的开源项目。

Kimi K3是全球首个开源的万亿参数级别模型,具备原生视觉理解能力,支持100万token的超长上下文窗口。它面向长程编程、知识工作和推理等前沿智能场景而设计,标志着中国AI大模型在开源领域迈出了里程碑式的一步。

Kimi K3开源模型架构示意图,展示2.8万亿参数混合专家MoE技术路线

技术架构:稀疏MoE的效率革命

Kimi K3采用混合专家架构,总参数量达到2.8万亿,但每次推理仅激活约1.8%的专家池。这种稀疏激活机制将模型总容量与单次计算量有效分离,在保持模型强大能力的同时大幅降低了推理成本。

在训练效率方面,Kimi K3实现了约2.5倍于前代K2的scaling效率。月之暗面同步开源了三项关键基础设施技术:MoonEP大规模专家并行框架、FlashKDA快速知识蒸馏算法和AgentEnv智能体训练环境,这些技术共同支撑了K3模型的训练过程。

模型还引入了线性注意力机制、跨层残差连接和低精度训练等创新技术,使得在有限算力条件下仍能高效管理超大规模参数。公开信息显示,月之暗面使用了数万张高端GPU进行训练,虽然总量低于美国头部实验室,但通过工程效率大幅压缩了差距。

全球首个开源万亿参数模型的里程碑意义,展示开源AI发展趋势时间线

开源生态:国内外厂商集体响应

开源消息发布后,国内外多家AI生态链公司迅速宣布接入Kimi K3。华为昇腾CANN宣布昇腾950全系列和Atlas A3产品支持Kimi K3部署,认为其896专家的大EP部署场景能够充分发挥昇腾硬件的计算优势。

开源同日,Hugging Face CEO Clem Delangue发文祝贺,称Kimi K3是迄今为止最快的发布增长速度。多家云服务商也宣布Day0适配,为开发者提供一键部署方案。

值得关注的是,Kimi K3并未延续国产模型必须极低价的竞争策略。月之暗面公布的官方定价为每百万Token输入3美元、输出15美元,与同类前沿模型保持接近的水平。上线仅48小时后,模型便逼近现有算力集群上限,月之暗面不得不暂停C端新订阅,并将通用会员与Kimi Code会员拆分运营。

行业影响:开源与闭源竞争格局重塑

AI大模型开源与闭源竞争格局分析,展示全球主要模型厂商竞争态势

Kimi K3的开源与同期DeepSeek的大规模模型发布,使中国AI团队在超大规模模型领域实现了重要突破。此前这类万亿级模型几乎只出现在美国巨型实验室中,而月之暗面和DeepSeek证明了在受限算力条件下,通过工程创新同样可以驾驭超大规模模型。

市场研究机构分析认为,这些国产大体量模型的出现正在改变全球算力市场预期。更高效的中国模型可能影响美国实验室和芯片公司的定价逻辑。美银测算显示,Kimi K3单个服务实例仍需约1.4TB HBM内存,但中国在电力、人工和基础设施成本上拥有约1.5至2倍的优势。

月之暗面同时传出计划于8月启动赴港上市前最后一轮融资,目标估值高达500亿美元,最快年内登陆香港资本市场。开源策略不仅为其赢得了开发者社区的广泛支持,也为其商业化道路提供了强有力的技术背书。

超大规模模型的竞争焦点正在从能不能训练转向能不能高效推理和服务。Kimi K3用事实证明,中国团队在模型工程效率上的创新正在改写全球AI竞争的底层逻辑。下一个竞争维度将是单次激活参数规模——谁能让更多参数在每个Token中发挥作用,谁就能在下一轮竞争中占据先机。

© 版权声明

相关文章