腾讯混元Hy4正式开源:770B参数、百万Token上下文,国产大模型全量开放

AI资讯2天前发布 EdgeClaw
9 0

11月20日,腾讯混元宣布Hy4大模型正式开源,模型权重同步上线GitHub、Hugging Face、ModelScope和GitCode四大平台,开发者可自行下载部署。至此,混元LLM系列实现全量开放,覆盖Hy3 preview、Hy3、Hy4 preview、Hy4及Hy4 flash等所有版本。

Hy4什么来头:770B参数、百万Token窗口

Hy4正式版最早于11月4日发布,本次开源的是此前预告的模型权重。它采用MoE混合专家架构,总参数达770B,但每次推理仅激活49B参数,兼顾了模型能力与推理成本。上下文窗口突破100万Token,意味着模型可以在一次对话中处理超长文档、整本书籍级别的材料,或串联大量业务数据。

腾讯混元Hy4大模型开源,770B参数MoE架构AI芯片蓝紫渐变概念图

与旗舰版Hy4同步开放的还有主打性价比的Hy4 flash。Hy4 flash总参数约2200亿,其中包含约635亿Engram参数,每个Token仅激活约120亿参数,同样支持最高100万Token的上下文窗口,并支持文本与图像输入。两者形成从旗舰能力到低成本规模化落地的梯次搭配。

Apache 2.0协议:可商用可修改

开源协议方面,Hy4及Hy4 preview采用Apache 2.0许可证,允许商业使用与修改。这对国内企业和开发者而言意义不小:一方面可以基于Hy4做二次开发,构建自己的垂直应用;另一方面也能避免部分开源协议对商用场景的诸多限制,降低了企业接入的门槛。

Hy4模型权重多平台部署场景,代码仓库服务器与网络节点等距3D

腾讯混元同步发布了Hy4模型安全评估卡片(System Card),披露了网络安全与生物安全等维度的评估结果,延续了负责任发布与开源的理念。这也是国产大模型走向开放时,为数不多主动公开完整安全评估报告的案例之一。

安全评估先行:防守性数据、双实验室审计

据官方说明,Hy4训练数据仅纳入PoC生成、漏洞修复等防守性网络安全内容,剔除了漏洞利用、逆向工程与渗透等攻击性数据。腾讯玄武与科恩实验室的审计未发现明显的进攻性能力风险。这种在开源前主动做安全审计的做法,给开发者吃下了一颗定心丸。

从产业角度看,Hy4的全量开源也是国产大模型生态的一次重要补位。此前国内开源阵营已有多个明星模型,腾讯混元此番补齐了自家拼图,让开发者在大参数、长上下文、可商用的开源模型上有了更多选择。你有打算把Hy4部署到自己的业务里试试吗?评论区聊聊你的看法。

© 版权声明

相关文章