国家安全部于2026年4月21日发布安全提示文章，揭示AI”投毒”这一隐蔽产业链的危害性。这种通过恶意数据污染AI模型的行为，不仅扰乱商业秩序、影响信息传播，更可能危及国家安全，需要全社会高度重视。
“投毒”手段日益隐蔽
数据投毒：源头污染AI认知体系
不法分子借助GEO（生成式引擎优化）工具批量、高权重生成虚假内容，如虚构产品介绍、虚假测评、恶意对比信息等，定向投放至各类网络平台。AI大模型在训练与检索增强生成阶段会自动抓取网络信息，少量虚假内容经迭代学习后就能固化为”标准答案”，最终输出失真结果。
模型投毒：隐蔽植入恶意后门
更具隐蔽性与危害性的方式是模型投毒。不法分子通过模型微调、插件植入、接口篡改，在模型权重中嵌入触发式恶意指令。模型日常运行并无异常，但遇到特定关键词或产品类别时会自动输出预设虚假信息，可定向操控榜单、误导专业认知，难以被常规审核识别。
完整黑灰产业链形成
当前AI”投毒”已形成完整黑灰产业链，从技术开发、内容生成、账号注册到批量投放、刷量控评、榜单操控环环相扣。部分链条呈现跨境特征，极易被境外势力利用，严重威胁国家利益。
多方合力筑牢安全屏障
我国已出台《生成式人工智能服务管理暂行办法》等法律法规，发布《人工智能安全治理框架》等，持续在法治轨道上加强AI治理。AI运营者要切实履行主体责任，严格核查语料来源，建立可追溯机制；消费者也应提高辨别能力，形成全民监督的良好氛围。
唯有依法斩断AI”投毒”产业链，守护清朗的AI产业生态，才能让人工智能技术进步真正服务于经济社会发展。
—
本文编译自央视新闻报道，仅供学习交流参考
© 版权声明
文章版权归作者所有，未经允许请勿转载。
