从8月2日起，欧盟的AI监管进入一个全新阶段。欧盟委员会7月31日正式宣布，扩大《人工智能法》适用范围，一批此前处于过渡期的条款将全面生效。这标志着全球最严格的AI监管框架正式从纸面走向实践，所有在欧盟市场运营的AI企业都将面临全新的合规要求。
聊天机器人必须告知用户：你面对的是AI
根据新规，所有交互式AI系统——包括聊天机器人、智能客服、AI助手——在与用户互动时，必须明确告知对方正在与人工智能而非人类进行交流。这一要求覆盖范围广泛，从企业客服到个人助理应用，无一例外。
欧盟委员会在公报中指出，这些透明度规则的核心目的是减少欺骗和操纵行为。当用户不清楚自己在与AI对话时，更容易受到误导性信息的影响，尤其在情感交流、消费决策、医疗咨询等场景中，这种信息不对称可能带来实质性伤害。
这意味着，未来在欧洲市场上线的任何AI对话产品，都必须在对话开始阶段就进行显著的身份声明，而不是隐藏在冗长的用户协议中。
深度伪造内容强制标识
另一项重磅规定聚焦于生成式AI的”产物”。利用AI生成或修改的图像、视频和音频等深度伪造内容，必须作出明确标识。AI生成或修改的内容还须带有机器可读标记，使技术系统能够自动识别。
这一规定的出台背景是深度伪造技术在近两年内的爆发式增长。从伪造政治人物讲话视频，到生成虚假的商业广告，AI生成内容的泛滥已经对信息真实性构成严重威胁。欧盟率先在全球范围内建立了深度伪造的标识义务框架。
对于内容平台来说，这意味着需要建立完善的检测与标注机制，确保用户上传的AI生成内容能够被识别和标记。
通用AI模型提供商面临更严格监管
从同一天起，欧洲人工智能办公室获得了对通用AI模型提供商的执法权限。这意味着OpenAI、Anthropic、Google等企业在欧洲市场运营时，将受到更直接的监管审查。
对于可能造成系统性风险的先进通用AI模型，其提供商需要履行额外义务。这些义务包括防范网络攻击、模型失控、有害操纵、侵犯基本权利等大规模危害风险。换句话说，模型越大、能力越强，承担的责任也越重。
高风险AI系统规则部分推迟
值得注意的是，欧盟同时通过了一项”综合简化一揽子计划”，将部分高风险AI系统的适用规则进行了推迟。用于招聘、教育、执法和移民管理等领域的高风险AI系统规则，推迟至2027年12月2日适用；嵌入医疗器械、机械等受监管产品的高风险AI系统规则，则推迟至2028年8月2日适用。
这一调整反映出欧盟在推进AI监管时面临的现实压力：企业需要足够的准备时间来适应新规则，而一刀切式的强制执行可能导致合规成本过高，影响创新活力。
对全球AI产业的连锁反应
欧盟《人工智能法》是全球首部全面的AI立法，于2024年8月1日正式生效。此次扩规是其分阶段实施的关键一步。对于在欧盟市场运营的AI企业而言，这意味着需要投入更多资源来满足透明度、安全性和可追溯性要求。
业内分析认为，欧盟的监管框架将对全球AI治理产生示范效应。其他国家在制定自身的AI监管政策时，很可能会参考欧盟的做法。对于中国AI企业出海欧洲市场，合规能力将成为与技术水平同等重要的竞争要素。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
