欧盟人工智能法规(2024年)及其2026年“数字综合方案”修订
第(EU)2024/1689号法规自2024年8月1日起生效,按风险对人工智能进行监管:自2025年2月2日起禁止八类做法,自2025年8月2日起适用通用人工智能模型规则,并规定了高风险系统的义务、透明度义务,罚款最高可达3500万欧元或全球营业额的7%。第(EU)2026/1744号法规(“人工智能数字综合方案”)自2026年7月27日起生效,将“高风险”义务推迟至2027年12月2日和2028年8月2日,并自2026年12月2日起新增禁止“脱衣”类应用以及人工智能生成的儿童性侵内容。
要点
人工智能数字综合法案预计节省的行政成本(上限)
0.43十亿欧元
初步估算,2025年11月 · 已公布
依据欧盟委员会(提案COM(2025) 836的理由说明)[5]
初始提案的估算区间约为2.972亿至4.332亿欧元;未进行影响评估。
概览
依据文本
Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act)(2024年6月13日关于人工智能的统一规则的法规)[1]
第2024/1689号 · 2024年6月13日
阅读文本 ↗推动方
实施方
- 欧盟委员会,欧洲人工智能办公室(负责监督通用人工智能模型)
- 成员国、国家市场监督机构和通报机构
- 欧洲人工智能委员会(成员国代表)
宣称目标
改善内部市场的运行,促进以人为本且值得信赖的人工智能,同时确保对健康、安全和基本权利(包括民主、法治和环境保护)提供高水平保护,防范人工智能系统的有害影响,并支持创新。2026年的修订旨在鉴于标准和主管机构的延误而便利实施,“且不降低保护水平”。[1][2]
依据第(EU) 2024/1689号条例第1条以及第(EU) 2026/1744号条例鉴于条款第2项和第3项
主要措施
- 八种被禁止的做法(第5条):有害的操纵或欺骗、利用弱点、社会评分、仅基于画像预测犯罪风险、无针对性地抓取人脸图像、在工作场所和学校中的情绪识别(出于医疗或安全原因的除外)、推断敏感特征的生物识别分类,以及执法部门在公共场所进行的实时远程生物识别(须事先获得授权的狭窄例外情形除外)。[1][14]
- 2026年新增的第九项禁令,自2026年12月2日起适用:禁止未经同意生成可识别个人的逼真私密图像、视频或音频(“脱衣”)或儿童性虐待内容的人工智能系统;对提供者而言,适用于系统的目的即为如此,或在缺乏适当保障措施时可预见会产生此类结果的情形;对使用者而言,适用于将其用于此目的的情形。[2][9]
- 高风险系统(作为欧盟安全立法(附件一)所涵盖产品安全组件的人工智能,以及用于附件三所列八个领域的人工智能,如招聘、信用评估、教育、执法或移民):风险管理、数据质量、技术文档、日志记录、人工监督、准确性与稳健性、合格评定。[1][7]
- 通用人工智能模型:技术文档、面向下游提供者的信息、版权合规政策以及训练内容的公开摘要。使用超过10²⁵次浮点运算训练的模型被推定具有系统性风险,还须接受评估(包括对抗性测试)、减轻风险、报告严重事件并确保网络安全。[1]
- 透明度:必须告知人们其正在与人工智能系统交互;人工智能生成的音频、图像、视频或文本须以机器可读格式标注;深度伪造内容须由发布者予以披露。[1]
- 处罚由成员国确定:对禁止的做法,最高3500万欧元或全球年营业额的7%(以较高者为准);对大多数其他义务,1500万欧元或3%;对提供误导性信息,750万欧元或1%。对中小企业(自2026年起还包括小型中等市值企业),适用较低的金额。欧盟委员会可对通用模型提供者处以最高1500万欧元或3%的罚款。[1][2]
- 治理:欧盟委员会的人工智能办公室负责执行通用人工智能模型的规则(信息请求、评估、罚款),并监督基于同一提供者模型构建的人工智能系统,该职责于2026年得到加强;各国市场监督机构负责执行其余规则;人工智能委员会汇集各成员国。[1][2][13]
- 2026年的简化措施:“安全组件”的定义更为狭窄;人工智能素养义务减轻为采取措施支持员工培训的义务;可例外处理个人数据以检测和纠正偏见;机械产品改由其自身的行业安全规则管辖;对中小企业的减负措施扩大到小型中等市值企业。[2][1]
数据一览
使用人工智能的企业(10名及以上员工)
20%
2025
使用生成式人工智能工具的人群
32.7%
2025
时间线
- 审议中
欧洲议会通过修正案:与理事会展开谈判[4]
议会与理事会谈判代表达成临时协议[7]
欧盟委员会设立人工智能办公室的决定[1]
该法规将人工智能办公室界定为欧盟委员会负责实施、跟踪和监督人工智能系统及通用人工智能模型的职能,该职能由2024年1月24日的欧盟委员会决定规定。
- 已生效
通用人工智能模型规则、治理和处罚规定开始适用[1]
以下内容开始适用:通报机构(第三章第4节)、通用人工智能模型(第五章)、治理(第七章)、处罚(第十二章,但欧盟委员会对模型提供者处以的罚款除外)以及保密。
欧盟理事会确定其对人工智能数字综合法案的立场[10]
欧洲议会通过对综合法案的修正案[6]
欧洲议会与欧盟理事会就综合法案达成临时协议[8]
谈判代表为“高风险”义务确定了固定日期,并将人工智能生成内容的标识期限提前至2026年12月2日,而非欧盟委员会提案中的2027年2月2日。
- 即将到来:结果尚不明确
禁止“脱衣”类应用和人工智能生成的儿童性虐待内容的规定开始适用;已在市场上的生成式系统的标识期限届满[2]
第5条第1款新增的(ba)项和(bb)项开始适用。2026年8月2日之前投放市场的、生成合成音频、图像、视频或文本的系统,其提供者此时必须以机器可读且可检测的方式对输出内容进行标识(第50条第2款)。
争论焦点
Citoyen不持立场:各方论据均按其提出者的原话转述。
支持者的观点
- 议会的共同报告员称其为全球首部具有约束力的人工智能法律,旨在降低风险、反对歧视并提高透明度,禁止不可接受的做法并保护劳动者和公民的权利(Brando Benifei,社会民主进步联盟),并使人工智能与欧盟的基本价值观相联系(Dragoş Tudorache,复兴欧洲)。[7]
- 对欧盟委员会和共同立法者而言,2026年的推迟是为了应对协调标准和成员国主管机构迟迟未能到位的问题,这使合规工作比预期更为繁重;欧盟委员会估计可节省2.97亿至4.33亿欧元。欧洲经济和社会委员会(CESE)曾建议使“高风险”义务的期限与标准的可用时间保持一致。[2][5][16]
- 综合方案的共同报告员阿尔巴·科卡拉里(Arba Kokalari,欧洲人民党)认为,“按下暂停键”并减少繁文缛节,将有利于在欧洲创办科技企业;共同报告员迈克尔·麦克纳马拉(Michael McNamara,复兴欧洲)则表示,该文本在保留该条例整体架构的同时提供了法律确定性,并增加了对“脱衣”类应用的全面禁令。[9]
反对者的观点
- 2021年,欧洲经济和社会委员会认为禁止范围过窄:它要求禁止在公众可进入的空间和私人空间中进行自动化生物识别(身份验证除外),并禁止识别行为信号;而最终文本允许警方在列明的情形下进行实时识别,并将其他生物识别用途列为高风险。[15][1]
- 欧洲区域委员会对综合方案一揽子文件未进行影响评估和公众咨询,以衡量其对基本权利保障的影响表示遗憾;欧盟委员会称未进行任何影响评估,认为这些修改属于技术性修改。[17][5]
- 欧洲经济和社会委员会(CESE)要求保留一项明确义务,即确保员工具备足够的人工智能素养(2026年文本将其改为采取措施予以支持的责任),并要求在提供者将附件三所列系统归类为非高风险时,保持对主管机构的透明度。[16][2]
值得关注的指标
来源
- [1]Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), OJ L, 2024/1689, 12.7.2024 –EUR-Lex, Official Journal of the European Union, 2024年7月12日
- [2]Regulation (EU) 2026/1744 of the European Parliament and of the Council of 8 July 2026 amending Regulations (EU) 2024/1689, (EU) 2018/1139 and (EU) 2023/1230 as regards the simplification of the implementation of harmonised rules on artificial intelligence (Digital Omnibus on AI), OJ L, 2026/1744, 24.7.2026 –EUR-Lex, Official Journal of the European Union, 2026年7月24日
- [3]Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), COM(2021) 206 final –European Commission (EUR-Lex), 2021年4月21日
- [4]Procedure 2021/0106/COD: steps of the procedure –EUR-Lex
- [5]Proposal for a Regulation amending Regulations (EU) 2024/1689 and (EU) 2018/1139 as regards the simplification of the implementation of harmonised rules on artificial intelligence (Digital Omnibus on AI), COM(2025) 836 final –European Commission (EUR-Lex), 2025年11月19日
- [6]Procedure 2025/0359/COD: steps of the procedure –EUR-Lex
- [7]Artificial Intelligence Act: MEPs adopt landmark law (press release) –European Parliament, 2024年3月13日
- [8]AI Act: deal on simplification measures, ban on “nudifier” apps (press release) –European Parliament, 2026年5月7日
- [9]AI Act: EP approves simplification measures and “nudifier” app ban (press release) –European Parliament, 2026年6月16日
- [10]Legislative Train Schedule: Digital omnibus on AI, 2025/0359(COD) –European Parliament
- [11]The General-Purpose AI Code of Practice (contents and signatories) –European Commission, Shaping Europe’s digital future
- [12]The General-Purpose AI Code of Practice is now available –European Commission, Shaping Europe’s digital future
- [13]European AI Office –European Commission, Shaping Europe’s digital future
- [14]AI Act: regulatory framework for AI –European Commission, Shaping Europe’s digital future
- [15]Opinion of the European Economic and Social Committee on the Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) (2021/C 517/09) –European Economic and Social Committee (EUR-Lex, OJ C 517, 22.12.2021), 2021年12月22日
- [16]Opinion of the European Economic and Social Committee on the Digital Omnibus on AI and the Digital Omnibus (C/2026/3225) –European Economic and Social Committee (EUR-Lex, OJ C, 2.7.2026), 2026年7月2日
- [17]Opinion of the European Committee of the Regions: Digital simplification and Data Union Strategy (C/2026/3469) –European Committee of the Regions (EUR-Lex, OJ C, 24.7.2026), 2026年7月24日
