历时三年，经过成员国与欧盟理事会、欧盟议会等欧盟层面机构的多次磋商、讨论，欧盟人工智能监管立法终于迎来重大进展。2024年3月13日，欧洲议会以523票赞成、46票反对和49票弃权的表决结果通过了《人工智能法案》。

天纵君（SKYLABS）对立法中的主要规定，简要概述如下：

禁止的应用：该法禁止某些威胁公民权利的人工智能应用，包括基于敏感特征的生物识别分类系统，以及从互联网或闭路电视录像中无针对性地抓取面部图像以创建面部识别数据库。工作场所和学校的情感识别、社会评分、预测性警务（仅基于对一个人的画像或评估其特征）以及操纵人类行为或利用人们弱点的人工智能也将被禁止。

执法豁免：原则上禁止执法部门使用生物特征识别系统，除非符合详尽列举和狭义界定的情形。“实时”远程生物特征识别只有在满足严格保障的情况下才能使用，例如，其使用在时间和地理范围上受到限制，并事先获得具体的司法或行政授权。这种用途可包括，例如，对失踪人员进行有针对性的搜索或防止恐怖袭击。事后使用此类系统（“事后远程RBI”）被认为是一种高风险用例，需要与刑事犯罪有关的司法授权。

高风险系统的义务：对于其他高风险人工智能系统（由于其对健康、安全、基本权利、环境、民主和法治的重大潜在危害），也规定了明确的义务。高风险人工智能应用的例子包括关键基础设施、教育和职业培训、就业、基本的私人和公共服务（例如，医疗保健、银行业）、执法、移民和边境管理、司法和民主程序（例如，影响选举）中的某些系统。这种系统必须评估和减少风险，保持使用日志，透明和准确，并确保人为监督。公民将有权提交对人工智能系统的投诉，并获得对基于高风险人工智能系统做出的影响其权利的决定的解释。

透明度要求：通用人工智能（GPAI）系统及其所基于的GPAI模型必须满足一定的透明度要求，包括遵守欧盟版权法和发布用于训练的内容的详细摘要。更强大的GPAI模型可能会带来系统性风险，将面临额外的要求，包括进行模型评估，评估和减轻系统性风险，并报告事件。此外，人造或人工处理的图像、音频或视频内容（"深度伪造"）需要明确标注。

支持创新和中小企业的措施：必须在国家层面建立监管沙盒和真实世界测试，并向中小企业和初创企业开放，以便在创新性人工智能投放市场之前对其进行开发和训练。

欧盟的《人工智能法案》将成为全球人工智能监管的一个重要里程碑，并可能为其他国家效仿对AI的监管铺平道路。不过该法案立法后如何实施仍将需要我们进一步观察。