天纵君（SKYLABS）近日注意到，在2023年12月8日，欧盟成员国及欧洲议会议员就《人工智能法案》（以下称“法案”）达成了初步协议。目前欧盟仅公布了法案的提案，尚未公布最终的法案版本，下一步，欧盟将就法案的更多技术细节进行最终讨论确定后公布。

法案明确了适用于所有人工智能系统的一般原则以及禁止的人工智能行为。

一是明确了开发和使用人工智能系统或基础模型需遵守的六项一般原则，包括：

第一，人类主体和监督，即人工智能系统应作为服务于人、尊重人类尊严和个人自主权的工具来进行开发和使用，其运作方式可以由人类适当地控制和监督。

第二，技术稳健性和安全性，即人工智能系统的开发和使用方式应尽量减少意外伤害，并在出现问题时保持稳健。

第三，隐私和数据治理，即人工智能系统的开发和使用应符合现有的隐私和数据保护规则，同时，其处理的数据在质量和完整性方面也要符合高标准。

第四，透明度，即人工智能系统的开发和使用方式应允许适当的可追溯性和可解释性，同时应使用户意识到他们与人工智能系统的交流或互动，以及适当告知用户该人工智能系统的能力、限制以及对其权利的可能影响。

第五，多样性、非歧视和公平，即人工智能系统的开发和使用方式应考虑不同类别的用户，并促进机会平等、性别平等和文化多样性，同时避免欧盟或国家法律禁止的歧视性影响和不公平的偏见。

第六，社会和环境福祉，即人工智能系统应以可持续和环境友好方式进行开发和使用，并使所有人类受益，同时监测和评估对个人、社会和民主的长期影响。

二是明确了禁止开发和使用的特定人工智能系统。

法案禁止“侵入性”和“歧视性”等人工智能系统的使用，包括：

第一，采用超越人类意识的潜意识技术或有目的的操纵、欺骗技术，实质性扭曲人类行为，并可能对人类带来身体或心理伤害。

第二，利用个人或特定群体的弱点，包括人格特征、社会经济状况、年龄、身体或精神能力，实质性扭曲人的行为，对人类造成或可能造成重大伤害。

第三，为一般目的提供自然人社会评分，可能导致歧视性结果或对某类群体进行排除、限制使用。

第四，在公众可进入的空间使用实时、远程生物识别系统。

总的说来，法案为不同风险程度的人工智能系统施加不同的要求和义务，其提出的风险分类、价值链责任、负责任创新和实验主义治理等思路对我国人工智能立法具有一定的借鉴意义。