欧洲议会的内部市场委员会和公民自由委员会已经批准了人工智能系统的新透明度和风险管理规则，即 AI 法案。
这标志着欧洲 AI 监管发展的重要一步，因为这是 AI 有史以来的第一条规则。 这些规则旨在确保人工智能系统安全、透明、可追溯和非歧视。
投票结束后，联合报告员 Brando Benifei（S&D，意大利）表示：
“我们即将制定必须经得起时间挑战的具有里程碑意义的立法。 至关重要的是要建立公民对人工智能发展的信任，为欧洲制定应对已经发生的非凡变化的方式，并在全球范围内引导关于人工智能的政治辩论。
我们相信我们的案文会平衡基本权利的保护与为企业提供法律确定性和刺激欧洲创新的需要。”
联合报告员 Dragos Tudorache（Renew，罗马尼亚）补充说：
“鉴于人工智能将对我们的社会和经济产生深远的变革影响，人工智能法案很可能是这项任务中最重要的立法。 这是全球首个此类立法，这意味着欧盟可以带头使人工智能以人为本、值得信赖和安全。
我们一直致力于支持欧洲的 AI 创新，并为初创企业、中小企业和行业提供发展和创新的空间，同时保护基本权利，加强民主监督，并确保成熟的 AI 治理和执法体系。”
这些规则基于基于风险的方法，它们根据 AI 系统可能产生的风险级别为提供者和用户规定了义务。 对人类安全构成不可接受风险的人工智能系统将被严格禁止，包括部署潜意识或有目的地操纵技术、利用人们的弱点或用于社会评分的系统。
欧洲议会议员还大幅修改了禁止人工智能做法的清单，以包括禁止对人工智能系统的侵入性和歧视性使用，例如公共空间中的实时远程生物识别系统、后远程生物识别系统（执法目的除外）、 使用敏感特征的生物识别分类系统、预测性警务系统、执法、边境管理、工作场所和教育机构中的情绪识别系统，以及从社交媒体或闭路电视录像中不加区别地抓取生物识别数据以创建面部识别数据库。
欧洲议会议员还扩大了高风险领域的分类范围，将对人们健康、安全、基本权利或环境的危害包括在内。 他们还将影响政治竞选选民的人工智能系统和社交媒体平台使用的推荐系统添加到高风险列表中。
为了促进人工智能创新，欧洲议会议员在这些规则中增加了对根据开源许可提供的研究活动和人工智能组件的豁免。 新法律还促进了监管沙箱——或公共当局建立的受控环境——在部署人工智能之前对其进行测试。
欧洲议会议员希望提高公民对人工智能系统提出投诉的权利，并获得对基于严重影响他们权利的高风险人工智能系统的决策的解释。 欧洲议会议员还改革了欧盟人工智能办公室的角色，该办公室的任务是监督人工智能规则手册的实施方式。
总部位于伦敦的律师事务所 Fladgate 的技术和人工智能监管合伙人 Tim Wright 评论道：
“鉴于欧盟议会委员会已为其开创性的 AI 法案开绿灯的消息，美国的 AI 开发人员可能会比欧洲竞争对手抢先一步，根据该法案，AI 系统从一开始就需要根据其潜在危害进行分类。
美国的技术方法通常是先进行试验，一旦建立了市场和产品契合度，再对其他市场及其监管框架进行改造。 这种方法促进了创新，而欧盟的人工智能开发人员将需要注意新规则并开发可能削弱他们创新能力优势的系统和流程。
英国正在采用与美国类似的方法，尽管与欧盟市场的接近意味着英国开发商更有可能从一开始就遵守欧盟规则。 然而，在安全空间（监管沙箱）中进行试验的潜力可能非常有吸引力。”
在与理事会开始就法律的最终形式进行谈判之前，该谈判授权草案需要得到整个议会的批准，预计将在 6 月 12 日至 15 日的会议期间进行表决。
