·更新后的草案引入了旨在监管“通用人工智能”的新措施，适用于由微软、谷歌和OpenAI等科技巨头构建的资源密集型人工智能系统。大模型的创建者必须公开训练人工智能使用的数据，以确保其使用受版权法保护的数据训练。

(资料图)

·“鉴于人工智能将对我们的社会和经济产生深远影响，《人工智能法》很可能是这项任务中最重要的立法。这是全球第一项此类立法。”

欧洲议会两个委员会当地时间5月11日通过《人工智能法（The AI Act）》提案的谈判授权草案。草案就对ChatGPT等生成式人工智能大模型的一系列要求达成一致，标志着欧盟对人工智能实施强监管方面又迈出了一步。

新文本将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。

草案提出了新的保障措施，并禁止各种危险用例，包括禁止在公共场所进行大规模面部识别程序，以及禁止使用预测性警务系统（即AI犯罪预测系统）。草案还要求建立一个公共数据库，记录政府部门部署的“高风险”人工智能系统，公开数据，以便公民能够了解他们将何时以及如何受到这项技术的影响。

这一草案将于6月中旬提交欧洲议会全会表决，之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。欧洲议会的声明说，一旦获得批准，这将成为全世界首部有关人工智能的法规。

要求ChatGPT等承担新的义务

该草案由两个关键委员会批准：内部市场委员会（Internal Market Committee）和公民自由委员会（Civil Liberties Committee）。这些委员会由负责监督立法制定的欧洲议会议员组成。他们最终以84票赞成、7票反对、12票弃权批准了完成的草案。

“在草案中，欧洲议会议员旨在确保人工智能系统由人监督，且确保其安全、透明、可追溯、非歧视和环保。他们还希望对人工智能有一个统一的定义，旨在保持技术中立，以便其可以适用于现在和以后出现的人工智能系统。”欧洲议会在一份新闻稿中说。

修正案包括扩大禁止行为清单，以禁止对人工智能系统的“侵入性”和“歧视性”使用，禁止行为包括：在公共可访问空间建立实时远程生物特征识别系统；使用远程生物特征识别系统，唯一的例外是执法部门起诉严重犯罪，并且只有在司法授权后；使用敏感特征（例如性别、种族、民族、公民身份、宗教、政治取向）的生物识别分类系统；预测性警务系统（基于貌相、地点或过去的犯罪行为预测犯罪）；执法、边境管理、工作场所和教育机构中的情感识别系统；从社交媒体或监控摄像头中抓取生物特征数据以创建面部识别数据库（侵犯人权和隐私权）。

除了禁令之外，更新后的草案还引入了旨在监管“通用人工智能”的新措施，适用于由微软、谷歌和OpenAI等科技巨头构建的资源密集型人工智能系统，其中包括GPT-4和ChatGPT等语言模型，以及Stable Diffusion、Midjourney和DALL-E等人工智能图像生成器。

根据拟议的立法，人工智能大模型的创建者需要在人工智能使用之前进行评估并减轻各种风险，包括评估训练人工智能系统可能造成的环境损害。相关公司必须公开训练人工智能使用的数据，以确保其使用受版权法保护的数据训练。

有业内人士认为，版权问题可能会在美国产生重大影响。在美国，版权所有者已经对未经同意使用其数据的人工智能图像生成器提起了一系列诉讼，许多科技公司，如谷歌和OpenAI，都通过拒绝披露训练系统的数据（通常声称这些信息是商业机密）来避免这类法律挑战，若欧盟要求公开训练数据，则可能会产生新的诉讼。

《人工智能法》草案的另一个关键条款是创建一个“高风险”人工智能系统的数据库，以公开人工智能系统在欧盟的部署地点、时间和方式。“这个数据库应该是自由、公开且易于理解的。”草案中提到，“数据库还应方便用户使用，易于导航，至少具有搜索功能，允许公众在数据库中搜索特定的高风险系统以及相关的位置、风险类别等。”

创建这样一个数据库一直是数字权利活动人士的长期需求，他们表示，公众经常在不知不觉中被大规模监控系统进行实验，或在未经同意的情况下被收集数据来训练人工智能。

“其中一个大问题是，在伤害事件发生之前，我们对正在使用的人工智能系统一无所知。”非营利组织Access的高级政策分析师丹尼尔·卢弗（Daniel Leufer）说。他举了荷兰福利丑闻的例子，荷兰政府使用的一种算法错误地就数千张未支付税单发起诉讼。他表示，该数据库将帮助欧盟公民用信息武装自己，并使个人和团体更容易使用法律手段保护自身合法权益。

欧盟成员国还有重大分歧

对于人工智能监管的一系列想法已经在欧盟酝酿多年，投票结束后，联合报告员兼欧洲议会议员德拉戈斯·图多拉奇（DragosTudorache）在一份声明中评论说：“鉴于人工智能将对我们的社会和经济产生深远影响，《人工智能法》很可能是这项任务中最重要的立法。这是全球第一项此类立法，这意味着欧盟可以引领人工智能以以人为本、值得信赖和安全的方式发展。我们一直致力于支持欧洲的人工智能技术发展，为初创企业、中小企业和行业提供成长和创新的空间，同时保护基本权利，加强民主监督，确保成熟的人工智能治理和执法体系。”

“该草案具有全球意义。”数字倡导组织欧洲数字权利（European Digital Rights）的高级政策顾问萨拉·钱德（Sarah Chander）告诉科技媒体The Verge。正如钱德所说，这些法律很可能会影响世界各国。欧盟是一个十分重要的市场，许多科技公司经常在全球范围内遵守欧盟特定的法规，以减少同时遵守多套法规带来的损耗。

不过，该草案仍可能发生变化，在5月12日获得欧盟议会委员会的批准后，草案将在下个月面临全体会议投票，然后进入三方会谈，涉及欧盟成员国和欧盟政府机构的闭门谈判。

欧洲数字权利组织的高级政策顾问艾拉·雅库伯斯卡（Ella Jakubowska）说：“许多成员国政府热衷于保留进行生物识别大规模监控的能力。但我们也看到了奥地利和德国的不同意见，他们都赞成在《人工智能法》中加强对生物识别数据的保护。我们听说有传言说，其他几个国家愿意在生物识别条款的方向上做出妥协。这给了我们希望，三方会谈将取得积极成果，尽管我们当然希望几个会员国作出强有力的反击。”

钱德表示，数字权利活动人士最看重的是对生物识别监控和预测性警务系统的禁令，将在三方会谈中引起“重大分歧”。“成员国认为，人工智能的这些用途对于打击犯罪和维护安全是必要的。”钱德说。

（原标题：欧盟立法者制定生成式AI透明度规则，同意禁止公共场面面部识别）