人工智能法案：通用人工智能模型/GPAI 提供商的义务

fabiha01

“人工智能能力越强，责任就越大。”但是，使用通用人工智能模型（GPAI）时会产生哪些具体责任和义务？通过这个悬念，我们结束了上一篇关于区分具有和不具有系统性风险的 GPAI 的文章。今天，我们在有关《人工智能法案》的博客系列中终于解决了这个悬念。

在之前的帖子中，我们概述了《人工智能法案》的要求和义务（此处），并更详细地讨论了人工智能系统运营商（此处）和提供商（此处）的责任。通用人工智能模型（GPAI）提供商需要考虑什么？

两列表格比较了 GPAI 提供商的基本义务和具有系统性风险的 GPAI 提供商的附加义务。

通用人工智能模型/GPAI提供者义务基本目录
通用人工智能模型的提供者负有特殊的责任，因为他们的模型通常构成其他人工智能系统的基础。我们现在将更详细地介绍所有通用人工智能模型/GPAI 的基本义务，即提供商对具有和不具有系统性风险的人工智能模型的具体义务。

根据《人工智能法》第 53 条第 1 款 (a) 项结合附件 XI（第 1 节）和第 53 条第 1 款 (b) 项结合附件 XII 规定的技术文件义务
《人工智能法案》第 101 条解释了技术文档义务的含义和目的等。作为人工智能价值链的第一环节，通用人工智能模型提供者肩负着特殊的责任。他们的模型可以作为许多其他人工智能系统的基础。基于该模型的人工智能系统的提供商（下游提供商）必须充分了解该模型，以便将其集成到自己的系统中，并能够自行履行相关的法律义务。因此，人工智能模型提供商必须确保提供有关其模型的清晰且最新的文档和信息。这些也有助于履行向欧洲人工智能办公室（AI Office）和国家主管部门提供证据的义务。

为了根据国家主管部门的要求提供证据，根据《人工智能法》第 53(1)(a) 条以及附件 XI（第 1 节）的规定， 技术文件必须至少包含以下内容：

人工智能模型的一般描述，根据《人工智能法》附件十一第1节第1号的规定，应包括以下内容：
模型任务的描述，以及可以集成的人工智能系统的类型和性质，
适用的可接受使用规则，
发布日期和发行方式，
架构和参数数量，
输入和输出的模态（例如文本、图像）和格式，
许可证。
模型要素的详细描述以及开发过程的相关信息（参见《人工智能法案》附件 XI，第 1 节，第 2 号）。
根据《人工智能法》第 53(1)(b)(ii) 条以及附件 XII 的规定，必须向下游供应商提供的技术文档遵循类似的最低内容逻辑，但不需要对模型的组成部分及其开发过程进行“详细”描述。

根据艺术制定策略。第53段1 升人工智能法案
根据《人工智能法》第 53(1)(c) 条，通用人工智能模型/GPAI 的提供者还必须实施“遵守联盟版权及相关权利的策略，特别是识别和遵守根据 (EU) 2019/790 指令第 4(3) 条援引的法律保留，包括采用最先进的技术”。

在《人工智能法》第 105 至 109 条的背景下，这项义务的理由变得可以理解。目的是确保《人工智能法案》能够延续版权的保护目的。

人工智能模型训练方式的透明度（《人工智能法》第 53 条第 1 款 d 项）
《人工智能法》第 53（1）（d）条规定了透明度义务，即提供商必须编写并发布“足够详细的摘要”，以解释人工智能模型的训练方式。本摘要旨在解释哪些内容用于训练AI模型。由于“足够详细的摘要”这个问题尚有待进一步解释，因此欢迎人工智能办公室为此目的准备一个模板。

对于在第三国设有分支机构的供应商，有义务指定授权代表（AI法案第54条）
对于在第三国设立的通用人工智能模型的提供者，《人工智能法》第54(1)条要求指定在欧盟设立的授权代表。此指定要求旨在确保在欧盟境内有一位提供商的联系人，新加坡商业传真列表 以回答欧洲人工智能当局关于遵守《人工智能法案》的问题。

通用人工智能模型/具有系统性风险的通用人工智能模型提供商的额外义务
除了上述义务清单外，具有系统性风险的通用人工智能模型/GPAI 的提供商还需承担进一步的义务。

通知义务（人工智能法第 52 条第 1 款）
具有系统性风险的通用人工智能模型/GPAI的提供者有义务在以下情况后立即（无论如何在两周内）通知欧盟委员会：

根据艺术具有系统性风险的通用人工智能模型/GPAI 的状况。第51段1 升满足人工智能法案或
得知这一要求已得到满足。
该通知必须包括有关遵守《人工智能法》第 51(1)(a) 条规定条件的证明信息。

根据《人工智能法》第 53 条第 1 款 (a) 项以及附件 XI（第 2 节）的规定，扩展技术文档要求
除了上述技术文档的要求外，具有系统性风险的 GPAI 提供商还必须提供其他信息。根据《人工智能法》附件 XI（第 2 节），技术文档必须包括以下内容：

测试策略的详细描述：
这应该包括基于公开可用的测试协议和工具或其他测试方法的测试结果。测试策略还必须包括所使用的测试标准和指标，以及识别局限性的方法。
全面描述进行内部和/或外部攻击测试所采取的措施：
例如，包括红队活动和模型调整，包括其调整和微调。
系统架构的详细描述：
这应该阐明各个软件组件如何相互作用、相互补充并集成到整体处理中。
《人工智能法》第55（1）条规定下的特殊义务
根据《人工智能法》第55（1）条规定，具有系统性风险的通用人工智能模型/GPAI的提供者除扩展的文档要求外，还必须履行以下具体义务。

模型评估以识别和降低系统性风险：
要求提供商使用标准化协议和最先进的工具来评估他们的模型。这还包括进行和记录攻击测试以识别和尽量减少潜在的系统性风险。
识别、评估和减轻潜在的系统性风险：
供应商必须评估在联盟层面因开发、分发或使用具有系统性风险的通用人工智能模型而可能产生的系统性风险，并采取措施减轻这些风险。
发生严重事件时有义务通知人工智能办公室和国家当局。
提供商必须收集和记录有关严重事件的相关信息，并立即通知人工智能办公室，并在适当情况下通知相关国家当局。
确保网络安全：
供应商有责任确保其具有系统性风险的通用 AI/GPAI 模型和相关物理基础设施具有适当的网络安全级别。
在发布协调标准之前，具有通用和系统性风险的人工智能模型的提供商可以根据《人工智能法》第 56 条，以所谓的“实践准则”（在德国版《人工智能法》中称为实践指南或行为准则）为依据，证明其遵守了《人工智能法》第 55 条第 (2) 款第 1 句规定的这些义务。根据《人工智能法》第56（9）条，这些指南将于2025年5月2日之前公布，并将为提供商提供有价值的指导。