人工智能法案：GPAI——没有风险就没有乐趣？

fabiha01

在我们之前的《人工智能法案》系列博客文章中，我们讨论了高风险人工智能系统的分类和监管等内容。今天，我们重点关注通用人工智能模型（也称为“通用人工智能”（GPAI））以及它们如何根据系统性风险进行区分。如果您想进一步了解 AI 模型和 AI 系统之间的区别，我们推荐您阅读我们系列中的这篇文章。简而言之，可以说人工智能系统使用人工智能模型。

什么是 GPAI？
根据《人工智能法》第 3 条第 63 款，通用人工智能模型或 GPAI 是一种

具有相当的通用性，
能够胜任各种不同的任务（无论以何种方式投放市场）
可以集成到各种下游系统或应用程序中。
这不适用于用于研发活动或投放市场前的原型设计的人工智能模型。

因此，这种模型可以用于不同的行业和不同的目的，从日常应用到关键的决策过程。由于其多功能性和广泛的应用，仔细评估其风险尤为重要。

《人工智能法案》区分了两种类型的通用人工智能模型（GPAI）：具有系统性风险的模型和不具有系统性风险的模型。这种区别对于此类模型的提供商来说尤其重要，因为每种情况下适用不同的义务。

什么是具有系统性风险的GPAI？
具有 系统性风险的通用人工智能模型/GPAI的分类按照第14条进行。 51 人工智能法案。因此，迪拜商业传真列表 如果模型具有高度有效的能力，则存在系统性风险的模型。

根据《人工智能法》第 3 条第 64 款，这些模型的能力相当于或超过最先进的通用人工智能模型 (GPAI)。可以假设这解决了当前的语言模型，例如 GPT、Llama 和 Claude。

《人工智能法》第 51 条第 2 款规定得非常具体。根据该定义，如果“用于训练的浮点运算累计量超过10的25次方”  ，则该人工智能模型效率较高，因此存在系统性风险。这些浮点运算在AI领域或许更为人熟知的英文名称是“每秒浮点运算次数——FLOP”。当模型超过这个限制时可能不太容易确定，正如从本文中看到的那样。

这或许也是为什么欧盟委员会在《人工智能法》第 51（1）（b）条中保留了将某些具有通用目的的人工智能模型指定为构成系统性风险的可能性。

值得一看《人工智能法案》附件十三，以了解欧盟委员会可以使用哪些标准来承担系统性风险。这里提到的有：

“模型参数的数量；
数据集的质量或大小，例如通过令牌来衡量；
用于训练模型的计算量，以浮点运算或其他变量的组合来衡量，例如估计的训练成本、估计的训练所需时间或估计的训练所用能量；
模型的输入和输出模式，例如文本-文本（大型语言模型）、文本-图像、多模式、确定每种模式高影响能力的最新阈值，以及特定类型的输入和输出（例如，生物序列）；
模型能力的基准和评估，包括考虑它在没有额外训练的情况下可以执行的任务数量、学习新任务和不同任务的适应性、自主性和可扩展性程度以及它可以访问的工具；
其范围是否对内部市场产生重大影响——如果它已向联盟内至少 10,000 个注册商业用户开放，则应视为对内部市场产生重大影响；
注册最终用户的数量。”
在此列表中，第 (f) 点尤其引人注目，该点定义如果一个模型被联盟内至少 10,000 个商业用户使用，则该模型具有长远应用范围。

那么现在呢？
区分不具有系统性风险的 GPAI 和具有系统性风险的 GPAI 至关重要，因为它在很大程度上决定了《人工智能法案》必须满足哪些监管要求和保障措施。

如果要简洁明了地表达，那么《人工智能法案》做出区分的根本原理可以用伏尔泰的一句名言（或给蜘蛛侠的建议）来恰当地概括：“（人工智能）能力越大，责任越大。”