人工智能法案：高风险人工智能系统——立即分类

fabiha01

在我们系列的前几篇博客文章中，我们讨论了《人工智能法案》的义务何时适用的问题。

培训要求和某些人工智能实践的禁令将于 2025 年 2 月 5 日起生效。

我们还展示了如何识别被禁止的人工智能实践，以便及时制止或修改它们。

一旦处理好了这两点，处理从 2026 年 8 月 2 日起适用的义务就已经很有意义了。在某些情况下，履行义务可能需要更长的准备时间。

许多义务取决于人工智能系统是否属于高风险人工智能系统的分类。

一个重要的步骤是分类：是否是高风险的人工智能系统？
一个人工智能系统是否必须被归类为高风险人工智能系统，由《人工智能法》第6条决定。经过仔细审查（至少着眼于 2026 年），第 1 段可以暂时忽略。这是因为，其中提到的系统自 2027 年 8 月 2 日起才会被特殊归类为高风险人工智能系统。这是根据《人工智能法》第 113(c) 条的规定。

如果我们进一步研究《人工智能法》第6条，第2款则规定了哪些系统通常被归类为高风险人工智能系统。该段落很短，但引用了《人工智能法案》较长的附件三。实际的分类工作就是在这里进行的。

然而，在我们转向本附件之前，值得预览一下第 3 段。因为，无论附件三如何，如果一个系统“不会对自然人的健康、安全或基本权利构成重大损害风险，尤其是不会对决策过程的结果产生重大影响”，则它不被视为高风险。

测试方案
鉴于2026年8月2日（我们排除《人工智能法》第6（1）条），必须首先检查人工智能系统在多大程度上根据附件三被归类为高风险人工智能系统。如果属于本目录范围，仍需评估《人工智能法》第 6（3）条规定的例外情况是否适用。

让我们首先讨论一下人工智能系统是否应该根据附件三被归类为高风险人工智能系统的问题。

生物识别技术
根据第1段，以下系统被视为高风险：

生物特征远程识别系统（除非该系统仅用于验证一个人是否是其所声称的人）
基于敏感或受保护属性的人员生物特征分类系统
使用生物识别人工智能系统的情绪识别系统
关键基础设施的运营商（但绝不是全部）
附件第2款针对的是关键基础设施的运营者，但绝不是针对所有的关键基础设施的运营者。这里仅提及关键数字基础设施的运营商和道路运输、供水、供气、供热或供电领域的关键基础设施的运营商。德国关键基础设施条例涵盖的许多领域在这里甚至没有提及。尤其是卫生部门不受第二款的影响。

甚至那些在第 2 段中自称是关键基础设施运营商的人：这指的是按预期用作“安全组件”的人工智能系统。根据《人工智能法》第3条第14款的法律定义，只有当人工智能系统履行安全功能，或者其故障或失灵危及人员或财产的健康和安全时，才是这种情况。

大多数关键基础设施的运营者都可以松一口气了！

普通教育和职业教育
在普通教育和职业教育背景下，人工智能的使用很快就会变得高度危险。这就是附录第 3 段所涉及的内容。必须特别注意以下系统

关于教育机会的获取、录取和分配，
用于评估和管理学习成果，
评估适当的教育水平或
监控和检测禁止的考试行为
应该使用。

人工智能在就业中的应用
附件第 4 段涉及人工智能在雇佣关系中的使用。高风险的人工智能系统

员工招聘和选拔系统（包括有针对性地发布招聘广告），
支持影响就业、晋升、解雇条件的决策的系统，
根据个人行为或个人特征和属性分配任务的系统或
用于观察或评估雇佣关系中的表现和行为
获得某些服务和优惠
最后，第五段规范了从根本上来说私人的和从根本上来说公共的服务和福利的获取和使用。当涉及以下系统时，法国商务传真列表 使用人工智能就会变得非常危险：

当局处理申请的系统，前提是要批准索赔和福利
信用评估和信用评级系统（金融欺诈检测系统除外）
人寿和健康保险的风险评估和定价系统
对紧急呼叫进行分类、优先部署紧急救援服务以及对紧急护理进行分类决策的系统。
第 6 至 8 段的其余规定涉及执法当局、处理移民、庇护和边境管制的当局、司法当局以及支持司法管理和民主进程的系统。

中期结果：高风险人工智能系统的数量可能低于最初的预期
任何人之前认为人工智能系统仅仅因为处理健康数据就应该被归类为高风险人工智能系统，都会感到失望或松一口气。 《人工智能法案》对高风险人工智能系统的严格义务，可能首先会影响到数量相对可控的人工智能系统。这种情况将来可能会发生变化，因为《人工智能法案》明确规定，附件三中的名单可能会扩大。然而，我们必须等待进一步的发展。不过，我们也不想忽略一个事实，那就是我们暂时故意忽略了《人工智能法》第 6（1）条。该法案要到2027年8月2日才会生效。然而，根据《人工智能法案》附件一的规定，一系列产品届时可能被视为高风险人工智能系统——包括医疗设备。