Trust AI@TÜV SÜD专栏第十四期：欧盟人工智能法案的被禁止人工智能系统清单强制实施

2025年2月2日，欧盟《人工智能法案》被禁止人工智能系统清单生效。即日起，面向欧盟市场的AI系统提供商和部署商、基于AI的服务提供商、含有嵌入式AI的产品制造商将面临合规性挑战。为协助中国人工智能相关企业积极应对这一合规性挑战，TÜV南德意志集团（以下简称"TÜV南德"）推出AI系统的快速评估服务，帮助企业及时识别其基于AI的服务和AI相关产品中可能含有的被禁止功能，控制风险。

欧盟《人工智能法案》（Regulation (EU) 2024/1689）于2024年7月12日出版，并于20日后的8月1日生效，根据第113章的实施计划，法案整体将在两年后的2026年8月2日强制实施。然而，第5章"被禁止的人工智能实践"提前于2025年2月2日强制实施。这意味着从该日期起，任何在欧盟市场提供含有被禁止人工智能的产品和服务的行为都将承担相应的法律后果。为了该禁止清单得到有效执行，欧盟委员会还于2025年2月4日发布了《人工智能法案》所定义的"被禁止的人工智能实践"的指南（以下简称"指南"）。

该指南进一步提供了对《人工智能法案》第5章（Article 5）所列被禁止人工智能实践的解释，以确保这些法规条款得到一致和有效的执行。该指南再次强调了被禁止AI系统的供应商和部署商可能会被处以最高3500万欧元或其上一财年全球年营业额的7%（以较高者为准）的罚款。

八类被禁止的人工智能应用

《人工智能法案》第5章定义了八类被禁止的人工智能应用，以下为每种类型的具体定义，适用范围和举例。

豁免条件

除了以上八项被禁止人工智能实践的清单，《人工智能法案》第5章还详细规定了豁免条件，如在某些特定情况下，可以使用通常被禁止的人工智能实践的必要保障措施和条件。例如实时远程生物特征识别（RBI）系统在执法领域的应用，在满足一定保障措施和条件下可以获得例外许可：

• 针对特定受害者的搜索：例如被绑架、人口贩卖或性剥削的受害者，以及失踪人员。

• 防止具体威胁：例如防止对自然人的生命或身体安全构成的具体、重大和迫在眉睫的威胁，或对恐怖袭击的真实和当前或可预见的威胁。

• 定位或识别犯罪嫌疑人：例如涉嫌犯有《人工智能法案》附件II（Annex II）中所列犯罪的人员。

使用这些系统时必须遵循的严格条件包括事先授权、必要性和成比例性评估、地理和时间限制、基本权利影响评估（FRIA）、注册要求、通知监管机构以及年度报告等。这些规定旨在确保在保护执法需求的同时，充分保护个人的基本权利和自由。

具体的例外案例如下：

一种生物特征识别系统（非远程）用于验证人员是否具有进入核电站的权限。当人员在显眼的摄像头前进行验证时，若系统拒绝其访问，随后会尝试识别该人员是否属于恐怖分子监视名单。该系统并非远程操作，且人员是主动参与验证流程以获取核电站准入权限。该应用场景不违反《人工智能法案》第5条的被禁止人工智能实践的条款规定。

监管与罚款

欧盟成员国指定的市场监管机构以及欧洲数据保护监管机构负责执行《人工智能法案》中关于人工智能系统的规则和禁令。《人工智能法案》建立了一个分级的处罚体系，针对违反AI禁止项的最严重处罚如下：

• 对供应商和部署者的罚款：从事被禁人工智能实践的供应商和部署者可能会被处以最高3500万欧元或其上一财年全球年营业额的7%（以较高者为准）的罚款。

• 对公共机构的处罚：对违反法案的公共机构和机构处以行政罚款，这些罚款最高可达150万欧元。

不适用范围

包括国家安全、国防等用途、与第三国的司法和执法合作等几种情况不适用于《人工智能法案》。为了在促进技术创新和保护公共利益之间取得平衡，《人工智能法案》还规定了一些排除情况。如，在投放市场前的研究与开发阶段，为了符合安全和伦理要求而进行各式技术验证，以及纯粹个人目的的非专业活动以及以自由和开源许可证发布的AI系统。

数据保护

AI法案的禁止条款与GDPR的原则密切相关，特别是在处理个人数据时。GDPR要求数据处理必须合法、公正和透明，旨在保护数据主体的个人数据权利。AI法案中的禁止条款，旨在防止通过人工智能技术对个人进行操控、剥削或不公正对待，这与GDPR保护个人数据的目标是一致的。因此需要同时确保不违反数据保护法律。例如，如果某个AI系统通过不当方式收集和处理个人数据，导致对个人的操控或剥削，那么该系统就可能违反GDPR的规定。另外，对于具体AI系统还要关注广告法、医疗器械法规、数字服务法等可能适用的法规。

结语

为协助中国人工智能相关企业积极应对这一合规性挑战， TÜV南德推出AI系统的快速评估服务，包含合规性评估、技术支持、培训和教育等服务，帮助中国出口商企业理解和满足欧盟相关法规要求，避免踩到被禁止的AI实践的红线。通过这项服务，中国人工智能相关出口商可以快速确认产品中没有被禁止AI系统，并获得有公信力的第三方证明。在AI产品或服务与被禁止清单有关时，获得豁免或排除的专业建议。

关于TÜV南德人工智能服务

对于人工智能的开发企业和应用企业，人工智能的风险以及质量都是至关重要的。除了性能以外，人工智能在自主性、公平性、透明性与可解释性、数据保护、信息安全、可靠性与鲁棒性等个方面的风险都要得到有效的评估和控制。人工智能的风险管理应贯穿于从概念、开发、部署、运营直到退役的全生命周期。

TÜV南德作为全球领先的TIC (Testing, Inspection, Certification) 机构，在人工智能领域也有着坚实的基础。除了为客户提供人工智能的测试、认证、知识和培训服务，TÜV南德推出的质量评估框架可以帮助企业系统地管理人工智能质量、控制风险、降低成本、确保合规性、提升产品的接受度，以应对人工智能带来的挑战和机遇。此外TÜV南德全领域的专家深入参与了各垂直领域，如医疗设备、自动驾驶、机械安全等国际法规与标准的起草工作。 

在大中华区，TÜV南德组建了专业的人工智能评估团队，该团队由TÜV南德大中华区高级副总裁Robert Puto先生负责，旨在支持中国企业高质量的应用人工智能技术，开发并提供可信赖的人工智能相关产品与服务，经由TÜV南德的合规性检查及技术评估达到国际市场准入标准，并提供全生命周期的保障服务。