常见问题

常见问题。直接解答。

两个部分:监管比较(欧盟《人工智能法案》、NIST AI RMF、ISO 31000、ISO 42001、COSO ERM、UNECE CRA)和框架问题。

EW-AIRM™ 与主要工具的关系

监管比较。

工具

其功能

EW-AiRM™ 的关联方式

欧盟人工智能法案

将 AI 用例分类为禁止、高风险、有限风险或极低风险。为高风险规定了符合性评估和上市后监督职责。

互补而非重复。欧盟《人工智能法案》告诉你哪些是被禁止的、哪些是高风险的。EW-AiRM™ 则告诉你如何对你决定保留的系统进行治理。

NIST AI RMF

自愿性美国框架。四大功能:治理(Govern)、映射(Map)、度量(Measure)、管理(Manage)。在美国联邦和大型企业中广泛使用。

EW-AiRM™ 的 P5(治理)和 P6(生命周期监测)支柱直接对应于 NIST 的“治理”(Govern)和“管理”(Manage)功能。基于 MIT 的运营层通过一个公开且经过同行评审的风险分类体系,充实了 NIST 的“测量”(Measure)部分。

ISO 31000

通用风险管理标准。涵盖原则、框架和流程。并非专门针对人工智能(AI)。

ISO 31000 支撑了 EW-AiRM™ 中的风险流程规范。该框架与 ISO 31000 保持一致,并在运营层和韧性层加入了针对 AI 的扩展。

ISO 42001

人工智能管理体系标准。规定了在组织内建立、实施、维护和持续改进 AI 管理体系(AIMS)的要求。

ISO 42001 规定了管理体系的要求。EW-AiRM™ 提供了运营基础。其六大战略支柱映射到 ISO 42001 的“策划-实施-检查-处理”(PDCA)循环。

COSO ERM

企业风险管理框架。聚焦于战略与绩效。包含五个组成部分和二十项原则。

EW-AiRM™ 将 COSO ERM 延伸至 AI 领域。三层架构保留了 COSO 的组合视角,同时增添了运营分类法与黑天鹅韧性层。

UNECE CRA (ECE/TRADE/486)

适用于 56 个 UNECE 成员国的自愿性 AI 监管工具。由 UNECE WP.6 AI 项目负责人 Markus Krebsz 教授撰写。

姊妹框架。UNECE CRA 面向监管机构,EW-AiRM™ 面向受监管企业。借助 HAPEICR 作为道德过滤器,它们共同构成了三部分组成的堆栈。

框架问题

关于 EW-AiRM™ 和 HAiPECR。

什么是 EW-AiRM™ 及其运作原理?

EW-AiRM™(企业级 AI 风险管理框架) 是由 Markus Krebsz 教授开发的一个开放的三层治理框架,并于 2023 年 4 月首次在 OECD.AI 政策观察站(OECD.AI Policy Observatory)上列出。


它为组织提供了一种结构化且可审计的方法,用于从董事会到技术团队对 AI 风险进行治理。


这三个层级分别应对不同的治理挑战:

  • 战略层 包含六大支柱——必要性评估、组织就绪度、技术成熟度、风险承受能力、治理与问责制以及贯穿生命周期的监控——在部署任何人工智能系统之前必须将其记录在案。
  • 运营层 基于 MIT 人工智能风险库(CC BY 4.0):涵盖七个领域和 24 个子领域的 1,000 多种风险,并映射到初级、中级和高级三级分类中的 831 个控制措施。
  • 韧性层 涵盖八个 AI 黑天鹅类别——这些场景超出了运营分类法,从基础模型完整性崩溃到量子密码学过渡。


贯穿这三个层级的是 HAiPECR,这是一个七维度的伦理叠加层,映射到联合国教科文组织 2021 年的 《人工智能伦理建议书》。EW-AiRM™ 增强(而非替代)了 NIST AI RMF、ISO 42001 和 COSO ERM,并与欧盟《人工智能法案》以及 UNECE ECE/TRADE/486 (2024) 保持一致。

EW-AiRM™ 与 NIST AI RMF 相比如何?

NIST AI RMF 与 EW-AiRM™ 是 旨在协同工作,而非相互竞争.


NIST AI RMF 提供了一种自愿的、基于功能的方法(治理、映射、测量、管理) 由美国国家标准与技术研究院(NIST)开发。


EW-AiRM™ 横跨三个架构层 ——战略层、运营层和韧性层——它们跨越了不同的维度:组织深度而非生命周期阶段。


在实践中,组织使用 NIST AI RMF 作为管理单个 AI 系统风险的方法,而将 EW-AiRM™ 用作企业治理架构,该架构决定了部署哪些系统、如何构建问责制以及董事会必须演练哪些黑天鹅情景。


这两个框架是同一治理堆栈中互补的层级。


推荐方法:在系统级别采用 NIST AI RMF;在企业级别部署 EW-AiRM™。它们并不冲突。  

这与欧盟人工智能法案相比如何?

请参见上方的监管对比表。互补而非重复。欧盟《人工智能法案》规定了哪些行为被禁止以及哪些属于高风险。EW-AiRM™ 则告诉您如何对自己决定保留的系统进行治理。

EW-AiRM™ 等同于 ISO 42001 合规性吗?

不是的:


ISO/IEC 42001 是一项可认证的人工智能管理体系国际标准 ——实施该标准的组织可以通过认可的审核机构获得第三方认证。


EW-AiRM™ 是一个开放的治理框架,而非可认证的标准。 这种区别很重要,但两者的关系同样重要:它们旨在协同工作。


ISO 42001 回答的是: 该组织是否拥有符合标准的人工智能管理体系?


EW-AiRM™ 回答的是: 环绕并凌驾于管理体系之上的企业治理架构——即支柱、伦理叠加层、黑天鹅事件排练——究竟是什么?


常见的实施模式: 获得 ISO 42001 认证以满足采购和监管机构的要求,并且 部署 EW-AiRM™ 作为企业治理架构,以涵盖 ISO 42001 未涉及的战略和韧性维度。

标准版或完整版的 EW-AiRM™ 实施包括与 ISO 42001 审计要求兼容的已记录证据结构。


ISO 42001 认证系统。EW-AiRM™ 治理企业。在受监管的组织中,两者缺一不可。

EW-AiRM™ 与 COSO ERM 有何关系?

COSO ERM(《企业风险管理——与战略和绩效整合》,2017 年)是全球董事会、审计委员会和首席财务官采用的主流企业风险管理框架。


EW-AiRM™ 明确设计为 COSO ERM 架构的 AI 专用扩展——而非替代品。


COSO ERM 确立了风险管理必须与全企业的战略和绩效相结合的原则。

EW-AiRM™ 将该原则应用于人工智能:其六大战略支柱直接对应 COSO ERM 的五个组成部分(治理与文化、战略与目标设定、绩效、审查与修订、信息与沟通),其三层架构则反映了专门为人工智能部署呈现的 COSO 立方体结构。


在实践中:已经拥有 COSO ERM 计划的组织应将 EW-AiRM™ 视为人工智能治理模块,该模块可与现有的企业风险结构集成并向其报告。 EW-AiRM™ 标准版和完整版层级中的 KXI(关键绩效/风险/控制指标)仪表板旨在直接输入 COSO ERM 强制要求的董事会风险报告周期中。


COSO 本身于 2021 年发布了《实现人工智能的全部潜力》(Realize the Full Potential of Artificial Intelligence),承认了通用 ERM 与特定人工智能治理之间的差距。EW-AiRM™ 从运营层面填补了这一空白。

EW-AiRM™ 有助于合规欧盟《人工智能法案》吗?

是的——但 EW-AiRM™ 与欧盟《人工智能法案》(EU AI Act)在不同的层面上运作,理解这一区别至关重要。


欧盟《人工智能法案》是一项具有约束力的欧洲法律,它禁止某些人工智能用途,对高风险系统进行分类,并强制要求进行符合性评估、透明度义务以及上市后监督。

它告诉各组织哪些是不能做的,以及高风险部署需要哪些文档。


EW-AiRM™ 则告诉各组织如何治理 他们被允许保留的内容。


该框架的六大战略支柱直接对应了欧盟《人工智能法案》关于风险管理系统、数据治理、透明度和人类监督的要求,而弹性层则涵盖了该法案合规要求未涉及的场景——例如监管突变(黑天鹅类别 4)。


欧盟《人工智能法案》合规是底线,而不是天花板。 满足该法案对高风险系统符合性要求的组织,仅达到了最低的法律义务。 EW-AiRM™ 确保了该楼层之上的治理架构——风险承受能力、董事会问责制、道德叠加、韧性规划——也同样到位。


达到标准层或更高层级的 EW-AiRM™ 会生成欧盟人工智能法案 (EU AI Act) 审计员和国家市场监督机构期望看到的有据可查的证据结构(风险评估、问责记录、HAiPECR 日志、KXI 仪表板)。  

什么是 HAiPECR,它如何与联合国教科文组织 (UNESCO) 相对应?

HAiPECR 是 EW-AiRM™ 的七维道德叠加层,由 Markus Krebsz 教授开发,自 2023 年 4 月起在 OECD 人工智能政策观察站 (OECD AI Policy Observatory) 上列出。

该名称是一个首字母缩略词: 人类监督 (Human oversight)、问责制 (Accountability)、包容性 (inclusivity——有意使用小写字母,因为它是一个嵌入式先决条件,而不是一个独立的支柱)、隐私 (Privacy)、可解释性 (Explainability)、行为操守 (Conduct)、韧性 (Resilience)。

最初,HAiPECR 代表“道德、行为与风险的人工智能范式 (Human-Ai Paradigm for Ethics, Conduct and Risk)”,该范式基于在 EW-AiRM 之前开展的为期 10 年的行为风险研究谱系。


HAiPECR 运行在 EW-AiRM™ 的所有三个层级中,既是部署前过滤器,也是持续审查镜头。它不是一份合规检查清单。


每个 AI 系统在部署前必须通过有据可查的 HAiPECR 审查,并且在每次发生重大变更时重复审查。


HAiPECR 中的小写字母“i”是有意的:包容性作为先决条件嵌入到所有其他维度中,而不是被视为一个独立的支柱。


HAiPECR 映射到联合国教科文组织 2021 年的所有十项原则(而非九项),因为 2024 年联合国教科文组织神经技术建议已被纳入隐私维度。

为什么 HAiPECR 的“i”是小写的?

“i”代表包容性(inclusivity)。它刻意采用小写,旨在表明包容性不是一个独立的支柱,而是嵌入各个维度的先决条件。排版在框架设计中蕴含着意义。


什么是 MIT AI 风险库(MIT AI Risk Repository),它如何在 EW-AiRM™ 中使用?

MIT AI 风险库是由 MIT FutureTech 维护的公开且经过同行评审的数据库。


它编录了七个领域和24个子领域的1,000多项AI风险,并根据知识共享署名 4.0 (CC BY 4.0) 许可证发布,这意味着它可以免费使用、改编和基于其进行构建。


它被选为 EW-AiRM™ 的运营支柱,正是因为它不是私有分类法——它是公开授权的、独立维护的且具有学术严谨性。


MIT AI风险库不同于MIT AI缓解数据库,后者编录的是控制措施而非风险。


EW-AiRM™ 两者兼用:使用风险库进行风险分类,并将缓解数据库作为控制映射的一个输入。 765,944个风险到控制的映射代表了两个数据库的笛卡尔积,提供了目前公开可用的、最全面的AI风险到控制的映射。

MIT AI 风险库 (CC BY 4.0) 是 EW-AiRM™ 的运营层能够兼具全面性与开放性的原因。每一个风险分类都可以通过公开可用的来源进行独立验证。  

为什么说 MIT AI 风险库是运营层?

三个原因:

  • 它是 公开授权的 (CC BY 4.0)。它经过同行评审,并由 MIT FutureTech 维护。
  • 它包含 1,000 多个风险 涵盖 7 个领域和 24 个子领域,
  • 其广度足以作为底层架构 而不会将组织锁定在特定的供应商视角中.

EW-AiRM™ 中的 8 个 AI 黑天鹅类别是什么?

这八个 AI 黑天鹅类别构成了 EW-AiRM™ 的韧性层 —— 第三层也是最高的架构层。


每个类别都涵盖了一个超出 MIT AI 风险库运营分类学的情景:这些风险具有低概率、高影响的特征,且在结构上不同于运营层中管理的日常风险。 每个类别在董事会或 C-suite(高管团队)级别都有指定的负责人。


在 EW-AiRM™ 中,每个类别都被视为一个情境演练。 在标准层级下,每年进行六个类别的演练;在完整层级下,所有八个类别均每年进行演练,并配备在董事会层面备案的预先定位响应计划和具名负责人。 类别 7(多智能体涌现)和类别 8(量子密码学过渡)是在 2024–2025 年框架修订中新增的,旨在反映智能体 AI 的快速部署以及 NIST 的后量子密码学标准(FIPS 203、204、205)。


这八个 AI 黑天鹅类别是 EW-AiRM™ 所独有的。没有任何其他公开可用的 AI 治理框架提供具名且指定负责人的系统性 AI 韧性情境分类法。  

该框架是开放的吗?

是的。EW-AiRM™ 建立在公开许可的标准之上。MIT AI Risk Repository 采用 CC BY 4.0 许可证。HAiPECR 有据可查且可资引用。该书以印刷版详细阐述了完整的架构。配套工具可免费使用。


谁拥有该商标?

EW-AiRM™ 是 De-Risking Solutions Ltd(英国公司编号 09900565)的商标。该商标旨在保护框架的完整性。而框架本身是开源的。


与 UNESCO、UNECE、OECD 以及欧盟人工智能办公室(EU AI Office)的联系?

HAiPECR 已映射至联合国教科文组织(UNESCO)2021 年建议书。EW-AiRM™ 是 UNECE ECE/TRADE/486(2024)的企业级补充。HAiPECR 自 2023 年 4 月起已被列入经合组织(OECD)人工智能政策观察站。Markus Krebsz 教授是欧盟人工智能办公室 DG CNECT 专家组成员、GPAI 实践准则全体会议参与者,以及 UNESCO I4T 网络的创始成员。

我在哪里可以了解更多信息?

有三个很好的切入点。阅读框架概述以了解概念。比较三个实施层级以了解范围。或者访问配套工具网站进行评估。该书将于 2026 年由威利金融(Wiley Finance)出版——请通过“联系我们”将自己加入发布名单。

谁创建了 EW-AiRM™,他们的资质是什么?

EW-AiRM™ 由 Markus Krebsz 教授开发,是一位总部位于英国的董事会投资组合高管和人工智能治理从业者。


Krebsz 教授是以下机构的创始董事: De-Risking Solutions Ltd 和 Human-Ai.Institute。 自 2017 年起,他一直担任 Revolut Bank UAB 监事会的独立非执行董事。


他在人工智能治理方面的资历非常深厚,涵盖政策、标准、学术界和受监管的企业。


EW-AiRM™ 由同时在制定其所参考的国际标准的从业人员设计和维护。 Krebsz 教授是 UNECE ECE/TRADE/486(《共同监管安排》)的作者,EW-AiRM™ 的韧性层即与此对齐。


HAiPECR 在联合国教科文组织 2021 年建议书最终确定之前开发,随后作为同行框架与其进行了映射。


没有任何其他公开可用的人工智能风险管理框架是由同时担任国际标准制定者、独立银行非执行董事、ForHumanity 认证审计员以及联合国教科文组织创始成员的人士开发的。  

这里没有回答您的问题?

发送给我们。我们使用常见问题收件箱来更新此页面,因此如果您在问这个问题,其他人可能也在问。