(3)制定相关通用术语 。 管理人工智能风险应提供通用语言和理解 , 如:专业通用术语、定义、度量、特征等 。
(4)易于管理 。 组织要能够通过期望行为和结果来管理人工智能风险 , 并将其作为组织风险管理战略和过程的一部分 。
(5)适用对象广泛 。 适用于广泛的部门和技术领域 , 包括技术不可知(水平)和上下文特定(垂直)用例 。
(6)制定灵活的方法集 , 按需选取使用 。 应该提供一个自愿使用的方法和结果目录 , 如可以制定基于风险、结果导向、性价比高、自愿、非规定性的各种方法列表 ,而非一个适用于所有需求的方法集 。
(7)与人工智能风险的其他管理方法保持一致 。 应借鉴现有的管理人工智能风险的标准、指南、最佳实践、方法、工具 , 并说明额外的需求和改善的资源 。
(8)持续的变化与更新 。 人工智能风险框架应随着对人工智能可信的技术、理解和方法的变化 , 人工智能使用的变化 ,以及从实现人工智能风险管理过程中的经验而随时更新 。
4.2人工智能风险管理框架三个层级
人工智能风险管理框架包含3个组件: 核心层(Core)、概况层(Profiles)以及实施层(Implementation)
文章图片
(1)核心层
“核心层”负责提供一个活动和结果的集合来管理人工智能风险的组织级对话 。 该部分定义了解决人工智能风险的关键结果 , 而不是蓄意完成的执行活动列表 。
核心层由功能、类和子类三部分构成 。
- 功能从较高层面组织人工智能风险管理活动
- 类将功能按照结果分成不同的类别
- 子类进一步将类根据技术或管理活动的特定结果来进行进一步细分
映射:确定应用场景 , 列出与该场景相关的风险 。 映射的目的是找出、识别和描述人工智能系统的风险 。
度量:分析、量化和追踪枚举的风险 。 该功能的目的是理解风险或影响的性质及特征 , 促进之后的风险管理 。 该功能为确定如何管理列举的风险奠定了基础 。
管理:根据度量的严重性 , 风险会被优先处理、避免、缓解、共享、转移或接受 。 该功能的目的是支持决策、选择和实现解决风险的可选性 。 决策应该考虑应用场景、对外部和内部利益相关者带来的后果 。
治理:采取适当的组织级措施、策略、过程和操作流程、角色和责任说明 。 该功能的目的是培养和实施风险管理的氛围 , 帮助确保风险响应是有效和持续实施的 。
(2)概况层
概况层 可以是管理特定应用场景用例人工智能风险的技术或非技术指南 , 可能会说明如何在人工智能全生命周期、不同行业、技术或应用上管理风险 。 可以帮助用户优先处理人工智能相关的活动 , 产出最满足组织价值、使命、商业需求和风险的结果 。
(3)实施层
实施层负责支持 组织过程和资源的决策制定、高效交流以管理人工智能风险 , 具体包括工程工具和基础设施、具有人工智能专业特长的工程师等 。
(全文完)
特别声明:本站内容均来自网友提供或互联网,仅供参考,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
