2019学术大礼包 丨加入学术plus 丨 2018学术大礼包丨 2017不可以错过的重磅报告们
2021年12月 ， 欧盟网络与信息安全局（ENISA）发布了题为 《 安全机器学习算法》 （ Securing Machine Learning Algorithms）的报告 ， 这是ENISA在2020年发布《 人工智能网络安全威胁图谱 》之后又一人工智能安全领域报告 。
报告详细分析了当前机器学习算法的分类 ， 针对机器学习系统的攻击和威胁 ， 具体的威胁包括数据投毒、对抗攻击、数据窃取 。 报告给出了安全框架、标准等方面的具体和可操作性的安全控制 。
文章图片
ENISA发布安全机器学习算法报告
编译：学术plus观察员 张涛
本文主要内容及关键词
1.背景： 机器学习AI在工业和政府基础设施应用上极具前景 ， 应用广泛 ， 但需要大量数据进行学习
2.机器学习算法分类： 数据类型；算法分类（有监督学习、无监督学习和增强学习）；端到端机器学习全生命周期图谱
3.机器学习算法威胁 （绕过、Oracle、投毒、模型或数据泄露、针对机器学习应用组件的攻击、机器学习应用的失效或功能错误）及其相应漏洞类型清单
4.安全控制方法： 组织/技术/算法三个层面 ， 提出：将机器学习的特性及应用融入到现有安全政策 ， 尤其是网络安全弹性战略中
《2021网络安全威胁图谱》9大威胁发展趋势，疫苗信息与供应链攻击成新热点
美国政府问责局紧急呼吁！建立《国家网络安全战略》否则政府能力将严重受限
全球数字技能差距成“新常态”？数字技能领域发展将严重制约GDP增长
ENISA：2020人工智能网络安全威胁图谱
美国政府问责局紧急呼吁建立《国家网络安全战略》
美国《网络安全指南》规范网络事件响应“全流程标准”
美国防部2022财年预算：网络安全与作战预算超百亿美元
兰德报告《 衡量网络安全和网络弹性 》
美国政府问责局《武器系统网络安全报告》
1.背景
机器学习是人工智能在工业和政府基础设施应用研究的发展最好和最有前景的子领域 。 通过自动和智能地解决决策问题 ， 人工智能广泛应用于经济社会的各个方面 。 机器学习算法可以从数据中学习 ， 实现无需复杂编程就可以解决问题 。 但这类算法需要大量的数据来学习 。
2.分类
机器学习算法分类
文章图片
2.1 主要领域和数据类型
不同的算法可以应用于机器学习的不同领域 ， 主要的应用领域有计算机视觉、自然语言处理和经典数据科学 。
- 计算机视觉领域 ， 常用的数据类型有图像和视频 ，
- 自然语言处理领域 ， 数据类型有文本和时序数据 ，
- 经典数据科学领域 ， 数据类型为结构化数据 。
文章图片
2.2 机器学习算法分类
从学习方式来看 ， 机器学习算法可以分为 有监督学习、无监督学习和增强学习 。
- 有监督学习根据样本的输入-输出对数据来映射输入和输出 。 可以从包含训练样本的有标记的训练数据中进行推断 。
- 无监督学习可以从无标记的数据中去学习模式和特征 。 可以在没有人工干预的情况下发现隐藏的模式和数据组 。
- 增强学习是使智能代理通过试错和自己的动作和经验的反馈来在交互式环境中学习 。
特别声明：本站内容均来自网友提供或互联网，仅供参考，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系，我们将在24小时内删除。