1月18日 ， 国家工业信息安全发展研究中心AI国检中心发布《人脸识别系统安全评测研究报告》 。 《报告》显示 ， 腾讯云、京东科技、商汤科技、旷视科技、海康威视、的卢深视成为首批通过人脸识别系统安全测评的企业 。
近年来 ， 作为人工智能领域最具商业价值的技术方向 ， 人脸识别在安防、金融、交通、教育等领域实现广泛应用 ， 但在技术和应用层面仍存在安全挑战 ， 漏洞攻击、数据泄露、技术滥用等问题屡屡成为社会焦点 。 因此 ， 作为人工智能领域国家级检测机构 ， AI国检中心就人脸识别系统安全启动测评工作 ， 对市场主流人脸识别产品实施监督检验 ， 规范人脸识别产业健康发展 。
据悉 ， 这是首个人脸识别系统安全能力的国家检测与评估 ， 依据《信息技术生物特征识别人脸识别系统技术要求》《信息安全技术人脸比对模型安全技术规范》等现行和在研的有关国家和行业标准 ， 通过呈现攻击、注入攻击等技术手段对人脸识别产品和服务进行全方位的测试 ， 有效评估人脸识别安全风险 。
“人脸识别系统安全风险主要涵盖算法安全、数据安全和应用软件安全等维度 。 ”国家工信安全中心人工智能所副所长刘永东介绍 ， 本次测评对人脸识别系统的安全风险提供明确测试方法 ， 包括算法层面的抗恶意攻击检测 ， 软件层面的静态代码安全测试、注入攻击测试和程序数据扫描等 。
“测试过程中我们发现诸多问题 。 首先 ， 对人脸识别身份认证系统的安全评估 ， 不能采用同一尺度衡量 。 不同场景对技术安全性判定规则应加以区分 。 ”国家工业信息安全发展研究中心人工智能所图像检测室负责人朱倩倩说 ， 以门禁通行和金融支付为例 ， 门禁闸机注重通行效率 ， 对安全性要求相对较低 ， 金融支付则非常高 。 从应用角度而言 ， 没有百分之百安全的技术 ， 所以高风险场景应采用多重身份认证方式 。 此外 ， 由于人脸识别技术采用深度学习结合大数据训练模式 ， 受呈现攻击测试样本量数据限制 ， 检测不能完全覆盖各种不安全情况 ， 建议采用与人脸识别相匹配的数据库规模测试 ， 结合呈现攻击测试的方式 ， 综合判定人脸识别系统安全性 。
朱倩倩介绍 ， 针对上述问题 ， AI国检中心将研究应用场景安全等级 ， 按照不同场景、不同功能、不同应用阶段划分人脸识别安全等级 ， 研制技术和应用安全测评标准 。 持续提高检测水平 ， 研究测试样本差异 ， 为企业提供高水准测试服务 ， 帮助企业找到安全问题 ， 提出改进及优化建议 。
目前 ， 对人脸识别技术的规范和管理早已成为全球关注的重点 。 美国、欧盟相继推出《人脸识别和生物特征识别技术禁令法案》《通用数据保护条例》等监管政策 ， 同时主导多项人脸识别国际标准 。 我国则提出发展与安全并重的理念 ， 多措并举推进人脸安全应用 ， 逐步牵头引领部分标准制订 ， 在公安和金融等领域先行构建规范 。 本次测评工作为进一步完善人脸识别标准体系、推动产业规范发展提供有力支撑 ， 通过测评的企业也将参与后续的标准编制工作 。
【首批“国检”安全测评出炉 助力人脸识别产业健康发展】人脸识别具有高度的社会属性 ， 应在法治框架下开展协同治理 。 如何贯彻落实政策法规要求？北京瑞莱智慧科技有限公司高级副总裁朱萌认为 ， 技术厂商可联手律师事务所 ， 针对数字经济时代新场景下监管机构的合规要求 ， 对内健全技术合规体系建设 ， 对外输出应用合规咨询服务 ， 比如培育数据安全咨询、数据保护设计与数据安全管理等服务 ， 从技术和业务流程角度提供完整安全保障解决方案 。 （经济日报采访人员 李芃达）