作为人工智能领域最具商业价值的技术方向 ， 人脸识别在安防、金融、交通、教育等关键领域实现了广泛应用 ， 但在技术层和应用层仍面临安全挑战 ， 漏洞攻击、数据泄漏、技术滥用等问题 ， 屡屡成为社会焦点 。
1月18日 ， 首个面向人脸识别系统安全性的国家级检测与评估结果在国家工业信息安全发展研究中心主办的人工智能融合发展与安全应用研讨会上发布 ， 腾讯云、京东科技、商汤科技、旷视科技、海康威视、的卢深视成为首批通过测评的企业 ， 国家工信发展研究中心副主任何小龙现场为企业颁发证书 。
这项检测由国家语音及图像识别产品质量检验检测中心（以下简称“AI国检中心”）完成 。 作为人工智能领域的国家级第三方检验检测机构 ， AI国检中心就人脸识别系统安全启动测评工作 ， 对市场主流人脸识别系统开展测试评估 ， 规范人脸识别产业健康发展 。
据悉 ， 这是依据《信息安全技术人脸比对模型安全技术规范》《信息技术生物特征识别人脸识别系统技术要求》等现行和在研的有关国家和行业标准 ， 通过呈现攻击、注入攻击等技术手段对对人脸识别产品和服务进行全方面的测试 ， 有效评估人脸识别安全风险 。
同时 ， 为进一步推进国检中心建设高质量开展 ， 优化资源配置 ， 强化人工智能领域布局 ， 国检中心成立专家委员会 ， 邀请语音、图像、数据治理、安全等人工智能重点领域的多位专家学者、企业家担任中心的思想库和智囊团 ， 未来持续推进技术研发、标准制定、政策研究等相关工作 ， 促进人工智能产业高质量发展 。

文章图片

国家工信安全中心人工智能所副所长 刘永东
国家工信安全中心人工智能所副所长刘永东介绍道 ， 人脸识别系统安全风险主要涵盖算法安全、数据安全和应用软件安全等维度 。 本次测评对人脸识别系统的安全风险提供明确的测试方法 ， 包括算法层面的活体检测+假体攻击、对抗样本攻击等呈现和注入攻击检测 。
目前 ， 对人脸识别技术的规范和管理早已成为全球关注的重点 。 美国、欧盟相继推出《人脸识别和生物特征识别技术禁令法案》《通用数据保护条例》等监管政策 ， 同时主导多项人脸识别国际标准 。 在全球共识下 ， 我国重点提出发展与安全并重的理念 ， 多措并举推进人脸安全应用 ， 逐步牵头引领部分标准制订 ， 在公安和金融等领域先行构建规范 。 本次测评工作将为进一步完善人脸识别标准体系、推动产业规范发展提供有力支撑 ， 本次通过测评的企业也将参与后续的标准编制 。
本次测评工作也存在一些改善项 。 国家工信安全中心人工智能所图像检测室负责人朱倩倩表示 ， 人脸识别系统的安全评估 ， 不应用一个尺度来衡量 ， 比如门禁闸机、手机登录、金融支付等身份认证场景对安全性要求不同 ， 从技术角度 ， 安全性判定规则也应加以区分 ， 以及不同测试样本间的测试结果也存在差异 。 她建议 ， 进一步打造更细化的评测体系 ， 包括按照不同场景、不同功能、不同应用阶段划分安全等级 ， 对测试样本分级分类 ， 保证在同一基准上衡量安全能力 。

文章图片

国家工信安全中心人工智能所图像检测室负责人 朱倩倩
同时 ， 由于人脸识别技术采用大数据训练的方法实现 ， 目前安全测试项未全部涵盖 ， 只通过呈现攻击的方式做检测 ， 样本量有限 ， 导致不能完全覆盖各种不安全情况 。 因此 ， 检测手段与技术水平也需加快跟进 。 朱倩倩表示 ， 加快研发自动化测试工具 ， 研究测试样本差异 ， 为企业提供高水准测试服务 ， 帮助企业精准定位安全问题 ， 提出改进及优化建议 。