新京报快讯（采访人员 张璐）2021全球数字经济大会人工智能产业治理论坛8月3日举行 ， 首个《人工智能产业担当宣言》正式发布 ， 倡议人工智能企业设立伦理研究员岗位或通过外部技术支持等方式 ， 加强企业自律自治 。
近年来 ， 人工智能被误用、被滥用的问题引发舆论关注 。 此次《宣言》由北京智源人工智能研究院和瑞莱智慧共同发起 ， 提出中国科技企业在推动人工智能自律自治、稳健发展中应积极承担的责任 。 在技术能力方面 ， 要最大限度确保人工智能系统安全可信 ， 增强算法透明性和可解释性 ， 对用户数据提供充分的安全保障 。
中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员曾毅在论坛上表示 ，中国人工智能发展的愿景应该以生态为中心 ， 真正达到善治 ， 实现技术的发展与人类、环境和谐共生 。 针对生物特征识别潜在风险、用户隐私保护等人工智能治理的热点话题 ， 他接受了新京报采访人员专访 。
其他类型生物特征识别潜在风险也需要关注
新京报：目前人工智能企业对人工智能治理的态度如何？此前媒体报道过大数据“杀熟”、外卖员困在系统里等问题 ， 如果破解算法被误用的问题？
曾毅：近几年 ， 全球人工智能伦理规范以及我国新一代人工智能治理原则形成发布后 ， 企业越来越意识到人工智能技术风险、社会伦理风险带来的实际问题 ， 以及这些问题给企业带来的负面口碑和影响 。
但我并不认为相关企业已经最大化避免了可能存在的风险 ， 诸如大数据“杀熟”、骑手困在系统当中等问题 ， 企业并非提前全然不了解 ， 但面临企业的生存压力和同行竞争等外部压力 ， 他们做出了有违道德价值观的选择 ， 这种选择倾向了短期利益 ， 忽略长期对社会和企业的负面影响 ， 是得不偿失的 。
所以学术界、政府、媒体应当与企业协同 ， 做出真正对社会负责任的人工智能设计、研发、部署和服务 ， 通过多方共治实现人工智能的稳健发展 。
另外一个需要注意的问题是 ， 一些企业将参与人工智能伦理、治理作为自己公关宣传的手段 ， 但真正提供人工智能产品服务时 ， 对于伦理风险有时避而不谈甚至是视而不见 。
新京报：最近最高法发布司法解释 ， 规范人脸识别应用 。 在AI换脸等技术盛行的今天 ， 还有哪些问题值得关注？
【识别|如何解救“困在系统里”的骑手？记者专访人工智能治理专家曾毅】曾毅：现在一些应用在人脸识别过程中 ， 为了判断采集到的是活体 ， 而不是一张照片在被识别 ， 采集范围已经超过人脸 ， 可能上半身相关数据都会被采集 ， 但这些没有合理地告知用户 。
用户看到手机屏幕有一个圈圈住人脸 ， 会有一种误解 ， 认为其他部分没有被采集 。 所以有些人赤裸上半身 ， 有些女性穿得少一点也不会在意 。 一方面 ， 采集超过人脸的信息必须做好用户的知情同意 。 另外 ， 我认为 ， 采集人脸以外的上半身信息作为确定活体依据的技术手段 ， 需要逐步被替代 。
此次最高法颁布的司法解释 ， 限制的不仅仅是人脸识别技术 ， 包括以人脸识别技术为核心的人脸生成技术 ， 即对AI换脸也是适用的 ， 并进行了限制 。 其实 ， 我们的个人信息不仅是人脸 ， 步态识别、指纹识别、声纹识别、远距离虹膜识别等生物特征识别技术 ， 在技术和伦理方面的风险跟人脸识别有十分相近的共性 ， 比如侵犯隐私、对于不同性别识别准确率存在差异等 。
AI的创新性企业、研究机构应该共同负起责任 ， 针对可能存在的技术和伦理问题 ， 提前最小化或者消除其风险 ， 而不是像人脸识别一样 ， 等到公众关注讨论多了 ， 再去解决问题 。 这就是“自律自治”和“主动担责” 。