“元宇宙”等新商业思维的提出 ， 也为深度合成提供了更广阔的应用场景 。 “比如虚拟人、数字人即是深度合成的主要应用 ， 也是‘元宇宙’的重要组成部分 ， ”阿里巴巴安全感知与认知智能部负责人薛辉表示 。
清华大学新闻与传播学院常务副院长陈昌凤认为 ， 深度合成将重新定义虚拟数字化空间 ， 从传播社会学意义上看 ， 一个新的人类生存场景将以深度合成技术为基石展开 。
风险加剧 ，
技术检测成重要应对举措
深度合成激发了新内容创造力的同时 ， 也带来了新的威胁 。 随着技术逐步“平民化” ， 不法分子可轻易伪造音频、视频 ， 实施诬陷、诽谤、诈骗、勒索等违法行为 ， 甚至捏造国家政要言论扰乱社会与政治秩序 。
2021年10月 ， 安徽合肥警方曾查获一起非法利用深度合成技术伪造手机用户人脸动态视频破解身份核验 ， 为黑灰产业提供注册虚拟手机卡等技术支撑的案件 。 近年来 ， 类似事件开始更多的进入公众视野 。
深度合成内容模糊了真实和虚假的边界 ， 将对社会信任、媒体信任、政治信任产生巨大的影响 。 陈昌凤表示 ， 虚假内容的高难度甄别影响了事实核查的有效性 ， 在社会重大事件或政治事件节点上 ， 深度合成技术可能被用于操作舆论意见 ， 借助社交媒体 ， 使虚假信息短时间内引发产生病毒式扩散 ， 激化社会矛盾 。
负面风险不断加剧 ， 如何有效甄别深度合成内容就成为了关键 ， 但随着合成质量的不断提升 ， 传统基于生物特征的鉴别方式越来越难以发挥作用 。

文章图片

数据说明:在arXiv中 ， 论文摘要范围内以“GAN”等16个关键词进行检索 ， 统计图像、视频、音频、文本合成领域的论文发表数量“目前对深度合成的检测主要依赖于人工智能模型 ， 依赖于训练数据的完备性 ， 包括检测器泛用性相低、公开数据集适用性、数据敏感等 ， 这些都将带来诸多挑战 。 ”浙江大学网络空间安全学院院长任奎表示 。
中国工程院院士邬贺铨认为 ，深度合成的治理有两项要点：第一 ， 要持续发展技术 ， 不能“一刀切”地禁止 ， 避免阻碍正向应用与创新 。第二 ， 衍生出的安全问题要从源头上解决 ， 利用技术创新、技术对抗等方式 ， 持续提升和迭代检测技术的能力 。
田天也表示 ， 新型伪造方法层出不穷、网络传播环境的日趋复杂 ， 加上基于检测算法存在漏洞缺陷等 ， 反深伪检测技术面临“强对抗性” ， 需要持续更新与迭代 。
《报告》显示 ， 目前学术界和产业界均已对反深伪检测投入了大量研究 ， Meta（原Facebook）、谷歌、微软等机构均推出了深度合成视频认证的方法或产品 。
在国内 ， 清华大学、中科大等高校在深度伪造内容检测方面取得显著成果 ， 清华大学孵化团队瑞莱智慧推出的深度伪造内容检测平台DeepReal拥有工业级的检测性能和应对实网环境对抗变化的检测能力 。
构建多维度治理机制 ，
引导深度合成技术良性发展
深度合成技术的良性发展 ， 离不开多维度治理机制的探索 。
《报告》显示 ， 除了发展深度伪造内容检测技术以外 ， 近几年来 ， 针对深度合成技术恶意使用所带来的挑战 ， 世界各国纷纷出台相关法律法规 ， 探索深度合成的治理路径 。 国际方面 ， 美国从联邦和州层面进行专门立法 ， 欧盟将深度合成纳入《通用数据保护条例（GDPR）》等现有法律框架规制 。 此外 ， 德国、新加坡、英国、韩国等国家 ， 均有适用于深度合成技术相关犯罪案件审理的法律法规 。