深度合成内容模糊了真实和虚假的边界 ， 将对社会信任、媒体信任、政治信任产生巨大的影响 。 因此 ， 深度合成技术的良性发展 ， 离不开多维度治理机制的探索 。
作为人工智能领域的新实践 ， 近年来 ， 利用深度学习、虚拟现实等生成合成类算法制作图像、音频、视频、虚拟场景等信息的深度合成技术 ， 已在多个领域大量应用 ， 伴随着不断涌现的使用需求 ， 深度合成内容数量和关注度呈现快速增长态势 。 但另一方面 ， 恶意使用该技术生成的音视频 ， 也显现出了巨大的破坏力 ， 给个人、企业造成了声誉损害和财产损失 ， 也对社会、国家安全造成威胁 。

文章图片

原始视频（左）和深度合成（右）
近日 ， 清华大学人工智能研究院、北京瑞莱智慧科技有限公司、清华大学智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心联合发布 《深度合成十大趋势报告（2022）》（以下简称“《报告》”） ， 从技术研究、领域应用、发展趋势等多个方面 ， 全面深入地介绍和研判深度合成技术及应用带来的机遇与挑战 ， 并就其发展与治理给出切实可行的建议和措施 。
“在人类的数千年文明史中 ， 科学技术的革新已经多次带来跨时代的社会变革 。 从远古时代的火到现代社会的电 ， 每一次技术变革在造福人类的同时 ， 也不可避免地带来了安全风险 ， ”中国科学院院士、清华大学人工智能研究院创始院长张钹在《深度合成十大趋势报告（2022）》的开篇写道 ，“与其他技术不同 ， 由于人工智能的安全性问题主要来源于算法本身的不安全 ， 它更容易被误用和滥用 。 以深度合成技术为例 ， 不法分子可以利用它给社会带来巨大的威胁 。 ”
多个领域落地应用 ，
深度合成内容迎爆发式增长
深度合成的图像、视频、音频、文本等内容 ， 例如热门影视剧片段、话题明星的换脸视频等等 ， 具有极强的娱乐性与传播性 ， 伴随着技术的发展成熟 ， 越来越多的创作者在互联网上发布和分享深度合成内容 ， 数量逐年高速增长 。

文章图片

数据说明:在10家国内外平台中(爱奇艺、腾讯视频、优酷、哔哩哔哩、抖音、快手、微博、YouTube、Twitter、 TikTok) ， 以“Deepfakes”等10个中英文关键词进行检索 ， 并通过URL去重后 ， 统计出数据结果以视频为例 ， 《报告》显示 ， 在国内外主流音视频网站、社交媒体平台上 ， 2021年新发布的深度合成视频的数量较2017年已增长10倍以上 。 此外 ， 深度合成内容关注度也呈指数级增长 ， 通过对互动数据进行统计 ， 2021年新发布的深度合成视频的点赞数已超过3亿 。
“技术不断成熟是深度合成内容迎来爆发式增长的重要原因 。 研究论文的持续增加、开源技术工具和大量代表性方法的涌现 ， 令深度合成内容的效果更加逼真、制作也更加高效 ， 尤其是生成对抗网络等算法的出现 ， 让合成内容达到了‘真假难辨’的程度 。 ”瑞莱智慧CEO田天表示 。

文章图片

数据说明:在10家国内外平台中(爱奇艺、腾讯视频、优酷、哔哩哔哩、抖音、快手、微博、YouTube、Twitter、 TikTok) ， 以“Deepfakes”等10个中英文关键词进行检索 ， 并通过URL去重后 ， 将具有视频分类标签的数据进行统计得到的分析结果正因为如此 ， 深度合成在影视制作、广告营销、社交娱乐等领域发展出多元化的商业应用 ， 例如AI合成主播、虚拟偶像、修复历史老照片、影视剧本地化配音、“数字复活”已过世演员等 。 一些面向公众开发的合成类产品也陆续推出 ， 《报告》显示 ， 视频、语音和文本形式的服务最为普遍 ， 例如支持风格定制的特效视频制作软件等风靡网络；语音方向衍生出了语音导航、有声读物、自动新闻播报等应用；文本合成则在新闻报道、诗文创作、聊天问答等方面发挥着重要作用 。