文章图片


文章图片


文章图片

奥运AI手语主播、虚拟偶像、换脸明星……这些应用背后的深度合成技术发展到了什么阶段?大火的“元宇宙”和深度合成的关系是什么?深度合成监管面临怎样的技术和伦理难题?日前,在北京举办的第二次长城工程科技会议“人工智能的安全可控与伦理治理”分论坛上,《深度合成应用十大趋势报告》(2022)发布 。 围绕深度合成带来的伦理问题,多位专家在会上进行了探讨 。
深度合成内容关注度指数增长
深度合成技术,是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术 。 《报告》显示,近几年,深度合成内容制作和传播数量高速增长 。 2021年新发布的深度合成视频的数量,较2017年已增长10倍以上 。 此外,深度合成内容关注度也呈指数级增长,以视频的点赞/喜欢数据为例进行统计,2021年新发布的深度合成视频的点赞数已超过3亿 。
研究成果是深度合成内容传播的底层推动力 。 蒙特利尔大学在2014年提出了生成对抗网络(GAN),将数据的逼真度推到了一个新的高度,大大降低了深度合成的门槛 。 《报告》显示,每年深度合成领域的论文数量正持续增长 。 这些深度合成领域的论文,包含对图像、语音、文本等不同模态的合成方面的技术研究,其中,对图像生成的研究占比最高,为64% 。 音频和文本分别占24%和12% 。
论文研究之外,深度合成领域开源项目也呈持续攀升的趋势 。 开源项目促进了深度合成方法在合成质量、制作效率等方面不断升级和迭代 。
在应用场景方面,《报告》显示,深度合成的应用场景不断丰富,如修复历史照片、AI手语主播、虚拟偶像等应用 。 特别是在影视制作领域,近些年来,深度合成技术已成为受少数艺人劣迹行为拖累作品的救场工具 。
此外,越来越多的企业机构开始利用深度合成技术提供面向公众的产品和服务 。 不同领域的情况有所差异,《报告》显示,图像和视频在深度合成应用的初期应用最为普遍,但是由于产品质量良莠不齐且容易侵犯用户隐私,当监管规范到位后其数量逐渐减少 。 音频方面,语音合成已经成为人机交互的重要一环,且被广泛应用于智能硬件、智能客服、语音导航、有声读物、机器人、语音助手、自动新闻播报等场景 。 文本方面,深度合成在新闻报道、诗文创作、聊天问答等方面都得到越来越多的应用,并显现出巨大的创作效率和未来潜力 。
深度合成负面风险加剧 各国监管成趋势
《报告》认为,在深度合成技术向社会生活的各个领域渗透之时,深度合成内容负面风险持续加剧且产生实质危害 。 随着深度合成技术的开放开源、深度合成产品和服务的增多,深度合成内容制作的技术门槛越来越低,实现了技术的“平民化” 。 通过深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为已屡见不鲜 。
深度合成技术还将对信息传播产生更为深远的影响 。 《报告》分析,人类的传播活动,因深度合成技术逐渐步入“深度后真相”时代 。 首先,　“深度伪造”深刻影响了新闻对真相的记录,对虚假内容高难度的甄别影响了事实核查的有效性 。 其次,在社会重大突发事件或政治事件节点上,深度合成技术如若被恶意使用,将会借助社交媒体,使虚假信息在互联网上产生病毒式的扩散和蔓延 。 第三,在日常事件的信息发布与追踪中,深度伪造的信息还会造成舆论场中舆论意见的不断翻转,激化社会不同群体的矛盾 。 亟须警惕的是,深度合成技术的恶意伪造内容通常迎合大众猎奇心理,具有极强的意识塑造能力 。