《深度合成十大趋势报告》发布:发展“加速度”、风险并存

2月18日,清华大学人工智能研究院及其核心孵化企业北京瑞莱智慧科技有限公司,联合清华大学新传院智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心共同发布了《深度合成十大趋势报告(2022)》(以下简称“报告”)。

深度合成内容及关注度飞速增长,研究热度持续走高

深度合成技术,是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。2017年,一位名叫“Deepfakes”的用户在美国Reddit网站上分享了篡改人脸的色情视频,将深度合成技术带到了大众面前。《报告》从多个维度,用客观方法对2017年至2021年深度合成技术与应用发展情况进行了研究分析。

《报告》显示,近几年,深度合成内容制作和传播数量高速增长。2021年新发布的深度合成视频数量,较2017年已增长10倍以上。此外,深度合成内容关注度也呈指数级增长,以视频的“点赞/喜欢”互动数据为例进行统计,2021年新发布的深度合成视频的点赞数已超过3亿。

技术研究成果是深度合成内容广泛传播的底层推动力,GAN的出现在深度学习领域掀起了一场革命。此后,以GAN为代表的深度合成技术日新月异地发展,深度合成领域的新发表论文数量自2017年开始持续以每年30%速率高速增长。这些深度合成领域的论文,包含对图像、语音、文本等不同模态的合成方面的技术研究,其中,对图像生成的研究占比最高,为64%。音频和文本分别占24%和12%。

论文研究之外,深度合成领域开源项目也以每年30%速率持续攀升。纵观计算机行业的发展,开源项目已经成为推动产业进步的强大力量,开源项目聚焦的方向也是产业发展的风向标。

深度合成在开源社区中持续走高的热度,持续推动该技术的发展与在产业中的落地。在应用场景方面,《报告》显示,深度合成的应用场景不断丰富,如修复历史照片、AI手语主播、虚拟偶像等应用。特别是在影视制作领域,近些年来,深度合成技术已成为受少数艺人劣迹行为拖累作品的救场工具。

此外,越来越多的企业机构开始利用深度合成技术提供面向公众的产品和服务。不同领域的情况有所差异,《报告》显示,图像和视频在深度合成应用的初期应用最为普遍,但是由于产品质量良莠不齐且容易侵犯用户隐私,当监管规范到位后其数量逐渐减少。音频方面,语音合成已经成为人机交互的重要一环,且被广泛应用于智能硬件、智能客服、语音导航、有声读物、机器人、语音助手等场景。文本方面,深度合成在新闻报道、诗文创作、聊天问答等方面都得到越来越多的应用,并显现出巨大的创作效率和未来潜力。

《报告》预测,伴随着自动数据生成、全身合成、3D塑型等技术的逐渐成型,一个新的人类生存场景将以深度合成技术为基石展开。元宇宙就是基于深度合成技术打造的未来人类虚拟数字空间,它“完成了对现实空间和时间的多重复制和延伸,跳脱了传统物理空间的局限,提供了一个虚拟人、自然人和机器人融生的逼近现实且超越现实的新世界”。

负面风险加剧且产生实质危害,专门法规落地在即

《报告》认为,在深度合成技术向社会生活的各个领域渗透之时,深度合成内容负面风险持续加剧且产生实质危害。随着深度合成技术的开放开源、深度合成产品和服务的增多,深度合成内容制作的技术门槛越来越低,实现了技术的“平民化”。通过深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为和事例已屡见不鲜。

人类的传播活动,也因深度合成技术逐渐步入“深度后真相”时代。《报告》分析,首先,“深度伪造”深刻影响了新闻对真相的记录,对虚假内容高难度的甄别影响了事实核查的有效性。其次,在社会重大突发事件或政治事件节点上,深度合成技术如若被恶意使用,将会借助社交媒体,使虚假信息短时间内在互联网上产生病毒式的扩散和蔓延。第三,在日常事件的信息发布与追踪中,深度伪造的信息还会造成舆论意见的不断翻转,冲击主流媒体对舆论的引导效能,激化社会不同群体的矛盾,削弱主流意见对社会的弥合作用。亟需警惕的是,深度合成技术的恶意伪造内容通常迎合大众猎奇心理,具有极强的意识塑造能力。

《报告》还指出,深度合成内容的鉴别正面临技术挑战。新型伪造方法的层出不穷,加上基于深度神经网络的检测算法存在结构性缺陷等,反深伪检测技术也面临“强对抗性”,需要持续更新与迭代优化。这类似于“猫鼠游戏”,深度合成和检测在不断学习攻防过程中会自我进化,规避上一代的对抗技术。目前,国内外学术界和产业界均已对鉴别检测技术的研发进行了大量投入,瑞莱智慧等科技企业推出了检测产品,支持对多种换脸方法进行检测。

随着深度合成的负面影响显现,世界各国纷纷出台管理法律法规,探索对深度合成的依法管理。今年1月28日,国家互联网信息办公室发布《互联网信息服务深度合成管理规定(征求意见稿)》并公开征求意见,旨在促进深度合成技术依法合理、有效利用,规范发展互联网信息服务深度合成活动。《报告》称,这是具有系统性、针对性和可操作性的专门管理规定。

专家:深度合成治理需法律、伦理、技术三者合力

面对深度合成这把双刃剑,如何规范深度合成技术应用、最大限度地趋利避害,多位业界专家学者从伦理和治理的角度表达了自己的看法。

中国科学院院士、清华大学人工智能研究院创始院长张钹在《报告》中表示,人工智能的治理是一项长期任务,要两手抓、两不误。既要走创新发展的道路,坚持发展更加安全、可靠、可控的人工智能;还要抓人工智能的治理,从伦理规范、法律法规、行业共识等不同层面去发力。

中国社科院哲学所科技哲学研究室主任段伟文建议,对深度合成技术引发的社会、法律和伦理问题,应展开有系统性、前瞻性的跨学科研究,对其可能出现的高风险应用场景,进行有针对性的治理与监管。

对于深度合成内容治理路径的探索,清华大学新闻与传播学院常务副院长陈昌凤表示可以从技术、伦理与法制等几个方面努力,技术方面,通过政府与社会组织参与、协同治理,伦理方面,确立和倡导相关的深度合成原则。

中科院自动化所研究员、联合国教科文组织AI伦理特设专家组专家曾毅则倡导产研发展自律自治,他表示,在法律法规不完全成熟及体系化之前,产业界自身应强化“理论先行”意识,作为产业共同体共同防范滥用、严禁恶用。

对外经济贸易大学法学院副教授许可表示,社会层面应加大宣传普及力度,强化公民对深度合成等人工智能技术的认识,提高全社会的防范意识,推动公民作为负责任的深度合成技术的使用者,主动标识合成内容并积极践行社会监督。

对此,北京瑞莱智慧科技有限公司首席执行官田天也表示,深度伪造的本质问题是透明度不足,因此提高公众对深度合成技术的认知尤为重要,只有将门槛降低到所有受众能够在共同的框架下去认识、讨论、理解这个问题的时候,深度合成技术才能健康良性发展。

《报告》也建议,各方应当与时俱进落实好新的规范要求,并在此前提下不断追求技术突破,不断开拓深度合成技术应用场景,创立示范标杆,形成对人工智能行业整体的带动效应,从而促进新技术的持续健康发展。

 

给TA买糖
共{{data.count}}人
人已赞赏
科技

供应链持续补强,苏宁宜品与坚果品牌“姚生记”签订战略合作

2022-2-21 16:01:22

科技

2021年度“快手百大主播”名单揭晓,快手一千零一夜官宣定档2月27日

2022-2-21 18:24:25

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索