“深度伪造”技术在传媒领域的新应用和异化风险

文/吴静

在俄乌冲突的第三周，乌克兰总统泽连斯基宣布投降的视频在推特和脸书上爆火。视频中他置身于国徽之前，郑重对乌克兰士兵说：“我要求你们放下武器，回到你们的家人身边。这场战争不值得为之而死。我建议你们继续活下去，我也会这样做。”然而这竟然是一条“深度伪造”的虚假视频。2022年3月17日，泽连斯基在他的社交媒体账号上澄清此事。与此同时，俄罗斯总统普京宣布战争结束的视频也被证明是“深度伪造”技术的产物。该技术凭借以假乱真的影音还原和闪电般的全球传播速度登上各国媒体头条，跃居国际舆论的风口浪尖。

一、“深度伪造”的前世今生

“深度伪造”（Deepfake）是由“深度学习”（Deep learning）和“伪造”（Fake）构成的合成词汇。“深度伪造”技术是当下人工智能时代的一种合成媒体技术。利用深度学习算法进行自动化的数据修改、处理和生产，实现图片、音频及视频的智能模拟和伪造。其高度仿真的效果不仅肉眼难辨真伪，即便是Microsoft和Amazon的人脸识别系统对高达78%的“深度伪造”视频也无法辨认。

“深度伪造”并非突然横空出世，而是信息科学、认知科学、物理学等多学科融合快速发展到一定阶段的新产物。“深度伪造”之前就有“浅层伪造”（Cheap Fakes），是指利用人工手动或者常规技术，对图片、音频和视频进行剪辑、切割、重组等调整以实现特定传播效果的技术。但“浅层伪造”由于技术缺陷，人脸和身体在动作、光线和场景变换时会显得僵硬可笑，语音语调也不自然。迫切的市场需求呼唤着新技术的到来。20世纪90年代，一项国外研究设计的人脸视频合成的计算机程序，成为“深度伪造”技术的第一个实例。在沉寂了十余年之后，相关研究再次回暖，2016年和2017年先后出现了两篇重量级的研究，对3D模型重建追踪和面部仿真合成视频进行了开创性的探索。“深度伪造”由两个生成对抗网络（GAN）的人工神经网络作为“生成器”和“判别器”协同工作来实现。“生成器”对大量的视频和音频数据集进行训练，使其能学习和模仿人类的面部表情、身体动作、语音语调，之后采用深度学习算法将其挪移到另一个人身上。“判别器”负责检测这些伪造的数据。基于检测结果生成对抗网络，不断调整参数进行优化，直至机器无法分辨视频和音频真伪。这种基于人工智能的深度学习技术，使得伪造效果与素材量的多寡呈正比，即人脸或声音数据集越多，伪造的逼真度就越高，而且还结合脸型、微表情、眼神、肤色、皱纹、动作、音色、音调、语气等生物特征进行综合学习，是以往“浅层伪造”技术难以企及的。此时，“深度伪造”尚属于象牙塔中的高科技，仅为科研机构、科技巨头和影视巨鳄研发使用，高额的研发费用和专业的设备仪器使普通网民无法触及。

2017年12月，一名昵称为“deepfake”的用户在红迪网（美国访问量排名第七的社交娱乐网站）上，借助深度学习算法用斯嘉丽·约翰逊、盖尔·加朵等女名星的脸部覆盖到色情影片中的演员面部，随后在其他网络平台上快速涌现了一大批模仿者，“深度伪造”视频开始在网络流传。此后，开源方法和更便捷的应用程序不断涌现出来，如FaceApp、FakeApp、FaceToFace、DeepFaceLab，国内则出现过ZAO、蚂蚁呀嘿等换脸软件（均已下架）。智能终端的升级和技术门槛的降低促成了“深度伪造”这一智能技术的平民化下沉。如何更好地使用该技术为人类社会服务，并规避其技术异化风险，势必成为未来传媒业关注的焦点问题。

二、“深度伪造”在传媒领域应用的新突破

近年来，“深度伪造”技术的发展势如破竹，影响和惠及信息技术、医疗卫生、教育培训、商业营销等众多行业。在传媒领域中，“深度伪造”正处于起步和探索阶段，在影视、新闻、广告方面大放异彩，成为备受行业瞩目的下一片蓝海。人工智能与传媒行业深度融合，可激发从业人员的创造力、加强传播内容的表现力、提高传媒产品的冲击力，赋予受众新鲜的体验感，提升优质内容的传播力。

1.影视业：超越时空限制，拓宽无限想象。“深度伪造”已经在传统的影视行业中崭露头角，其被行业广泛采用可能只是时间问题。迪斯尼公司一直致力于该技术的研发，继开发演员换脸系统之后，2020年又发表了一项成果，能把DeepFakeLab创建的视频最高分辨率从256*256像素提升至1024*1024，这极大地推动了电影制作方法的智能升级。“深度伪造”技术为从业人员创新注入活力，为影视表演突破时空限制创造了条件，使天马行空的大胆想象变成现实。从目前影视行业的应用来看，主要体现在三个方面。首先是复活演员的影像和声音。例如，美国电影《速度与激情7》才拍完一半，主演保罗·沃克因事故意外去世，导演温子仁认为“复活保罗，像创作一本《圣经》”，所幸“深度伪造”技术助力实现了这一艰巨任务。把保罗·沃克在《速度与激情》系列拍摄的全部镜头和幕后素材整理成大型数据集，保罗·沃克的三弟和二弟分别担纲他的“脸部替身”和“动作替身”拍摄了260个镜头，然后运用“深度伪造”技术把保罗·沃克的面部特征映射到替身们的表演中，从而使故去的保罗·沃克在大荧幕完美复活。除了影像，故去名人的声音也能复活。2022年3月9日，Netflix推出六集纪录片《安迪·沃霍尔：时代日记》，记录了1987年去世的美国著名波普艺术家安迪·沃霍尔的传奇一生。该片获得安迪·沃霍尔基金会的许可，使用“深度换声”的人工智能技术还原他的声音，恍如他亲自旁白自己极其复杂的内心。央视纪录片《创新中国》采用该技术让已故配音演员李易的声音重现电视荧屏。这种声音的复活，无论在认知还是审美上，都给观众营造出非凡的真实感，实现了创新与怀念的双重效果。其次是实现演员的去老化。电影《爱尔兰人》利用“深度伪造”技术对主演罗伯特·德尼罗进行了数字化减龄，使其年轻了30岁。再次是突发情况下解决换角压力，如今在国内“深度伪造”技术已成为劣迹艺人影视作品的救场工具，《长安十二时辰》和《光荣时代》等电视剧都采用“深度换脸”实现劣迹艺人露脸镜头的全部替换。

2.新闻业：增效内容生产，助力报道创新。“深度伪造”技术在新闻传播行业迎来了跳跃发展。首先是打造真人形象的人工智能主播，近几年已在各国新闻业中广泛应用。人工智能主播可以逼真还原真人主播的口唇动作、面部表情、肢体姿态和语音语调，能独立承担主持和播报，且具备成本低、无间断、零误差、多语言、多场景等明显优势，提升了新闻信息传播的智能化进程。2018年，新华社推出了AI主播“新小浩”，在新闻领域开创了实时音视频与真人形象合成的先河，之后“新小萌”“新小微”“梦瑶”“纪宁”等AI主播闪亮登场，已贡献2万则新闻报道，时长近5万分钟，浏览量70亿次。人民日报打造的虚拟主播“果果”，形象与声音可与真人主播原型果欣禹以假乱真。只要输入文本，AI主播就能快速转换成新闻播报，并能用普通话、粤语、英语、法语、韩语等多种语言播报新闻，从而大幅降低新闻节目制作成本，提升新闻内容的生产效率，甚至颠覆未来的新闻生产方式。2022年2月，中央广播电视总台首位超仿真人工智能主播“AI王冠”问世，采用DeepBrain AI深度学习技术，通过数百个节目视频来学习真人的声音、口音和姿势，使其拥有流畅自然的语言、真实鲜活的神情和清晰入微的肤质。在2022年两会报道中，真人王冠与“AI王冠”同框互动的《“冠”察两会》节目，形式新颖，火速出圈，深受青年观众喜欢。日本放送协会（NHK）的“Yomiko”、英国独立电视（ITV）的“Sophia”、韩国MBN电视台的“金柱夏”等真人AI主播一经推出，都在本国新闻界引起轰动，并掀起了革新性的热潮。其次，“深度伪造”技术还可以使新闻老照片焕发新生。新华社在2021年五四青年节期间推出一款融媒新闻产品，利用深度换脸技术让钱学森、张闻天、徐特立、雷锋、聂耳等16位已故的历史名人穿越时空，与大众来了一场视频聊天，用自己的人生感悟为当代青年答疑解惑、指点迷津，创造了极佳的新闻传播效果。再次，打造手语AI合成主播。例如，2022年北京冬奥会，总台央视推出了全球首个手语AI合成主播“小聪”，能用流畅准确的手语进行新闻解说，为我国2700万听障群体第一时间带来冬奥精彩进展的赛事报道，让他们更加便捷高效地获取新闻。

3.广告业：激活匠心创意，升级用户体验。“深度伪造”技术为广告行业带来了变革性的影响。人工智能大幅减少了广告制作的时间、精力和成本，激发了更高水平的广告创意，提高了广告的感官冲击力，升级了广告用户的个性化体验。首先，深度换脸解决了新冠疫情背景下广告拍摄明星的困难。由于三年多来新冠病毒的肆虐，不少国家曾出台居家隔离的政策，限制了面对面的广告拍摄活动，很多明星无法到场参与拍摄，致使一众广告公司无法更新视频素材。利用人工智能对历史素材进行深度合成提供了新的创意思路。2021年，俄罗斯电信运营商斥资100万美元邀请好莱坞明星布鲁斯·威利斯拍摄新广告，然而并非真人出演，而是通过深度换脸技术制造了完美复刻的替身演员。广告技术人员选择了34000个布鲁斯的影像片段，运用人工神经网络将其脸部覆盖到替身男演员的脸上，从而创建出广告中的新形象。目前，一些国外广告公司通过合法渠道获得有影响力的公众人物面孔和声音的使用权，将深度合成的内容转化为数以千计的个性化定向广告进行投放。其次，催生令人震撼的创意广告。2022年3月，西班牙电视流媒体平台Dish Latino推出付费电视服务广告，拉美著名喜剧演员罗伯托·戈麦斯在去世近八年后重现银幕，与他的儿子谈论当今世界电视媒体的变化方式。广告营造的父子隔世重逢的惊喜、感动和幽默收获了网友400万点赞。再次，激发用户的在线体验感。该技术可以将在线体验式营销直接带给广告用户。例如，人工智能公司Superpersonal开发的虚拟试衣间系统，可把用户的脸部覆盖到广告视频的模特脸上，实现下单前的在线试穿。一些在线网络游戏广告也尝试把游戏的角色面部转换为用户真实脸部，让玩家在购买前体验游戏的精彩。营销学家发现，当消费者将产品视为自己的延伸时，他们愿意支付更高的价格、购买更多产品并向他人进行宣传。

三、“深度伪造”在传媒领域的技术异化风险

技术异化是指在新技术发明、扩散和转化应用进程中，在功利主义价值观和技术至上主义的驱使下，悖离科技以人为本的终极目标而误入歧途。被异化的新兴技术违背法律、伦理、道德和人本主义精神，反噬社会，严重威胁人类的主体地位和社会的正常运行。“深度伪造”作为人工智能时代的前沿合成媒体技术，在其突破性发展过程中，也出现了赋能与异化交织、向善与趋恶并存的复杂局面，不加限制的滥用对政治、经济、社会、文化、军事、国际关系带来不可估量的重大风险，笔者从新闻真实的消解、传播秩序的失范、舆论引导的失灵三个维度，来尝试剖析“深度伪造”在传媒领域引起的冲击和挑战。

1.新闻真实的消解。真实性是新闻得以存在的基本价值、理由和意义，是新闻报道的最高工作准则和新闻工作的终极目标。“深度伪造”的新闻照片、视频和音频越来越逼真，无论是普通公众抑或是专业媒体甚至是智能识别器都难辨真伪，任其发展，真实影像将被侵蚀、原始声音会被篡改、新闻真实将被混淆、媒介生态会被污染。

2018年，加蓬军方发布了总统阿里·邦戈“深度换脸”的虚假新闻，误导本国民众质疑总统履职能力，最终触发军队政变。2019年，马来西亚经济事务部长阿兹明·阿里深陷同性不雅“深度伪造”视频风波，其政治生涯遭到严重打击。2020年，比利时总理苏菲·威尔梅斯关于新冠病毒感染是生态危机恶果的“深度伪造”演讲视频也引发本国的巨大争议。2020年，美国总统竞选期间，奥巴马嘲讽特朗普是蠢货、特朗普攻击巴黎气候协议、拜登接受采访时睡着的视频，虽然后来都被证实为“深度伪造”假新闻，然而通过对总统候选人原有言语和形象微妙改变，使其品格、健康和心理状况受到大众质疑，完全可以影响选民的情绪和选择。时至今日，泽连斯基宣布投降的“深度伪造”新闻仍然在互联网散布，影响着舆论的走向。人类正在进入以信息为基础的数字时代，新闻的深度失真引发的信息混乱和社会动荡是极为危险的，对于政治稳定、经济运行、国家安全的影响非常深远。

2.传播秩序的失范。信息是数字时代的重要经济产品和核心社会资源，在媒介产业化的时代背景下，以“真实”“客观”“准确”“完整”“诚信”“专业”“尊重”“平等”“责任”等伦理原则构建的传播秩序维系着整个信息传播过程。而一旦传播者出于种种逐利动机，借助“深度伪造”技术传播虚假不实或夸张变形的信息，违背了公共传播伦理，破坏了传受双方间的契约原则，就会产生传播秩序的失范，加剧网络世界的混乱无序，由此衍生一系列新型的违法行为。

从2017年开始，美国的“深度换脸”色情视频在网络泛滥，众多女明星和名人在不知情的情况下被替换成不雅视频的主人公，肖像权和名誉权被恶意侵犯，在欧美影视圈引起强烈抗议。甚至还形成了制造、销售深度换脸淫秽视频的黑色产业链。2021年，台湾省破获一起案件，犯罪团伙利用“深度伪造”技术制作不雅影片，著名歌星等119人脸部被盗用制作成猥亵影片在网络售卖，不法获利高达1338万台币。“深度换脸”还演化为色情报复和敲诈勒索的新型犯罪工具，侵害公民的人身权和财产权。印度女记者拉娜·阿尤布因在新闻报道中揭露当地官员在屠杀事件中的不作为，有人将她的脸与色情片女主角的脸互换，合成不雅视频在网络恶意散布。美国女演员贝拉·索恩自曝曾被黑客以“深度伪造”色情视频敲诈勒索。2021年，《华盛顿邮报》曾报道美国一妇女创建“深度伪造”视频，用来骚扰她女儿高中拉拉队中的竞争对手。她伪造了其他拉拉队成员吸烟、喝酒和裸体的不雅视频，然后用匿名账户向这些女孩发送视频并建议她们自杀，该妇女已被逮捕并被指控犯有六项骚扰罪。此外，“深度伪造”还被用于网络诈骗。

3.舆论引导的失灵。“深度伪造”技术的滥用还引起民众精神世界深层次的危机，产生迷茫、怀疑、恐慌、焦虑、抑郁等负面情绪，对信息真实性的怀疑和对媒体信任的衰退将使媒体公信力变得更加脆弱，进一步挤压官方正面信息的传播空间，最终可能引起国家和政府舆论引导的失灵。

近两年新冠疫情影响全国，有人利用“深度伪造”技术伪造了钟南山院士的声音和视频，炮制了诸多虚假信息。例如，钟院士演讲说确诊患者中无一素食者感染新冠病毒、钟南山院士赶赴满洲里、乌鲁木齐、意大利等多地抗疫，钟院士为牛奶、草莓、药品、保健品代言，后经官方证实皆为谣言，但传播甚广，谣言远远跑在了真相前面。另外，“深度伪造”还利用首因效应而取得先机，使得正面舆论引导纠偏非常困难。例如，2017年，印度各地陆续出现因“深度伪造”的谣言而导致市民无故被杀的案件。谣言利用合成图片和视频伪造了绑匪拐卖儿童贩卖人体器官的虚假信息，马哈拉施特拉邦的居民误把5名路人当做绑匪殴打致死。虽然当地政府和警方紧急辟谣，澄清事实，但大众不信任官方媒体，而对假消息深信不疑，以至于之后又发生13起同类案件，造成27人死亡。

四、结语

自“深度伪造”技术进入大众视野以来，可谓毁誉参半，争议不断。在传媒领域，我们要看到“深度伪造”技术在影视、新闻、广告、娱乐对传媒领域带来的激烈冲击和反噬风险。“深度伪造”技术和任何新技术一样具有双面性，利与弊相互依存、相伴而生。怎样用规范来约束技术的恣意滥用、规避技术异化的风险，是人类社会永恒的话题和无法回避的时代责任。要始终坚持科技以人为本的思想，推进“深度伪造”等人工智能技术的创新、研发及合法合理应用。一方面，要借鉴各国优秀的治理经验，对已经出现的异化现象进行科学研判和积极治理，从文化观念、法律法规、技术反制、平台管理、内容溯源、监督机制、行业自律和媒介素养等维度，整合推进技术异化治理体系的构建与创新；另一方面，要警惕潜在和未知的技术异化风险，大力开展技术预测工作，创建具备高度前瞻性的风险预判制度和完善的突发危机应急管理制度，保障人工智能技术以向善的力量推进社会发展。