媒体传播中智能算法的社会风险与治理策略研究

高志华 冯甜甜

摘 要：新媒体传播领域中人工智能技术的飞速发展正在深刻地改变着公共信息传播的作用方式和效果。智能算法在信息传播环节的全面渗透已经成为一个现象级的话题，其带来的虚假新闻、算法偏见、信息茧房、隐私与安全等问题给社会治理带来了巨大挑战。本文从新媒体中人工智能算法的应用现状与社会影响入手，剖析算法底层逻辑，研究基于算法透明度的公开原则，探索以智能算法为对象的治理策略，促进传媒现代化治理体系建构和治理能力提升。

关键词：新媒体；智能算法；算法治理

中图分类号：G206 文献标志码：A 文章编号：1674-8883（2020）01-0077-01

信息技术的飞速发展将人类带入全媒体时代，正如习近平总书记所说：“全媒体时代是个大趋势，媒体融合发展是篇大文章。”在全媒体时代，每个人、每个组织或机构都有可能成为信息的生产者和传播者，而且未来新闻信息传播的各个环节，参与主体未必仅仅是“人”，万物互联、万物皆媒，智能体或将进一步参与信息采集、处理与传播的全过程。随着移动互联、云计算、人工智能等技术的逐步成熟，媒体的智能化进程不断加快，面对舆论生态、媒体格局、传播方式发生的深刻变化，如何在这一场前所未有的大变革中“破茧而出”，是主流媒体面对的重大课题，是政府治理能力创新的重要契机。

一、智媒时代的算法权力

人工智能的高速发展得益于3个主要技术因素：计算能力的增强、海量数据的积累、算法的进步和优化。人工智能的本质在于算法，算法即权力。新媒体中的信息获取、传播与控制的方式得到技术赋权，智能算法和传统的信息传播活动融合形成全新的信息传播网络，在一个媒体和代码无处不在的社会，权力越来越存在于算法之中。

算法与媒体的正式结合始于2002年谷歌推出谷歌算法新闻。谷歌的算法抓取与算法呈现是媒体技术的创新，这种算法新闻极大地提升了新闻传播与信息流通的效率，Facebook（脸书）、谷歌、今日头条等都是典型的算法模式的新媒体。如今，人工智能算法在新闻传播领域的全面渗透已经成为一个现象级的情况。随着媒体网络信息技术的不断优化，原来新闻传播中的诸多人工职权，如记者的新闻线索发现与内容生产、编辑的新闻发布等，逐渐被让渡给算法，算法的应用场景和权力范围不断扩张。

在新闻线索获取阶段，传统媒体时代下信息采集、新闻线索获取完全依赖人力，并由人工完成新闻制作所需信息和数据的材料收集整理。在智能媒体时代，以传感器为载体、大数据处理技术为支撑丰富和优化了新闻源头，与此同时智能机器人承担着收集、整理新闻线索的任务。在新闻写作编辑阶段，当前由机器人撰写的自动化新闻在整个新闻报道中的比重越来越大，例如今日头条的写作机器人写出来的文章已经不输于专业记者，特别是体育类、娱乐类新闻。与此同时，新媒体的互动环节通过各种算法，把最好的评论排上来，在评论、跟帖区呈现大众的智慧，更好地吸引用户参与。在新闻推荐与分发阶段，采用的新闻推荐算法的类型不断进化，这些基于网络的新媒体智能推荐算法正在成为新形式的权力。智能算法的内容分发所占的比例越来越大，截至2017年底，算法内容推送与分发已经占到整个社会性信息分发的70%左右。[1]

二、智能算法的社会风险

新媒体中的人工智能算法解决了互联网时代的传统信息传播范式超载危机，大大提升了信息生产、分发、管理等各方面的工作效率。人工智能具备工具理性、科技理性的条件与特点，精准、快速、高效，但是算法在新闻传播中带来的黑箱问题、信息茧房、算法偏见等诸多问题也引起了政府、学者和业界的反思，“算法焦虑”已经成为亟待解决的问题。

算法单一和取值偏差容易成为媒体负面效应放大器，导致虚假新闻、“标题党”、低俗信息泛滥等问题层出不穷，出现导向偏差，甚至出现劣币驱逐良币的现象。算法的设计、目的、数据使用等都是设计开发者的主观选择，其主观偏见有可能被嵌入算法系统。在商业利益驱使和流量思维导引下，算法偏见、算法歧视和算法操控的情况屡屡发生。算法智能分发和精准推送满足了用户的兴趣需求，导致信息偏食问题凸显，容易形成“信息茧房”。“信息茧房”中的受众容易固化自我信念与价值体系，促使个人极化，极易形成集体偏见，引发群体盲思。2017年《人民日报》曾连发3篇评论《一评算法推荐：不能让算法决定内容》《二评算法推荐：别被算法困在“信息茧房”》《三评算法推荐：警惕算法走向创新的反面》，批评算法推荐引发的乱象。[2]

“黑箱”在控制论中一般是指既不能打开、又不能从外部直接观察其内部结构的系统。在新闻媒体传播领域，算法对用户，或者说对被算法计算的受众来说，其源代码和工作原理被封装于模型框架之中，构成一个黑箱。算法黑箱使得广大受众以现有的认知水平难以判断其生产、传播的信息的真实度和可信度。无法透视算法的运作黑箱与背后的利益操纵，使得监管十分困难。智能时代下算法即权力，人工智能技术不仅在新媒体领域突显其优势与力量，还不断渗透进人类生产生活的各个方面。算法具有政治性，且其自身無法实现技术中立，在新媒体领域已经开始主导人工选择的方向和内容。因此，探索研究新媒体中的智能算法治理极其必要与紧迫。

三、算法治理策略初探

（一）算法分级监管机制

建立完善的基于算法透明度的公开机制。建立算法公开的审查与监管机制必须考虑公开与保密的平衡，毕竟人工智能算法作为一种技术秘密和商业秘密，[3]要实现完全公开是不现实的，这也是在实践监管中存在的一个难题。在具体算法监管中要遵循有限公开原则，一方面人工智能采用的有些机器学习算法具有自组织、自学习能力，其算法模型的解释有一定技术障碍；另一方面，有限公开是平衡算法透明和企业商业秘密的结果。

因此，算法监管需要建立分层次、分类别的分级审查与监管机制。根据对社会公共利益和公共基本权利的影响程度分级，影响大的应该采用更高级别的算法公开，影响小的则可以采用更灵活的算法公开方式。与此同时，考虑算法使用的不同场景、不同领域，采用分类公开方式。例如在新闻源头，新闻线索获取、编辑阶段，应强调数据来源的全面公开和解释；新闻写作机器人应强调模型的价值遵循；新闻推荐与分发则更强调公开推理依据和前提假设等要素。另外，要确定算法监管职能机构，属于商业秘密的核心算法只对政府监管公开，其他低级别的则可提供给第三方监管机构或面向社会公开。以算法有限公开为原则对算法的开发者、使用者和维护者确定不同程度的公开义务，旨在增强企业平台的社会责任感。

（二）多元协同的算法治理模式

算法的治理需要考虑为新技术的发展预留空间，相关政策制定应兼顾不同利益主体的关切和要求，政府鼓励企业平台、第三方机构以及广大网民多方参与政策制定，形成多元协同的算法治理模式。政府致力于顶层设计，推进人工智能领域的立法体系建设，划定技术伦理、权限边界和行为规范，同时培养和引进人工智能和大数据相关领域的人才，提高党员领导干部的信息素养和治网驭网能力。企业和网络传播平台需要用正确的价值观指导算法推荐，例如2018年今日头条旗下产品内涵段子被关停后，今日头条表示要全面纠正算法和机器审核的缺陷，不断强化人工运营和审核。政府和企业在算法监管与治理的良性互动过程中压实企业平台主体的责任，充分发挥企业技术优势，强化算法技术对新闻源头的筛选，规范新闻信息来源和内容生成方式，倡导“正直向善、科技创新、担当责任”的企业社会责任。鼓励引入第三方机构或社会组织监测和评估算法，定期或不定期公布各大媒体新闻信息传播平台智能算法的测评报告。考虑用技术来解决技术带来的问题，设计开发专门用于监测算法和内容的算法，利用算法审查和监管算法。同时，加大人工审核的投入力度，采用“人机结合”的方式，[4]进行内容与算法的双向审查。加强宣传，提高广大网民对算法推荐的认知度，提升受众应对算法偏见和信息茧房的元认知能力，完善举报、核实、奖励机制。

四、结语

在新媒体时代，随着大数据、云计算、人工智能等新兴技术的发展与成熟，媒体数字化、智能化进程不断加快，同时带来了舆论生态、媒体格局、传播方式的深刻改变。智能算法逐渐渗透到信息传播的各个环节，权力越来越存在于算法之中。智能算法在信息获取、加工、生成、传播、推送的过程中呈现出无与伦比的精准性、快速性和高效性，但同时在新闻传播过程中也带来了黑箱、信息茧房、算法偏见等诸多问题，引起了政府、学者和业界的反思，“算法焦虑”已经成为亟待解决的问题。因此，必须建立完善的基于算法透明度的分级审查与监管机制，探索政府、企业、第三方机构以及广大网民多方参与、多元协同的算法治理模式。

参考文献：

[1] 喻國明.人工智能与算法推荐下的网络治理之道[J].新闻与写作，2019（1）：61-64.

[2] 陈明.算法推荐的“歧途”及规制之策[J].视听，2018（10）：123-124.

[3] 网络时代应如何规范算法[N].人民日报，2018-07-04.

[4] 邓杭.算法推荐的风险防范和导向管理——发挥算法推荐对网络舆论的正向价值[J].新闻战线，2018（11）：62-64.

作者简介：高志华（1979—），女，湖北人，博士，讲师，主要研究方向：网络社会治理。