我国互联网不良信息传播途径及技术治理研究

任世鹏

（北京外国语大学，北京 100089）

导语

中国互联网以1994年首次接入国际互联网为标志正式起步，紧随世界互联网发展浪潮，至今经历了模仿学习、摸索跟随、实践发展几个阶段并迅速成长为具有中国特色的互联网应用大国。根据2022年8月31日发布的第50次《中国互联网络发展状况统计报告》显示，截至2022年6月，中国网民规模达10.51亿。这也意味着自2021年我国互联网普及率首次突破70%起，至2022年6月已达74.4%，相信随着互联网技术的持续深入发展，这一比例还将进一步提高。截至2022年6月，我国互联网普及率相较2021年12月又提升了1.4个百分点[1]，互联网上信息的传播范围和受众基础进一步扩大。

近年来，我国网民规模的持续增长一方面得益于移动互联网技术和智能手机的发展应用，还有一个重要原因是乡村互联网的普及推广。在互联网应用门槛一步步降低，我国移动互联网用户规模继续增加的同时，我国网民整体文化水平并未显著提高。根据2021年2月发布的第47次《中国互联网络发展状况统计报告》，我国网民中高中（含同等中专、技校）及以下学历的网民群体占比为80.2%，而本科及以上学历者只占网民总数的9.3%。[2]伴随着互联网为人们提供的海量有益信息和便捷新生活方式之外，色情、低俗，不健康亚文化等不良信息也随之而来。我国网民的素质参差不齐，对互联网上不良信息的识别能力和抵御能力相对较弱，构建清朗健康的网上生态环境显得愈加重要。

根据闫强教授等人对互联网上有害信息传播模型的研究可知，在有害信息（不良信息）传播力恒定的前提下，若要更好地控制不良信息在互联网上的传播蔓延，那么降低不良信息的传播率比单纯通过提高互联网管理部门的执法效率效果更好。[3]因此，充分研究互联网上不良信息的传播途径、机制和特征，对控制和降低不良信息在互联网上的传播率，具有十分现实的指导意义。

本文着重从传播理论及现实传播实际出发，探讨研究我国互联网环境下的不良信息传播途径，并希望带来启示，为不良信息的治理提供参考。

1.互联网不良信息的定义

关于不良信息的定义，需要先理解“良”字的含义，《说文解字》中对“良”的解释为：“良，善也”。那么通常所说的不良信息，指的就是那些不好的、不健康的、有害的信息，不良信息常与违法信息同时并列使用。不良信息是有违人类文明规则，有违公序良俗，与主流社会文化相悖的有害信息。相对于违法信息，笔者认为，不良信息若在少量、有限范围的条件下传播，其带来的危害程度也还未到违法的程度，其对受众及被传播个体的危害程度明显小于违法信息，更多的是一种违德、违序、违俗的“灰色”信息。这类信息既不能增进知识，又不能陶冶情操。不良信息的传播，往往对人们，特别是广大青少年身心健康产生十分不利的影响。

相对于传统媒体，由于互联网上的不良信息传播速度更快、影响范围更广，因此互联网已经越来越成为不良信息传播的主渠道，也日益成为不良信息传播的倍增器。

那么不良信息又有哪些类型呢？通常所说的不良信息分类，一般包括：涉政治类不良信息、违反社会公德类不良信息、违反伦理道德类不良信息、涉色情类不良信息、低俗类不良信息、消极价值观类不良信息、谣言类不良信息、封建迷信类不良信息、邪教类不良信息等。以上不良信息若大规模传播，极易形成次生负面社会事件，对社会、公众以及个人造成重大损失或伤害，又可能上升至违法的严重程度。

此外，在研究和分析互联网上的不良信息的同时，不应简单将现实社会与互联网割裂开来，互联网与现实社会之间存在着互相依附、互为影响的直接关系。互联网上不良信息也是现实社会中不良文化在互联网上的直接映射，这些不良信息通过受众的接收，又能够反向影响现实社会文化乃至社会秩序。

2.互联网不良信息的传播途径及特征

互联网不良信息一般在非固定的特定群体间传播，对单个个体而言，布鲁默的“自我互动”理论同样适用于这一传播过程。人们在长期接触此类互联网不良信息期间，在不断“自我传播”的过程中往往也会对自己采取行动，进而形成受众对此类信息的判断，这些判断或正向或反向，直接塑成受众对不良信息的选择性接触。受众对这一类信息的主动选择还可能会造成互联网不良信息的二次传播，使得不良信息得以继续蔓延，使其受众群体数量及传播范围进一步扩大。

2.1 互联网不良信息传播的特征

互联网不良信息的传播相对于互联网上的正常信息而言，由于其自身的不合法，其传播都具有天然的隐蔽性、集中性和渠道多样性等特征。

2.1.1 互联网不良信息传播具有隐蔽性

由于此类信息不为主流价值观和伦理道德所接受，传播者既希望更多人看到，又不希望太多人看到。所以很多文字类型的不良信息传播会采取隐晦描述、暗语、暗示。一些不良信息还以提示更换传播途径、使用专用查看工具手段等方式进行传播，具有一定的隐蔽性，并通过一定的隐匿方式进行隐蔽性传播。

例如，某微博账号经常性发布一些低俗图片，常常采取一次发布多张图片，只有其中部分为低俗图片，这部分图片混于正常图片之中，并设置为只有粉丝可见，以规避平台审核及监管部门打击。又如，某微博账号宣传“末世论”，通常都会发布较隐晦的 “末世”“救世方舟”“最后逃离机会”“上船”等词句，并提示粉丝加入其另一平台私人群组进行进一步交流。

2.1.2 互联网不良信息传播具有集中性

不良信息往往集中于某个网站、某个博客、某一类论坛，往往大量普遍存在，具有高度的个别集中性质。某网站内含色情内容，那么绝大部分情况是，不止一个，而是一系列。某个博客发布不良信息，那么此博客通常不会只发布一次，而是经常性周期性持续发布。

2.1.3 互联网不良信息传播具有渠道多样性

互联网传播方式的多样性决定了互联网上不良信息传播渠道的多样性。现阶段互联网不良信息的主要传播渠道有网站传播、邮件传播、社交媒体传播等。这些渠道除本身自带不良信息外，还多用来沟通传递不良信息浏览途径、传递所在链接地址、提供下载专用App地址等。有的还通过加入图片、语意、混入普通信息等方式，以绕过机器检测。

2.2 互联网不良信息传播途径

随着5G技术、手机移动客户端及社交媒体的发展和智能推荐算法的应用，互联网不良信息的内容承载形式、传播途径都受到深刻影响，受众（互联网用户）对此类信息的接触几率相较以往更高。社交媒体更开放，信息发布更实时，媒体内容更丰富，在熟人圈子和半熟圈子的基础上更进一步拓展至陌生人圈子。[4]因此，在社交媒体上往往受众与传播者的身份可互相转化。

2.2.1 互联网不良信息的受众分类

受众是信息的最终接收者，是传播的核心。本文中的受众分类，是从受众接触和接收不良信息的方式，以及受众主观意愿上进行简单分类。由此，互联网不良信息的受众，主要分为主动发布者、转载者、订阅访问接收者和被动接收者4类。值得注意的是，在特定环境及局部特定传播链上，转载者和订阅者也可看作是不良信息的主动发布者，是该条件下的互联网不良信息的传播源。

互联网不良信息的主动发布者：主动发布某不良信息者，是某互联网不良信息传播的信源。这些传播者，有的是不良信息的作者，例如谣言的编造者、低俗小说的作者、色情图片的拍摄制作者等。有的是不良信息的搜集整理者或再加工者，例如从外网搜集各类不良信息至国内互联网传播、将线下非法不良图书扫描上传至互联网等。这些传播者传播此类信息的动因，多是金钱利益目的、博取关注、虚荣目的、破坏心理等。

互联网不良信息的转载者：包括直接转发、评论转发、编辑转发几种转载方式，往往呈现跨渠道的特点。例如从微博信息转发至微信群、从网站转载信息至个人微博、通过邮件转发不良信息至邮箱联系人等。转载者是不良信息的次级或多级传播信源，也是整个不良信息传播的最重要节点。

互联网不良信息的订阅访问接收者：这类接收者具有习惯性和主观故意性，这类受众对互联网不良信息主动使用，使用和接收的目的是满足个人的需求和愿望，十分适用于E.卡茨提出的“使用与满足”理论。

互联网不良信息的被动接收者：这类受众往往是在“上网冲浪”，浏览网页、博客、视频期间，偶然接触到不良信息，是不良信息的被动接收者。

2.2.2 互联网不良信息传播中受众的相互关系

互联网不良信息的转载者和订阅接收者直接（主动打赏、付费订阅等）或间接（为增加浏览量、阅读量，增加话题度，增加粉丝数而转载，留言等）地为主动发布者提供了正向激励反馈。同时，互联网不良信息的被动接收者，在一定条件下可能转化为互联网不良信息的订阅访问接收者、转载者，甚至可能进一步转化为互联网不良信息的主动发布者，从而使得不良信息的传播范围和影响程度进一步扩展。

根据德国学者马莱茨克在其《大众传播心理学》中提出的系统模式，受众对传播内容的选择和接触，是基于受众本身的社会背景及社会需要所做出的。[5]值得注意的是，在智能推荐算法在互联网平台上已经普及的今天，若平台本身存在不良信息，那么智能推荐算法将根据用户对此类信息的“喜爱”而持续推送。关于互联网不良信息传播中的受众，尤其是在智能算法的推介下的受众，对不良信息的选择性接触，是一个值得深入研究的课题，涉及到个人层面、社会层面、心理层面等诸多复杂问题和因素，有待进一步研究。

2.2.3 互联网不良信息传播的内容形式

互联网不良信息传播内容形式，主要分为文字、图片、音频、视频几类。文字类不良信息是最传统的一类不良信息承载形式，文字类不良信息并不仅仅单纯以文本文字的形式展现，部分文字类不良信息是以图片甚至视频（其中画面配字幕、弹幕式文字，画面中夹杂图片文字）的形式呈现，图片及视频内文字技术手段识别及监管的难度更大。图片形式的不良信息是社交类网络媒体的主要传播形式，一般图片类不良信息较容易识别和判断，但经过加密变换算法的图片类不良信息值得进一步关注。视频类不良信息受到视频大小、时长等影响，一般出现于特定网络平台或传播渠道。

3.互联网不良信息的治理

3.1 互联网不良信息治理的法律体系支撑

对互联网上违法信息实施管控和依法打击是世界各国的通行做法，无论是互联网的诞生地美国，抑或是广大发展中国家。虽然我国互联网事业起步较晚，但发展较快，进入21世纪以后，我国已陆续出台了8部互联网相关法律[6]，法律法规体系已逐步完善。其中，以2016年颁布的《中华人民共和国网络安全法》和2019年颁布的《中华人民共和国密码法》为代表的系列法律，更侧重于维护国家安全、社会稳定和公众利益。2021年，全国人大常委会先后审议通过了《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》两部互联网相关法律，其内容在明确互联网各参与方责任义务的同时也注重行业自律及对个人权益的保护。陈道英博士认为，在法律治理体系方面，我国已经初步建立起了一套能够稳定界定非法有害信息，明确网络服务提供者应履行的网络内容治理义务，以及网络中各方责任的完整法律体系。[7]

有了顶层法律的支撑，国家网信办等有关部门陆续出台了相应的系列行政法规、管理条例、规定、办法等，这些法规有益弥补了法律对互联网不良信息规制的不足，形成了纲举目张的作用。

3.2 互联网不良信息的技术治理

互联网治理通常有4种方式：市场调控、架构（技术手段）约束、法律规制、社会规范。[8]如果说法律法规是网络治理的依据，那么与网络治理相关的技术就是网络治理的直接方式和手段。互联网因技术而生，要做好互联网的治理，也必须依靠技术。在互联网海量信息的面前，单纯依赖人工筛查审核显然有所不逮，只有充分借助技术工具手段建立政府指导、互联网行业自律、群众广泛参与监督的全方位互联网协同治理体系和治理系统，才能做好互联网不良信息的综合治理工作。

3.2.1 互联网不良信息技术治理的主要方式

国际上知名的Facebook、Twitter、YouTube、Google、Instagram等网站或平台都使用了检测、筛查等技术用于各自网上不良信息内容的识别与管理。[9]

对互联网上的不良信息的技术应对，主要应用于互联网活动中的事前、事中和事后：互联网服务提供者对接入互联网的信息内容的审查过滤、互联网管理者（含参与者）对不良信息的事后监测识别及定位、有关各方对已发现不良信息的事后处置封堵。其中事前的审查过滤与事中的监测识别也可划归为不良信息识别的技术范畴。

3.2.2 提高互联网不良信息技术识别水平

文本识别：目前较为成熟的自动识别技术是对文本的识别，可通过设置关键字、敏感词等，实现对目标文本的自动化检测。对图像文本对象，一般需首先转换成纯文本后再行识别。通过海量样本训练后的智能文本识别模型，还可做出文本倾向性判断，给目标对象打出特定标签，以辅助人工审核。

文本识别的技术难点在于，人为的变体字、变体词、谐音字词的判别，以及语义识别。此外，由于缺少应用场景及训练样本，小语种、少数民族文字的文本识别模型也有待加强。

音频识别：音频的识别分为两个阶段，第一阶段是将语音转换为文字存储；第二阶段是应用文本识别模型对存储的文本进行文本识别判断。

音频识别的技术难点在于，对小语种、少数民族语言、方言的识别，以及由于第一阶段语音转文字准确率对第二阶段文本识别的叠加影响。

图片识别：使用经过训练的人工智能模型可有效辅助对图片中含有的特定人物形象、徽章旗帜、标志标识、枪支刀具以及涉及淫秽色情、裸露等不良信息的图片进行有效识别。

图片识别的技术难点在于，难以对经过算法变换的图片进行识别判断，对增加干扰点的图片识别也是此类图片识别算法的一大痛点。

视频识别：类似于音频识别，视频识别大致可分为3个阶段。第一阶段是将视频截帧后暂存为系列图片，并将视频中的音频转换为文字存储；第二阶段对截取的图片依次进行图片分析识别；第三阶段还需应用文本识别模型对已存储的音频文本进行文本识别判断。

视频识别对硬件资源配置及算法的效率要求较高，若对直播流进行事前视频审核，则会造成直播的延时。

对互联网不良信息的事前识别和清理，是互联网企业平台的责任义务，也是保障互联网企业平台合法合规发展的必要手段。单纯依靠AI审核的技术还不够成熟，加之人为反AI算法等干扰，AI技术识别不能完全替代人工审核。此外，互联网管理部门应与互联网企业平台一起，畅通渠道，广泛发动网民参与网上不良信息的举报，加强不良信息举报的受理处置工作。

3.2.3 及时有效对互联网不良信息进行技术处置

在事中阶段，发现不良信息后，应迅速采取有效技术手段，阻断其传播途径。在不删除不良信息的情况下，常用的技术处置手段一般有屏蔽和过滤两种。

搜索引擎屏蔽：搜索引擎始终是不良信息传播的重要传送点，应把搜索引擎作为监控的焦点。[10]通过在搜索引擎中对关键字做屏蔽处理，或屏蔽网站链接，不做推荐展示等方式，限制不良信息的传播力。

停止域名解析：以特定技术手段使DNS停止对特定网站的IP地址解析，用户无法通过网址访问网站，阻断不良信息传播。

IP及网址过滤：防火墙通过白名单或黑名单的方式[11]，限制对某些IP地址和网址的访问。也可通过此方式限制某IP的用户对特定网站的访问。

结语

互联网不良信息的治理是全社会的共同意愿，研究互联网不良信息传播的途径及特有传播规律，其最终目的也应是帮助实现对互联网不良信息进行有效治理。随着下一代互联网的研究深入和发展，特别是潜在的Web3.0等去中心化的互联网架构，必将孕育众多互联网新技术、新应用的出现，互联网不良信息的传播也将随之演进，对不良信息治理提出新的挑战。

对我国互联网不良信息传播研究应在已有传播学、心理学的理论基础上，更加注重结合我国互联网现实架构及未来互联网发展实际，有的放矢，更好地服务于互联网健康生态治理，构建清朗网络空间。

从政府层面，应进一步完善相关法律法规体系，明确各方的责任义务范围，并为互联网不良信息的判定、处置提供基础法律法规支撑。同时有关部门可借鉴国外的相关管理经验，研究论证互联网分级管理的可行办法，减少互联网上不良信息对未成年人的侵蚀影响。从网络运营主体层面，应进一步明确和强化其主体治理责任，通过加强技术过滤、事后查处等自律行为主动净化自身网络。从网民层面，随着技术的发展和我国网民素质的不断提高，网民在未来互联网中的话语权和能量呈增长趋势。[12]我们应通过各种方式不断提升我国网民整体网络素养，在压缩互联网不良信息传播空间的同时，把广大网民转化为互联网不良信息治理的参与者。