新新闻业态下平台媒体的内容风控实践与反思

摘 要：近年来，以微博、微信、今日头条、一点资讯为代表的平台媒体（Platform Media）异军突起，给传统新闻业态注入了新鲜的血液。但随之而来的问题是平台媒体内容把关的缺失，良莠不齐、真假不明甚至一些涉嫌违法犯罪的内容充斥于网络，给社会造成了不良影响。政府部门对此监管趋严，约谈部分违规平台媒体和关停部分平台媒体旗下产品。在这一背景下，内容风控显得尤为重要。本文以今日头条的内容风控实践为例，试图呈现新新闻业态下平台媒体的内容风控现状，提出对平台媒体内容风控的反思。

关键词：平台媒体；内容风控；新闻业态

中图分类号：G206 文献标志码：A 文章编号：1674-8883（2020）01-0246-02

一、平台媒体的崛起与危机

（一）平台媒体异军突起

中山大学传播与设计学院院长张志安教授认为，新新闻生态主要包括4种类型媒体：一是理论上为公共利益服务的专业媒体（Professional Media），二是为特定机构或者行业传播而建立的机构媒体（Institutional Media），三是具有草根文化和技术赋权特点的自媒体，四是具有明显用户规模、技术创新和资本驱动优势的平台媒体。[1]本文提出的平台媒体即张志安教授所提到的第4类媒体，其中，最具代表性的就是一点资讯、微信、微博和今日头条等平台媒体。

最早提出平台媒体的是美国社交网站Sulia的CEO乔纳森·格里克，但是美国学者杰罗姆给出的定义更为大众所认同：平台型媒体是指既拥有媒体的专业编辑权威性，又拥有面向用户平台所特有开放性的数字内容实体。[2]从2014年开始到2018年，平台媒体已经慢慢成熟，为传统新闻业态注入了新鲜的血液，也成为了媒体转型发展的一个主流模式。

（二）平台媒体内容审核迫在眉睫

在这场平台媒体的流量狂欢下，随之而来的问题是平台媒体内容把关的缺失，良莠不齐、真假不明甚至一些涉嫌违法犯罪的内容如侵犯版权和淫秽色情的内容充斥于网络，给社会造成了不良影响。[3]因此，平台媒体逐渐陷于被监管部门约谈整改的泥潭中，社会声誉也与日俱下。

从2017年开始到2019年，包括今日头条、火山直播、微博问答、快手等平台媒体因部分内容艳俗等，接连遭遇相关监管部门的惩罚并被要求下架或整改。通过以上日渐趋严的监管动态，本文认为，违规内容是悬在平台媒体头上的达摩克利斯之剑。具有社会连接属性和社会生产属性的平台媒体想要持续发展，内容风控和内容审核是必不可少的一个环节。

二、今日头条尝试内容整改

今日头条主要为用户推荐信息，提供连接人与信息的服务。据其创始人张一鸣在2019年互联网大会上介绍，截止到2019年6月底，今日头条已有1.4亿活跃用户，每天平均使用76分钟。今日头条经过6年发展，已经成长为一家大型平台媒体。但是，正如我们前面在梳理平台媒体面临的内容审核困境中所提到的那样，今日头条在内容审核方面处处碰壁，为此损失了不少“爱子”，比如拥有2.5亿高黏性用户的内涵段子APP。因此，从2018年开始，今日头条开始正式着手布局内容风控。

一方面，平台媒体的社会责任成为了今日头条的关键词。2018年5月17日，今日头条替换了原先的标语口号，将原来的“你关心的，才是头条”更改为“信息创造价值”“坚持正确价值导向”，这一做法表明今日头条已经从内部意识到，在推行智能算法、大数据挖掘技术和追求商业利益的同时，也要将社会责任纳入考量。

在2018年年底，今日头条成立了平台责任研究中心，统筹反谣言工作，净化其内容生态。2019年年初，今日头条发布了第一份《今日头条资讯打假报告》。根据《今日头条资讯打假报告》，今日头条平台内所有发出的内容必须经过谣言模型和人工审核双重检测，月平均拦截11万余条疑似谣言的文章，同时滚动式清理网站内老谣言，平均每周对一千多条谣言点进行全站回溯。

另一方面，自2018年，今日头条开始大规模招募人工内容审核编辑，据今日头条副总编辑李彤在公开场合介绍，在2018年年初，今日头条拥有超过4000人的内容审核团队，这个团队的主要职责就是把关今日头条内容，确保质量和安全。除了人工审核之外，机器智能审核也是重要举措。今日头条的智能审核机器一秒钟能够审核100篇文章，极大地提高了内容审核的效率。在自身组建团队进行内容审核的同时，今日头条还将部分内容审核服务外包给专业的第三方内容审核公司。

三、国外平台媒体内容风控举措

良莠不齐、低俗媚俗甚至涉嫌违法犯罪的内容在网络中流窜，是全球所有平台类媒体都无法完全治愈的“硬伤”，这些平台媒体也面临着法律的制裁和民众的抗议。[4]因此，在这一背景下，国外一些平台媒体也陆续开始审核和把关自身平台上的内容。

美国两大平台媒体Twitter和Facebook将内容审查业务都交给了第三方内容审核平台。Twitter将其内容审核业务交给了第三方审核公司Sift science，这是一家网络安全科技公司，于2018年3月份获得D轮融资5300万美元。而总部在意大利的老牌公司CPL Resources则是Facebook一直以来的第三方内容审核平台。类似的第三方内容审查平台还包括新加坡的CashShield、特拉维夫的Foshirter、巴黎的Shift Technology、英国的Featurespace以及亞特兰大的Pindrop公司。这些平台都在为国外的平台媒体提供内容审查业务。

2018年Facebook发布了一份8000字的内容审核指南，规定了22亿用户以后可以或不能在Facebook网站上发布的内容。虽然有了第三方内容审核系统的帮助，但Facebook和Twitter等公司依然会在公司内部设置人工审核岗位，利用人工来甄别不法内容。

四、内容风控的反思

通过对今日头条内容风控的研究，本文认为平台媒体内容风控在一定程度上可以助推其实现长足发展。首先，平台媒体通过内容审核屏蔽了很多良莠不齐、庸俗媚俗、格调低下的内容，净化了新闻生态。本文认为内容风控本质上也是资本主义平台的一种让渡和妥协。目前平台内容审核的成本不小，但之所以这样做，一是因为政府的强制管制，二是为了留住用户、获得更多的流量。如果输出优质内容的水平能决定平台媒体发展有多高，那么内容审核则决定平台媒体能够走多远。其次，媒体平台通过内容审核也保护了版权。近年来，内容审核可以在一定程度上防止平台媒体侵犯传统媒体版权的行为。自从平台媒体诞生以来，经常遇到传统媒体起诉平台媒体侵犯其著作权的案件。例如，虽然今日头条标明了新闻来源网站的名称和具体网址，但没有完整地显示来源网页，而仅显示其中的新闻内容。而平台媒体推出内容风控，可以在一定程度上避免其侵权行为和，保护传统媒体的著作权。

虽然平台媒体的内容风控现在正如火如荼地发展，但是我们也需要对其有冷静的思考。一方面，平台媒体内容风控包括机器审核和人工审核，都存在审核标准模糊和审核不精准的问题；另一方面，人工审核对审核人的考验巨大，不仅需要审核的文章数量多，而且长时间观看血腥、暴力和色情的文字和图片也在一定程度上会影响审核人的心理状态。

据《今日头条算法原理》公开信息，在机器審核内容的过程中，泛低质识别涉及的情况非常多，容易导致审核不精准。而就第二方面来看，今日头条每一位人工审核员每周会有3次夜班，每天审核的文章数量为1000～2000篇，工作量很大。同时，在审核的过程中，还需要审核员划分每一篇文章的传播等级，这就要求审核员必须看完每一段文字和图片。有内容审核员曾对《中国经营报》的记者表示，每次工作完之后脑子里总是会想起那些内容，特别是一些凶杀暴力血腥的描写，导致自己经常失眠做噩梦，对自身身心是一种摧残。

五、内容风控的未来发展趋势

近年来，为了加强网络内容安全管理，国家网信办出台了诸多文件，约谈了众多违法违规的平台媒体，监管日渐趋严。因此，对各大平台来说，内容风控将成为平台媒体发展的应有之义。

那么，未来平台媒体的内容风控将走向何方？

首先，第三方内容风控平台将崛起。目前平台媒体通过三大举措来确保内容风控：一是将内容风控工作完全外包给第三方内容风控企业，如微博；二是平台媒体内部组建内容风控团队，建立内部媒体监控平台，人工和机器双管齐下完成审核；三是平台媒体将一部分审核任务外包给第三方企业，一部分由平台媒体内部处理，如今日头条。[5]本文认为，随着技术的发展和平台媒体对内容风控重视程度的提高，平台媒体内容风控模式将会更加多元，但是主要会向外包给第三方内容风控企业靠拢。

其次，传统媒体将会发力向平台媒体推出内容风控承包业务，内容风控将会是传统媒体和平台媒体合作的新形式之一。传统媒体特别是一些党报党刊在审核媒体内容的时候，具有天然的优势和敏锐度，能够非常清楚地了解媒体内容属性。此外，传统媒体相对于平台媒体来说，更加看重社会公共利益，比追求商业利益的平台媒体更具有社会责任感和社会公信力。因此，由传统媒体推出内容风控业务是合适的选择。以人民网为代表的传统媒体推出第三方内容风控业务，对其自身来说是一种再盈利模式，能够缓解传统媒体的困境。而对平台媒体来说，将自己的内容风控外包给第三方平台，也将极大地节约自身人力成本，提升平台内容质量。

最后，平台媒体的内容风控将会走向更加智能化，将人解放出来做更有意义的事情。虽然在机器审核内容的过程中，泛低质识别涉及的情况非常多，但是随着技术的成熟和实际运用案例的增多，平台媒体在运用机器审核内容时，其错误率会下降，误删漏删的情况也将减少。

六、结语

“欲戴王冠，必承其重”，平台媒体兼具明显的用户规模、技术创新和资本驱动优势，如果想实现长足发展，就必须承担相应的内容审核责任。在未来，第三方内容风控平台的崛起、传统媒体内容风控业务与平台媒体的融合、技术赋能平台媒体，使其内容审核实现智能化升级，将是平台媒体的法宝和护身符。

参考文献：

[1] 张志安.数字新闻业研究：生态、路径和范式[J].新闻与传播研究，2018（S1）：91.

[2] 张志安，姚尧.平台媒体的类型、演进逻辑和发展趋势[J].新闻与写作，2018（12）：75-80.

[3] 张志安，聂鑫.互联网内容生态变化：历程、路径与反思[J].新闻与写作，2018（10）：5-12.

[4] 杰罗姆.平台型新媒体（Platisher）是有效的商业模式吗？[J].中国传媒科技，2014（23）：71-75.

[5] 陈安庆.内容审核，传统媒体盈利新模式[J].青年记者，2019（10）：47.

作者简介：肖章凤（1993—），女，江西赣州人，中山大学新闻与传播专业硕士研究生，研究方向：媒介创新。