中国庞大的网络版主需要对危险内容有一个鹰眼

云精旺成立于2016年，目前拥有1500名主持人。在旺季期间，例如两会期间或新政府政策发布期间，他们每天都会检查帖子，语音信息，照片和视频的“万亿次”，以及公司自己发明的人工智能(AI)工具，到杨。

正如他所介绍的，这些人工智能工具非常先进，可以分析高级领导人的名字等“敏感”词是否在更大的文章背景中具有不好的含义。“如果在对话的背景下分析他们不合适，我们只会删除他们，”他说。

他强调，真正的人类内容调节者是不可替代的，能够补充人工智能工具的不足。

为了聘请合格的主持人，杨的公司更愿意招募党员和共青团成员以及来自农村的男性，杨说这些人更稳定。

候选人是否是党员也是温氏公司招聘过程中考虑的一个因素。“作为党员意味着候选人是积极的，由于党员需要写很多意识形态报告，他们可以更好地理解政策变化，”温说。

尽管许多员工来自上世纪90年代以后，但杨说他们“对政治不敏感”，“培训为他们提供了一个更大的图景，使他们能够更好地了解该国做些什么来使他们受益。”

“他们以前只是在网上获得单方面的信息，我们所做的就是教他们如何从历史和现实的角度来看待单一政策，”他举例说，对于来自村庄的员工来说，公司会教他们一个特定的政策如何改变自己的家乡。

新的市场定位

杨表示，他的客户现在不仅包括国内新闻，互联网和现场直播公司，还包括在中国市场运营的外国公司，如Airbnb。他说：“这些外国公司对内容适中有很大的需求，因为他们不太了解我们的规则。”

像云精旺一样，一些承包商也发现了一个新的市场定位：用少数民族语言或方言录制短视频和直播视频。举例来说，北京光明艾信科技目前在四川省成都拥有约100名内容主持人，其中一半以上是西藏人。

“与普通话相比，我们对西藏内容的评论更多地针对政治和恐怖主义相关的内容，”其首席运营官Cristina Wang告诉环球时报。

从前在软件测试业务领域，2016年，王先生注意到许多客户开始问她是否可以为直播视频提供内容调节服务。“看到这种需求，我们逐渐转移了我们的业务模式，”她补充说，她的客户来自主流的直播平台，他们担心用户生成的藏文内容如果不加监控，会给他们带来麻烦。

杨说，他的公司也有版主，他们懂藏语方言和维吾尔语。但该公司并不让特定道德少数群体的主持人审核相关内容。

“例如，我们通常不会使用维吾尔人来调节他们自己的语言内容，而是我们会发现其他民族的人也能够理解维吾尔语来监控这些内容以避免麻烦。”他说。

杨表示，如果他们发现与恐怖主义有关的信息，他们有时会直接向警方报案。

政府层面的沟通

中国传媒大学媒体法教授王四新表示，现在80%到90%的在线信息都是由用户自己创建的，这需要更多的内容版主。

他表示，政府应该为那些没有做内容调节工作的公司制定标准和惩罚措施。王思新还指出，“让公司让政府知道他们做了什么是非常重要的，否则会引起政府和公司之间的误解。”他说。

“如果没有适当的或足够的沟通，它可能会引发外界的敌对态度和政府的监督，”他告诉环球时报，指出像头条这样的科技巨头应该承担“更多的社会责任”。

这些在线平台现在具有线下动员能力，这意味着平台运动员应该预先判断离线聚会是否会导致社会不稳定。“他们应该警惕，如果发现不合适的事情，应及时向用户报告用户的离线事件。”他补充说。

杨解释说，他们需要政府更多的指导，帮助他们更好地理解政策。目前，他们只能依靠媒体教授和成熟的主持人从政府网站上分析新的规则和政策。

广电总局在2016年和2017年为审核互联网视听艺术节目的主持人举办培训班，帮助他们理解政策。但杨表示，他希望未来能为公司举办更多更大规模的培训研讨会。