2020年初，突如其来的疫情打乱了无数人的假期规划，一时间国内外的旅行变成了奢望，旅游业、网吧业、体育赛事、线下也因此受到影响。
　　

　　无独有偶，疫情之下的线下实景娱乐虽难以开展，但用户的娱乐需求仍需满足，游戏、线上影视剧、直播及短视频为首的娱乐内容产业获得了发展良机。
　　在这次线上娱乐大发展的过程中，内容健康再次被监管部门和网络大众所关注。如何更好地打击网络“黑产”、维护网民权益和未成年人的上网安全，成为了产业讨论的热门话题之一。
　　在线娱乐大爆发，网络环境治理面临新挑战
　　截至今年6月，我国的网民数量已达9.4亿，过去五年，这一数字增长了22%。
　　

　　2020年上半年中国网民规模和互联网普及率（图片来源：GNNIC）
　　移动互联网的普及，早已使得网民在不同平台上拥有了属于自己的“虚拟身份”。基于虚拟身份的网络社交提升了用户间的交流效率、拉近了陌生人之间的距离，但也带来了网络诈骗、内容违规、涉黄涉暴等一系列问题——这些问题大多和网络黑灰产息息相关，也因此平日隐蔽在各个网络空间角落。

　　监管部门针对互联网安全相关的法律法规和监管政策也在不断完善，越来越多的网络黑产得到了法律的制裁，数百款涉嫌违法违规的平台也因此被处罚甚至封禁。线上娱乐的爆发，让这些平时隐蔽的黑灰产借机进一步“扩张”。网络环境治理面临新挑战。
　　2020年7月，国家网信办宣布启动“清朗”未成年人暑期网络专项整治行动。除了内容以及价值观扭曲的影视剧和UGC音视频作品，黑灰产依附较多的游戏、社交类App违规内容也是本次整治行动的重点。
　　除了网民举报和监管部门管理以外，平台也意识到内容自查自审的重要性——互联网违法违规行为不断变化升级，只有通过技术及运营的不断投入，构筑内容安全壁垒才能有效抵抗违规行为对平台的侵蚀，而有效甄别并抵制违法违规行为，才能够确保平台的安全和健康。
　　电竞游戏作为国家新经济产业的重要组成部分，也从无到有孵化出不少明星企业，在2020年线上娱乐大爆发的阶段备受关注。
　　以线上电竞陪练行业的头部平台比心陪练为例，其用户数量已达5000万，并为全国超过600万电竞陪练师创造了就业机会。根据比心陪练统计数据显示，仅在2020年一季度，平台新增陪练大神即超过102万人。截至目前，已有接近150万人在比心陪练平台通过游戏技能分享赚取收入。根据平台官方公布的数据显示，2019年全职电竞陪练月收入约为7857元，兼职电竞陪练月收入约为2929元。
　　电竞游戏陪练的价值已逐渐被社会所认可并广受欢迎，但当用户规模达到一定体量之后，由于电竞游戏带有天然的社交属性，也同样面临内容安全治理的新挑战。
　　平台、监管、用户、第三方，多元共治是在线娱乐健康发展的趋势
　　在不久前落幕的《2020音视频直播行业绿色内容生态共建峰会》上，南方都市报大数据研究院网络内容生态治理研究中心发布的《网络音频社交“软色情”侵害风险研究报告》显示：多元参与、协同共治，是网络内容生态建设的趋势——这其中，平台企业的主动担当和参与尤为重要。
　　

　　2020音视频直播行业绿色内容生态共建峰会
　　已经有不少在线娱乐平台走在了前面，并联手用户、监管部门、第三方探索多方共治、维护网络安全空间。
　　“我们在走访行业时发现，用户往往是违规内容的第一发现人，有接近三成的违规内容来自用户的举报。所以发动用户、共同守护网络空间的平安健康，至关重要。比心也在鼓励用户参与平台治理方面做了很多举措。”比心陪练相关负责人介绍，为了鼓励平台用户积极参与平台内容生态治理，比心陪练对违规信息举报体系推出了多项新举措：一方面浅化举报入口，方便用户举报，在线客服也可代替用户直接发起举报行为；二是运用AI算法能力使系统能够自动生成举报，例如当前针对涉黄用户，每日会自主挖掘相关违规行为，每天超过400条涉黄内容被主动拦截打击。“同时比心还推出用户举报激励体系。针对用户对违规信息举报行为，设置激励机制，根据被采纳情况给予相应的奖励，每个用户单日奖励最高可达1000元。已经有不少用户获得了违规内容举报奖励。”上述比心陪练相关负责人透露。
　　除了鼓励用户参与平台治理、积极配合监管举措，作为国内用户体量最大的电竞社区，比心陪练在平台内容安全机制化建设方面做了很多有效探索。“比心陪练现在用户已经有5000万了，这样大用户体量的网络社区，对平台自我治理能力提出非常高的要求。”上述比心相关负责人介绍道，比心陪练平台的安全业务和生态治理从最初的一个人、一套系统，到如今实时风控平台、离线风控平台、内容审核平台、资金安全平台、举报处理平台、用户申诉平台组成的“六大平台”，而且与业务快速发展同步，逐年加大风控审核维度的技术、资金和人力成本的投入。
　　值得注意的是，互联网平台违规内容衍生裂变形式越来越多样化，形式隐晦难以捕捉拦截，部分场景下更是出现黑灰产有组织化的运作，通过不断揣摩平台现有的风控策略尺度和特征，想办法绕路，也对平台的技术提出了更高挑战。
　　上述比心陪练负责人介绍，为了应对平台安全新挑战，公司已经引入数美科技等风控技术顶尖的第三方，进行资源和技术互补、共建风控策略和安全池。
　　“平台在内容方面的自查自审非常关键。”上述负责人表示，为了加强内容安全建设，比心在内容审核维度强力推行人机结合的策略——机器负责捕捉和拦截常规的敏感内容，人工审核团队负责筛选类似于符号代称等变体组成的违规内容，并配置超过300人的人工审核团队，设置“初审、复审、质检、终审”多道屏障，过滤拦截涉黄涉暴等违规内容。
　　在今年8月进行的自查自审行动中，比心陪练曾对风控系统监管级别进行了升级，通过使用“基于社区联通图的团伙挖掘技术”，以及调配日常3倍以上的审核人力，对历史内容进行了全面回查。同时，比心陪练还加大了全平台内容监管的尺度和惩罚的力度，以彻底清理拦截违规有害内容，净化内容生态环境。
　　比心陪练相关负责人表示，公司创立至今已超过六年，业务快速发展的同时，在风控审核维度投入的资金成本和人力成本也在逐年增加。目前，公司风控、审核团队人员规模超过400人，日均处理数据量可以达到60万以上、月均达到2000万条以上。
　　“我们去年包括AI技术研发合作、第三方风控系统接入、及风控审核团队的人力成本投入达到数亿元，公司在未来会继续加大这方面的投入。”上述负责人告诉36氪。