跟着短视频、直播的火发作展，越来越多的UGC内容发生，随之而来的是庞大的内容禁锢压力，但互联网不是法外之地。为此，6月17日（周三）20:00-21:30，网易易盾出格提倡了这样一场微信群深度接头。本文为接头总结，但愿能对你有所辅佐。

6月，网易易盾连系人人都是产物司理，举办了为期2周的微信群互动问答勾当，特邀网易易盾的内容安详专家进群，针对内容安详体系建树话题展开了接头，期间发生了许多优质的内容，往期互动问答链接：

6月17日，我们再次邀请到网易易盾的高朋@王博老师，环绕如何应对内容禁锢等相关话题，在专场勾当群内为同学们开展了一场内容分享。

以下为网易易盾内容安详资深产物司理@王博演讲实录，由人人都是产物司理团队依据高朋分享内容整理，编辑有修改：

各人好，我是王博，2016年入职网易，完整经验了网易易盾从0到1的贸易化和产物化的进程。

本次分享主要合用于碰着内容安详问题的产物认真人、产物司理、产物运营，或想进修内容安详体系搭建的同学，但愿我的分享能辅佐列位相识网易易盾在产物化进程中碰着的焦点问题，以及我们如何去办理问题的思路。

本次分享将主要环绕三部门展开：

之一，内容管理大情况下各人碰着的焦点问题，出格是黑灰产这块，会展开专项分享；

第二，易盾关于面向将来的内容安详体系建树的焦点设计要素及焦点要点；

第三，易盾针对人机协同场景、为了晋升人工审核效率所研发的智能审核系统的说明。

一、良知知彼 1. 禁锢配景

近几年，我国在内容安详管理方面，泛起出几个较量焦点的特点：

之一是禁锢部分的包围度较广，政策礼貌日趋完善，各个部分针对差异规模的规章制度宣布也很是频繁，譬喻 *** 的音视频信息处事打点划定、未成年人的节目打点划定，未成年的小我私家书息 *** 掩护划定等相关法令礼貌都趋于完善。

第二是对付违反法令礼貌的相关企业，国度在这方面的惩罚力度也很是强硬，采纳了更多有针对性的专项管理动作，像最近五月份刚落地的护苗动作，净网动作，明朗动作等都是针对 *** 安详的专项管理动作。

纵然在高强度的政策禁锢力度下，我们会发明互联网上的违规内容依然层出不穷。这些垃圾已经包围到各类业务范例上，好比新闻内容、用户评论、头像昵称等，任何有内容宣布场景的都很难躲过违规内容的骚扰，尤其是在产物到达必然量级和日活的时候，我们就会发明有垃圾的侵入，我们也会发此刻各类场景下呈现的违规种类和变种也很是多，从最初简朴的敏感词到此刻有字体的拆分、非凡标记的夹杂，图片内嵌入违规文字信息，以及语音里混合着色情内容等等。

2. 黑/灰产财富链

在网易易盾产物化的进程中，我们也收到许多文字的变种，有些是通过盖楼的 *** ，单独看这一楼的评论是没有问题的，可是把123楼接洽在一起就是有问题的，这算是一种较量巨大的反垃圾场景；尚有图片中加水印的形式，我们最近在图片规模也发明黑灰产，他会把一些违规的信息放到埋没通道里，躲过我们的呆板检测。

上面提到的许多雷同垃圾变种的场景，我们都在不绝的举举措则反抗，敌手也是在不绝进级的博弈战中一连地举办抵御事情，这背后其实埋没着一条很是深和成熟的黑灰财富链。我们面临的敌手不只仅是真实的人，照旧一群团伙，是一条成熟的黑灰财富链。下面我们就以色情这条财富链为例，为各人深度分解色情财富链的运作 *** 。

像上图泛起的色情这块的黑灰产，我们称为色流财富。从2008年流量形成了一次发作式的聚合开始，雷同的告白色情打赌等信息逐渐局限化呈现，使这条零星的财富链开始转向财富化，群体的人数局限比之前扩充了十来倍，据专家人士研究，守旧预计在2008年时，这条财富链已经有十来万人阁下了。

其时各人盘踞在各大流量蜜罐中，主要是靠点击收费可能按量付费的金额来提成，色风行业的趋势开始呈现之后，我们发明文本的垃圾开始酿成了图片的垃圾，并更具隐秘性，就逐步呈现图中文字违规的场景。

跟着 *** 的不绝成长，从论坛到微博，从人人网到微信，流量逐步的从PC端迁移到了移动端，这个中也发作了一波流量红利，跟着流量蜜罐迁移的尚有黑灰产的色流雄师，他们逐渐呈现了两个分支，一部门进军到微信，一部门进军到视频。