网易云安全产品运营总监郑鹏:视听时代内容安全产品实践

易观 2017-06-17 16:02:19   10


 

郑鹏,8年大型互联网公司运营工作经验,先后服务于网易、恒生电子、搜房网等公司,在产品运营、用户运营、内容运营等领域有丰富的实战经验。以下为演讲实录:

我来给大家分享《视听时代内容安全产品实践》,网易的C端业务的爆发式增长,从游戏、邮箱业务一直发展到考拉新闻、网易云音乐,到网易的课堂、网易云课堂。分享一下网易的场景,在网易云音乐拥有2亿家的用户,网易云课堂有1亿用户,网易易信有1亿客户。它们背后如何产生这些用户群体呢?我们有很多的场景信息。大家比较好奇在场景演进过程中,是如何完成弯道超车的?我们在整个过程中,也做的比较棒。接下来分享一下网易产品的运营经验,揭开网易一级场景运营的一角。网易场景的运营分为三个阶段,灰黑白。白是让优质内容自涌现,灰,让劣质内容纳入规则,黑,借助机器智能过滤信息。

产品如何让优质的内容自涌现,内容层级里面讲到黑灰白。健康理性的内容我们视为白色内容,灰色内容是广告、谩骂、灌水信息,黑色信息是政策命令禁止的,比如色情、违禁、暴恐信息,这些信息会影响用户的体验。看到这个大家并不陌生,这是网易云音乐,突破了2亿用户,歌单超过了8000万。在地铁中我们放了这些评论,“最怕一生碌碌无为,还说平凡难能可贵。”

这是用户体验非常好的场景功能,可以看到这两组的场景形态。网易的界面是黑胶唱片,这不仅仅是一个视觉让的感觉,我们看到黑胶唱片转的速度,有的场景也有做这样的黑胶功能点,但是它们转的效果非常快,让用户感觉到他的心跳“扑通扑通”,很不爽。但是我们的转速看起来很舒服,是因为我们的产品经理开发这款产品的时候,用了很多大数据。或者他边测边听,经过上万次的测试,达到了这样的效果。右侧是我们的跑步场景,它通过人工智能和大数据的分析,它会自动切换到最适合用户节奏的音乐,可以说将用户的情景和场景结合到极致。

网易云音乐运营的四部曲,第一个我们会把内容做内容,比如说一周热评,和一些指明热门歌单。实现优质内容的整合和转化,还会推送点击比较高的或者当季的歌单,优先推送给目标客户群体。我们会在这个过程过虑掉很多的不良信息各内容。这是网页跟帖运营的四部曲,是生态建设、内容输出、文化养成和品牌再生。网易跟帖在2003年还是萌芽期,还是一个新闻发布和简单的评论回复,2004年我们做了盖楼的文化,2005年我们怎么了踩、顶贴,2008年做到了无跟帖不新闻的品牌文化。后面又增加了对用户的体验,比如说一些积分规则,激励机制等等方式,来搭建整个生态建设。

这个案例是从产品演进过程中的小案例,盖楼一开始做的时候,并不是故意设计出来的。它只是为了解决当时网易连续讨论无法看到上下文,从而连续引发回复,没想到出现了盖楼的情况。刚开始的盖楼有一个嵌套,嵌套多了以后越来越少,就会成为一个这样的形状。后面我们慢慢优化成BIY格式,重复的信息在盖楼上气势非常磅礴。如果出现一款不良信息,有些广告信息、谩骂信息,还有一些仿政府的信息,都会出现在平台上面。对此我们需要做一些内容安全的过滤工作,把优质的信息推荐给客户。

灰,如何让劣质的内容纳入规则?第一个我们要建立产品的运营规则,就是不良的或者不优质的内容,我们要优先筛选清理,另外是规范用户的行为,引导用户产生优质的内容。像用户侧所看到的评论区的灌水,我们是禁止发重复信息的。包括热门评论,我们在产品建模的时候,就会规避掉原创歌曲与歌曲无关的段子。然后A的信息在B的信息,或者网易云上面发的吵架、谩骂或者攻击对方的行为或者言语,尤其是粉丝大战是非常厉害的,非常影响歌星下面粉丝的存在感。另外就是重复信息的清理,复制一些信息、鸡汤。有些平台为了增加用户的阅读量,允许这些内容存在,但是在我们这边是不可以的。就是宁可要一些用户真正自发的内容,也不要一些鸡汤复制的东西存在。第三灌水的信息都会清理掉。

这是我们在清理之前,如果我们没有做后台的安全机制或者场景规则,今天大家看到的就是这样子。“前几天加了一个很牛的老师,免费领100元的花费,大家赶紧来吧。”整个平台就会充斥着这样的信息。但是好的平台和规则就会产生这样的信息,这个比较有文艺范围,比较有干货。这也是一个有意思的案例,这是黑灰产业里面,半夜里面给工作人员发了一条信息。大家白天晚上没日没夜的看黄图,审核广告,审核黑灰产业他们觉得白天这么忙,晚上肯定可以发。但是我们通过人工智能的、大数据的方式,他们发多少我们删多少,那他们已经没有活路了。讲到这里大家很好奇,我们是如何通过人工智能过滤有害信息,帮助场景提升用户体验的。

你们不知道的有害信息非常多,2016年网易域内就清除了323亿的垃圾信息。这个数据非常广大,包括垃圾推广、淫秽色情、诈骗、违禁品的。整个安全情况非常严峻,所以最近国家也在2017年6月1日实施了国家的互联网安全法。这是有害信息的分类,国家级的安全涉及到谣言、暴龙、色情类。社会安全涉及到违禁类、诈骗类。民生安全涉及到信息泄露,比如个人账号信息。还有侵权类和诽谤类。现在舆论上明星的娱乐信息,也属于不正当或者不明确信息的诽谤。

这是互联网违法和不良信息举报中心的数据,2016年有效的举报达到了3022.7万条,2016年实施以后,对互联网影响非常重大。大家在整个圈子里面形成了内容风暴,给互联网企业造成了很大的压力,同时也关闭了很多账号信息。

给大家科普一下,安全的黑灰产业链的工作方式。比有卖假药的、赌博的、卖违禁品的。他们发布以后,业务端会有黑客发布自动发帖机或者自动破解验证码功能的。然后我们的一些规则,或者关键词过滤,完全不能过滤到他们的内容,然后发布到我们的APP、弹幕、直播间。这些是目前垃圾厂商遇到的工具,比如打码平台。还有手机模拟器、搜码器。这块是内容的变种,大家可以看到常规的找小姐或者QQ怎么样,基本都会过滤掉。但是慢慢的黑灰产业把小姐加个@,QQ不用QQ用“扣扣”字,后面是加特殊字符,让大家无法通过人工的功能去辨别垃圾信息。

这是我们的安全防护结构图。第一层是针对应用场景,有应用下载、注册、登录、营销活动、直播、昵称、评论。第二层是解决方案,在应用下载方面,提供应用加护。比如二次打码,大家看到有些休息一模一样,就是换个游戏,是同样的功能。就是这个游戏被人家开发掉了,被人家二次在用。后面是注册登录,还有营销活动,我们提供了安全机制。然后内容安全方面,提供广告过滤、智能鉴黄,底层就是人工智能技术和语义分析基础,通过机器化进行智能过滤。这是提供给大家的视频解决方案,因为视频在风口浪尖上面监管非常严格。比如说目前安全方面的东西复杂,有些人的房间名称会打广告,身份证是假的信息。一般图像如果是漏点是我们就会屏蔽掉,但是它图片放个枣,名字做个小姐,常规的就会识别不出来。所以我们联动式的进行过滤,弹幕进行过滤,视频过滤,都会形成一个体系化的解决方案。

我们针对直播产品,除了内容风控以外,还提供业务风控。包括挂机检测、黑屏检测。还有反作弊和验证码,我们在产品的运营过程中会发现,我们会做一些登录注册或者抢优惠券的活动。当然我们发现这些优惠券很容易被一些第三方或者不法分子直接抢完一批优惠券信息,导致活动全部瘫痪掉。我们投入反作弊和验证码的功能,很好的规避一款产品在这个环节里面,规避掉这些风险。

易盾网易云安全拥有专业的团队,我们拥有新闻出版社,我们拥有20年的经验,有内容考核机制、应急响应流程,就是为整个互联网产品保驾护航。网易的几百款产品,背后的安全支持都是通过网易云易盾去支持它的正常运作。这些是我们目前服务的客户,包括优库、土豆、唯品会,137.COM 都在使用我们的功能,谢谢大家的观赏。