敬请期待| 留言反馈 欢迎访问007网址导航
广告
当前位置:网站首页 > 嗅探资讯 > 正文

如何用风控拯救下架的小红书

007导航 2019-07-31 31 浏览 0 评论

冯鑫“暴风眼”悬疑:3个GP的蹊跷并购基金、重新创业的意大利“兄弟”

一场仓促的47亿跨国收购

头图来自东方IC


01


这两天互联网圈最大的热门事件是,小红书下架了。


7月29日晚间,各大安卓应用市场的小红书APP暂时不提供下载。


作为国民级种草APP,小红书的Bug在于:C2C模式使得笔记内容可以随意发布,任何人用任何方法都可以发布任何内容。


正常人可以,微商可以,特殊工作者可以,黑产也可以。


对于一切C2C的工具类平台产品,只要能发布内容,其实内容失控的风险都是存在的,不仅是小红书。


之前的即刻,Soul,乃至网易云音乐,都存在内容失控的情况,话题广场,论坛,评论区,用户昵称,甚至私人对话,只要可以录入文字图片和语音的地方,就存在着失控的风险。


毕竟产品是简单的,人性是复杂的。


平台治理和内容安全也归属于大风控的范畴,作为一名风控从业者,在这方面,我有一些实战经验。


这篇文章,我打算从内容风控和平台治理的角度来谈谈行业当前的现状与困境。


内容失控,对于所有电商和社区类产品而言,都是致命的。


尤其在互联网文明越来越重要的今天。


02


小红书作为C2C的工具类平台,用户是可以自己上传图片和笔记的。同时小红书又是Top的种草平台,用户逛小红书就是买东西的。自由的规则配合精准的潜在消费者,二者一结合,就成了一块超级美妙的流量蛋糕,肥得流油。


于是各种违禁黑产,色情交易,非法医美,就都来了。


在下架前,小红书通过一些关键词索引可以获得各种神奇的服务,例如粉毒和非法医美;比基尼和特殊服务;增高减肥和黑五类保健品;银行卡电话卡和黑产资料。当然,现在已经开始大规模屏蔽。


这些笔记的特点都是打着攻略分享的名义,往卖家的私人微信号上导流,然后用话术诱导成交。


这种自发性的C2C传播,也是小红书产品本身的最大特点。


很多不法商家在利用小红书这个平台,大发横财。


小红书作为平台方,有苦难言。


03


我不想去讨论小红书作为平台有没有责任,毕竟内容是用户自发的,这块我不够专业。


我想讨论的是,用什么方法可以有效治理掉这些垃圾内容,小红书的风控和平台治理们也在头疼这件事情。


作为风控同行,我想提一些建议,这些源自我的一些实战经验,希望能对他们以及读者有所帮助。


OK,小红书当前面临的核心问题是,C端用户上传的内容具有很大的不可控性,里面可能夹杂了大量的违法违禁内容,需要有效识别这些人,然后针对性屏蔽和封号,在保证正常用户体验的前提下,降低内容风险。


当然,不管是降低内容风险,还是保证用户体验,其核心目的都是要保证企业的商业利益最大化,这是大前提,风控要为业务服务。


所以一切手段最终都要平衡误杀率和ROI。


那么,我们开始。


04


关于违规内容屏蔽,目前业内主要使用的是外采词库以及内部维护一套动态词库。


所谓外采词库就是有专门的供应商会做涉及敏感领域的词,支持API的形式直接调用,可以嵌入到用户昵称录入,文本上传,用户私信等模块,只要上传文本,都会进行一次词库过滤,把一些违禁的词给抓出来。


优点是快速上线,缺点是词库是暗箱状态(属于供应商),并且业务关键数据容易泄露(API调用的入参容易被供应商拿走商用)


我知道小红书的供应商是哪家,我也测试过很多家,只能说通用词库是没法依据实际业务场景来做精准打击的,建议小红书自建词库,如果没有现成可配置的词库框架,可以使用脚本的方式来让研发维护一套词库,当然最好还是做成可配置的,毕竟用脚本的话,词多了很容易崩溃,不是长久之计。


有了这一套东西后,需要一套应用策略,包含敏感词收集策略,敏感词应用策略,敏感词处置策略。


所谓敏感词收集策略,要解决的是如何获取到有效的敏感词。


很多人工智能公司吹捧所谓自然语义识别,用机器学习做,在这里是不好用的,我要提醒一下小红书,不要迷信机器学习。


因为汉语是博大精深的,使用谐音字,变体字,火星文,以及中间夹杂各种特殊符号和空格的模式,很容易就能绕过机器。


就微信这个词,可以变种成V信,VX,威,VV,你懂得,威X信等等等等,机器学习做不到这么精准的打击,但人的识别配合SQL以及Python代码,可以实现。


在这里,建议使用实时数据库,配专门的数据分析师来做词语收集。


数据分析师可以通过一些基础的违规信息,来进一步人工延伸出索引规则,例如微信12345,就可以提取出某些关键字(用微这个字来做索引),某些特殊符号,甚至某些符号+数字的特征来抓。


一个熟练的风控数据分析师,一天抓出上万有效敏感词不是问题。


所谓敏感词应用策略,要解决的问题是这些敏感词用于哪些领域。


当你有了一个敏感词库时,你需要对每一个词进行打标签,例如杀人这个词是A类标签,吃奶这个词是B类标签,不同的业务场景以及电商品类,要使用完全不同的标签。


例如牛奶类的笔记,用吃奶这个词就会误伤很大。


这里需要做的是,给每一个场景的业务都打上标签,然后依据标签来使用敏感词库中的词类目。


例如口红类笔记要用ABC标签的词,例如旗袍类的笔记要用CDF标签的词等等。


至于如何拆解品类打标和敏感词,这个就不展开了,展开必是长篇大论。


所谓敏感词处置策略,要解决的问题是内容命中了敏感词之后,要如何处置这些内容。


这里其实也牵涉对敏感词的打标,主要是设置敏感词处置权重。


例如黄恐暴类的敏感词,标签对应的处置手段应该是直接屏蔽+封号或者直接禁止发布。例如疑似推广微信号的标签,对应的处置手段应该是屏蔽+禁言,或者禁止发布。例如命中了一些权重较弱的敏感词或者敏感字,对应的处置手段应该是转人工审核,再发布。


当然这里只是举几个简单的例子,敏感词的应用方法还有很多,不过这个方向是目前比较成熟的模式。


除却敏感词之外,小红书的笔记中还含有大量的图片类内容,这些图片类内容目前主要的问题有两个:


第一个是黄恐暴类图片,图片本身有问题。


第二个是图片本身没问题,但是图片里面的东西有问题,例如图片里面就有VX:12345等字迹或者水印。


对于前者,建议直接购买现成的图片识别服务,阿里腾讯都有成熟的服务。


对于后者,可以使用OCR把图片转成文字,然后使用敏感词策略来进行处理。


以上是对于内容本身的风控思路,需要注意的是,这个需要投入大量的资源,尤其是人工审核资源,今日头条就有数千人专门做内容审核,对于内容电商来说,这个不能省。


而且内容攻防应该是动态的,不存在一劳永逸的事情,需要做好持久战的准备,汉语就是这么博大精深。


05


内容风控很重要,但其实只是表层,而且永远难以做到穷举,真的一刀切下去,会误伤大量的正常用户,这对于用户体验和公司的商业价值而言都是损失。


比内容风控更重要的,是底层风控,从用户注册到发生第一次行为(例如发布笔记或者给某个笔记点赞或者评论或者分享),都需要做更深入的风险管理。


除了要管别人发了什么内容,同样还要管是哪些“人”发了这些内容。


通过敏感词体系,可以对大量的内容笔记来进行标签,分类出正常笔记,可疑笔记,捣乱笔记,沙雕笔记等等等等等,这些统称为Y。


风控策略的基础逻辑是F(x)=Y,X是指特征,F是指算法or策略,Y是指效果。


当你有了Y之后,就等于知道了答案。


然后去找这些异常的笔记,都是谁发布的,这些发布的账号的特征(X)是什么。


一般常见的账号特征有数百个维度,例如注册时间,年龄,性别,发布时间,常用标签,ip地址,设备号(imac,imei,device id),手机号,性别,归属地,APP来源(华为市场,小米市场,APP Store),登录模式(APP,小程序,H5),手机型号,GPS地址,LBS区域,用户注册来源(自来水,A活动推广,市场投放转化,CPA),历史行为(点赞数,关注人),浏览行为,等等等等等,这些信息有的来自于APP埋点,有的来自于依据原有特征推算出的衍生特征。


特征工程是风控的核心之一,重要性不亚于策略应用,好的数据是一切的基础。


通过敏感词找到Y,然后利用Y来反推命中的X,然后得出应用策略-F。


案例1,假如小红书发现某个整容类的异常笔记,大部分发布者和点赞者的IP都是相同的或者都是同一个号段的,那么完全可以设置策略屏蔽这个IP段发这个类型的笔记。


案例2,假如小红书发现某些有问题的笔记,都指向同一个微信号,那么就把发布过这个微信号的账号全都封了,连误杀都没有。


案例3,假如小红书发现某些有问题的笔记,大部分发布者和点赞者都是24小时内注册的,那么完全可以设置注册时间XXX时间内,不允许在XX领域发笔记。


类似的规则,在成熟的平台治理中,会有数十万条,我做过设计和维护。


这一切的规则,都要做成动态可配置的,做成决策引擎的模式,风控只需要拖拉拽这些标签,然后自己写比对符和阈值,再配置处置手段,就可以生效。


例如一条规则,禁止注册时间在24小时内的女性用户发布比基尼笔记。


拆解起来就是:


注册时间<24小时,

且 性别标签=女,

且笔记标签=比基尼

则,禁止发布,

且,弹出文案“半佛仙人你别比比了”。


把这些做成是否的标签,可以自由配置,快速上线。


06


夹杂敏感词策略和决策引擎中间,还应该有一层基于“账户”维度的用户关系网络以及实时监控和干预机制,用图挖掘来做。


所谓关系网络,是指不同账户间的关系,由点和线组成。


例如A账户给B账户的笔记点赞或者评价,就会形成一条关系。反应在网络中就是A点和B点之间出现了一条关系线(A点赞/评论B)


再例如A账户和C账户同时给B账户的笔记点赞或者评价,就会形成多条关系线。反应在网络中就是A点到B点(点赞串联),C点到B点(点赞串联),A点到C点(都给B点过赞)


关系网络,是对于批量作弊账户的大杀器。


在实际业务中,通过设置点和线的规则,可以有效拦截批量异常行为。


例如在同一个时间,出现了大量有关联的账户(相同IP,相同操作频率,相同GPS等),与某几个笔记或者账户出现了可疑关联(批量点赞),就可以进行拦截。


例如在近10分钟内,整个的流量池出现了波动异常(分均用户点赞数超过了平均值XX倍),则可以触发警报,把溢出流量关联的内容进行屏蔽等等等。


关系网络更多是横向的对比以及大盘的监控,涉及账户管控,不仅要看横向,更要看纵向。


所谓横向,是指同一个时间里,账户A和账户BCDEF是否有相同的行为或者异常的关联,所有人放在一起来比不同。


所谓纵向,是指同一个账户,在不同的时间里,进行了怎样的操作。


例如A账户,过去六个月都是给一些正常的笔记点赞,浏览和评论都很正常,但是近3天,在密集的跟一些异常的笔记产生互动和分享。


这就是账户出现了问题,与之前的操作不同,需要对账户发出警告,要么屏蔽功能,要么要求实名。


横向是用其他用户的特征比对一个用户,纵向是指用户过去的特征比对当前的行为。


纵横之术是对抗黑产养号与批量作弊的屠龙术。


07


敏感词策略和决策引擎外,还需要做的是账户准入和APP加固。


所谓账户准入体系,是指在用户注册阶段就拦截掉大量黑产用户。


大量发布垃圾笔记和违禁笔记的账号,往往都是接码平台批量注册了,不是很多人想到一堆人拿着几百个手机在操作,微商很赚钱的好吗,不会干这种low事。


这就代表着,这些注册手机号本身,就有足够多的问题,因为黑产们拿手机号也有成本,往往会多次利用。


这个手机号在小红书耍流氓之前,可能已经在其他平台被教育过了。


一般在注册阶段,建议对手机号加一层准入规则,常规的手段是禁止小号和虚拟号注册,进一步的手段就是采购阿里云和腾讯天御的注册反欺诈评分,输入一个手机号+注册IP,可以返给一个评分,分数高于XXX分的时候,拒绝用户注册,或者强制要求实名(人脸或者银行卡)


阿里有最全的电商黑产库,腾讯有最全的社交黑产库,网易有最全的游戏黑产库,都是T+0实时更新的,土豪一些的公司可以都用,其他自便。


反正只要风控能根据异常笔记抓到注册账户手机号就行,拿这些去测各家的数据准确度与误杀率,并不困难。


这个操作在业内叫做加盾,有这一层盾,基本上可以挡掉市场上9成5的黑产,大多数黑产是没有能力绕盾的,因为资金不够雄厚,手机卡更新速度上不去。


账户准入体系外,还需要的就是APP加固。


所谓APP加固,是指对于APP本身的代码,接口做封装和动态加密,拦截接口直接写入内容,代码破解,沙盒,GPS更改等一系列攻击行为,简单理解为是反外挂也可以。


很多APP对于用户的录入内容其实都是有限制的,很多APP甚至不允许用户录入内容,只能选择几个特定的标签。


但是黑产在进行违规内容渗透的时候,往往不是手动填写的,而是直接反编译本地APP代码,拦截接口的动态信息,然后调用接口录入。


例如正常人肯定打不出一些特殊符号,但是通过接口用机器写入,想写什么,就写什么。


小红书社区中的大量明晃晃的违规内容,很有可能是由于接口被攻破,遭遇大量的机器写入,这个在黑产攻防中很常见。


通过机器大量灌入垃圾内容导致竞争对手出现问题,在业内并不稀奇。


所以在账号准入外,也要主要APP本身的加固措施。


08


敏感词过滤,决策引擎,加盾,APP加固,这4套都做好(需要做很久很久,这是一个很大的工程),是不是就高枕无忧了?


不是的,作为内容社区,小红书还需要更重要的一套机制,就是用户内容举报机制。


只靠小红书自己,累死他们也不可能挡掉一切的垃圾内容,而且使用策略也好,规则也好,阈值设置比较宽松的话,总有漏网之鱼。


阈值设置过于严格的话,总会有被误杀的用户,被误杀的用户还会去各个论坛和网络媒体发声,去谴责小红书。


在这个好事不出门,坏事传千里的年代,这种负面信息对于小红书也是一种伤害。


而小红书最大的特点就是用户自发的参与度高,所以一套完善的用户举报机制是非常高效的平台行为。


这套机制不是加一个所谓的按钮点击这么简单,用户看到的可能就是一个举报按钮。


但小红书需要做的是针对整个举报设计完整的SOP(标准作业流程),如何判定举报是否有效,不同举报内容的确认标准以及处罚标准,举报应在什么时间内生效,应该给与举报用户怎样的奖励与支持增加积极性等等等等,这也是一个浩大的工程。


但对于内容社区而言,用户自发举报是非常好用的东西。


09


以上内容只是基础的平台治理体系,具体的落地方案,执行计划,原始变量及阈值切分等等,受限于保密协议和饭碗的原因,我不方便讲更多,但足够给风控同行做参考了。


而且这些基础体系,在实际操作中,还面临着诸多实务性的难题以及场景契合的问题,很多问题都不是简单的风控问题,需要整个公司的战略和定位一起跟上。


例如在做特征工程的时候,很多数据要求实时性,数仓部门如何满足数据完整性?


例如做策略的时候,需要大量的标准数据,数据产品怎么依据业务需求设计表结构以及数据清洗?


例如评估策略效果的时候,风控产品如何设计分流灰度来做冠军挑战者(ABtest)实现效益最大化?


这样的问题还有很多,其中很多都是牵一发而动全身,公司的资源是有限的,公司里也不是只有风控,大家要靠着业务和营销吃饭的。


这些问题,需要整个公司从上而下认识到这个风险,整体考量业务和风控的平衡,争取公司利益的最大化。


在这个互联网文明大趋势的浪潮下,内容风控将是很多公司的命门,而诸多先行者早就靠自己的积累吃尽了早期野蛮生长的红利,同时树立起了极强的风控壁垒。


这些壁垒需要大量的时间和资源投入,不是一朝一夕就有的,全部都是非卖品。


这对于后来者而言,是非常难的一件事。


但熬过这一劫,就是羽化登仙。

广告

相关推荐

优质客户最低利率,LPR原来是这个意思
  • 优质客户最低利率,LPR原来是这个意思
  • 优质客户最低利率,LPR原来是这个意思
  • 优质客户最低利率,LPR原来是这个意思
  • 优质客户最低利率,LPR原来是这个意思
为何NBA球星都不来中国参加篮球世界杯?
  • 为何NBA球星都不来中国参加篮球世界杯?
  • 为何NBA球星都不来中国参加篮球世界杯?
  • 为何NBA球星都不来中国参加篮球世界杯?
  • 为何NBA球星都不来中国参加篮球世界杯?
微信之战:从微商裂变到独角兽的流量之争
  • 微信之战:从微商裂变到独角兽的流量之争
  • 微信之战:从微商裂变到独角兽的流量之争
  • 微信之战:从微商裂变到独角兽的流量之争
  • 微信之战:从微商裂变到独角兽的流量之争
用户破亿,360金融收入翻番背后
  • 用户破亿,360金融收入翻番背后
  • 用户破亿,360金融收入翻番背后
  • 用户破亿,360金融收入翻番背后
  • 用户破亿,360金融收入翻番背后
蚂蚁金服到底有多赚钱
蚂蚁金服到底有多赚钱

用户破亿,360金融收入翻番背后8月23日,360金融发布未经审计的2019年第二季度业绩报告。360金融在收入上的大幅增长主要由于其贷款规模的持续增加,导致贷...

2个月前 (08-25) 007导航

澳门何以成了今天的澳门
  • 澳门何以成了今天的澳门
  • 澳门何以成了今天的澳门
  • 澳门何以成了今天的澳门
  • 澳门何以成了今天的澳门
消费者怎么不爱买衣服了?
  • 消费者怎么不爱买衣服了?
  • 消费者怎么不爱买衣服了?
  • 消费者怎么不爱买衣服了?
  • 消费者怎么不爱买衣服了?
十二家银行停止二手房贷款,重大信号不容忽视
  • 十二家银行停止二手房贷款,重大信号不容忽视
  • 十二家银行停止二手房贷款,重大信号不容忽视
  • 十二家银行停止二手房贷款,重大信号不容忽视
  • 十二家银行停止二手房贷款,重大信号不容忽视
特朗普再次提高对中国关税税率;上海迪士尼回应“坚持翻包检查” | 过去24小时发生的新鲜事儿
  • 特朗普再次提高对中国关税税率;上海迪士尼回应“坚持翻包检查” | 过去24小时发生的新鲜事儿
  • 特朗普再次提高对中国关税税率;上海迪士尼回应“坚持翻包检查” | 过去24小时发生的新鲜事儿
  • 特朗普再次提高对中国关税税率;上海迪士尼回应“坚持翻包检查” | 过去24小时发生的新鲜事儿
  • 特朗普再次提高对中国关税税率;上海迪士尼回应“坚持翻包检查” | 过去24小时发生的新鲜事儿
中药龙头往事:一个蛮荒与贪婪时代的终结
中药龙头往事:一个蛮荒与贪婪时代的终结

特朗普再次提高对中国关税税率;上海迪士尼回应“坚持翻包检查”|过去24小时发生的新鲜事儿2019年7月10日,美国爱达荷州太阳谷举行2019年“太阳谷峰会”...

2个月前 (08-24) 007导航

欢迎 发表评论:

分享:

支付宝

微信