作为内容社区，小红书月活跃用户数自2021年10月突破2亿以来一直稳步增长。基于UGC内容资产的不断积累，小红书正在成为越来越多用户多元化的生活方式聚集地。 这些都让小红书成为非法生产的对象。
从用户角度来看，安全需要解决内容平台上的两个问题：保证用户信息在互联网上的安全，以及保证用户在互联网上获取的信息的真实性。
刷量作为社区和交易中常见的作弊手段，会导致用户获取的信息不真实。 无论是通过刷的方式获得的阅读、点赞、评论等社区流量，还是产品浏览量、销量等电商数据，都会破坏我们的内容安全，影响用户对平台的信任。
1.进入黑色产业了解刷量的实现
1.1 什么是笔刷量？
从基本的理解来看，刷量可以理解为数据欺诈，比如利用作弊手段获取虚假的点赞、收藏等数据，以获取更高的商业价值。 在电商场景中，刷单更多集中在商家层面，比如雇佣刷单用户、利用虚假物流构造交易、捏造高GMV等。
为了深入了解刷卷的本质，我们走访了一批专门从事刷卷产业链的企业。 下面介绍其中三个及其实现方法：
1.1.1 群控、刷量企业
该公司提供刷数据服务，主要基于机器的群控设备刷数据，包括越狱机器和普通iPhone。 他们利用了苹果的安全机制，比如苹果手机的镜像打包：将整个手机中包含用户登录状态的客户端打包存储到一个文件中，然后将这些文件存储在沙箱环境中。 基于该方法，利用单手机批量恢复沙箱环境和账号，达到良好的群控效果。
1.1.2 账号维护及流量管理公司
这是一家通过流量销售高仿服装的电商公司。 主要方法是通过虚拟大厅卡注册账户，然后维护账户。 当使用的账户被列入黑名单时，需要到附近开设的线下二手手机店以较低的价格（5-10元）更换黑名单手机。 拿到新设备后，雇佣一批真人，注册一个账号，继续发布和运营内容。 最后进行品牌推广并获得报酬。 据了解，一个账号可以吸引数十万的GMV。 考虑到账户数量，公司的收入是相当可观的。
1.1.3 众包刷量公司
众包黑品通常有专业机构在各大平台寻找任务，招人兼职。 兼职人员可以通过使用自己的帐户完成任务来获得报酬。
1.2 重新定义画笔体积
刷粉丝和点赞就意味着刷流量吗？ 是的，但不完全是。 我们需要从更高的角度来理解画笔量。
在小红书的社区环境中，我们将用户分为两类：内容发布者和内容消费者。 内容发布者负责生产并向消费者提供优质内容。 相比之下，内容消费者要付出时间成本、机会成本、信息成本、情感成本以及他们所查看的内容中包含的信息的价值。 也就是说，出版商和消费者实际上是在进行一种交易，而内容平台就是一个市场经济平台。 有市场，就必然有货币流通。 在内容社区中，货币是可以衡量的单位，例如阅读量、点赞量、收藏量和评论量。
在此类比下，刷单相当于制造假币的行为，发布虚假内容则类比假货，会导致整体市场的通货膨胀。 这些代币虽然存在于二级市场（社区），但最终会与一级市场（电商、广告）进行交易，实现流量变现。 对于小红书来说，刷单就相当于假币，需要全力管理。
2、风控面临的挑战
既然已经被归类为假币，为何洗盘量还长期存在？ 这里不得不提一下反作弊面临的几个挑战：识别难、治理难、整顿难。
2.1 识别困难
识别的难点可以概括为三个部分：终端不可控、AI对AI、真人对真人。
2.1.1 终端不可控
在社区刷单场景下，终端实际上是不可控的，对手很难判断客户端是正常用户还是黑产品。 从理论上讲，如果通信方式不可信，就没有办法使其可信。
我们曾经尝试对一个接口协议攻击工具进行逆向工程，反汇编里面的代码，通过破解签名算法，伪装成我们的客户端向服务器发送请求。 这是迄今为止最简单的一种，其他方法更难控制。
（*协议攻击）
2.1.2 人工智能与人工智能
虽然风控在不断完善，大规模使用AI计算与之对抗，但我们的对手也在不断突破和升级。
以黑灰生产的群控方式为例。 利用第三方授权的漏洞在公众平台生成批量第三方账号，并利用第三方账号完成小红书账号的注册。 然后使用UI的自动脚本点击工具来控制点击和按键，在手机上操作即可批量获得点赞和关注。 目前流行的方法是利用4G手机/EC20芯片进行混合攻击来躲避我们识别黑IP。
AI智能在风控方面的推进缓慢。 原因是AI算法擅长解决一阶问题，比如图片中是否包含支付二维码。 但在实际场景中，我们需要判断的是聊天内容是否存在风险。 从人的角度来看，在经常联系的朋友之间发送支付二维码没有风险，但在刚刚聊天的陌生人之间发送支付二维码是一种高风险行为。 这里的风险取决于两层信息的聚合：支付二维码+陌生人聊天。 与人类相比，人工智能很难自动判断这两个维度的聚合识别，因此需要大量的人为干预。
2.1.3 真人与真人
通过线上群聊、线下小任务、甚至通过正规招聘渠道来招聘人员。 这些人是真实的用户，有真正的正常行为。 到了一定的时候，他们就会收取费用来增加数量，这使得整个识别变得异常复杂。
2.2 治理难度
在小红书平台上，内容社区分为K（博主）、B（品牌/商家）、MCN机构（中介机构）、C端（普通用户）。 长期困扰我们的问题是谁在为了利益而做这种行为，是K端、B端、MCN端还是C端？ 而这个人此刻的行为是好是坏呢？ 在管理的同时，如何避免意外伤害？
真实情况是每个端都可能参与刷量。 品牌发布营销需求后，MCN接受任务并在各大平台分发给K，让K发布相关笔记吸引用户，最终达到营销推广的目的。 在这个过程中，MCN有动力去提高体量，以完成品牌方的曝光要求，获取利润。 同样，为了完成MCN下达的任务，弥补自己流量的不足，K也有动力去增加自己的流量。 品牌方的不同角色，比如运营方，也可能为了完成公司的任务而刷量。 一些竞争对手为了陷害同行，也会聚集C端用户刷笔记本，导致博主和笔记本受到风控处罚。
更麻烦的是，整个群体中会混杂大量真人，导致很难准确地区分刷牙行为。 就算看得出来，又怎么能看出这个人现在的行为是否正常呢？ 将会存在召回和意外损坏的问题。 既要保证召回完整，又不至于误伤一批用户，影响业务的顺利开展。
同时，平台的冷启动也是一个需要解决的问题。 例如，为什么新开的小商户销量会增加？ 这是因为早期小商户在物流、产品质量、价格控制等方面均不如大商户。 即使用户不小心搜索到了新商家的产品，销量为0，买家也不信任，最终还是失去了交易的机会。 这也是小商家对刷量的需求。
2.3 整合困难
任何安全运行最终都会陷入投入产出比问题。 在内容冲刷的场景下，由于没有直接的收益计算，风控投资的ROI很难衡量。
第二个难点是衡量防控的有效性。 前面我们讲了CTR，但是CTR值足以判断风控的效果吗？ 答案是否定的。 防控的结果将涉及多个维度。 在我们管理的刷单案例中，很多欺诈刷单都来自真人众包。 防控的有效性是根据用户维度还是异常行为数量来判断？ 刷量的管理是人与人之间的对抗。 经过一种方法的风险控制和治理后，对手将使用新的手段和技术发起下一轮攻击。 因此，防控效果不断波动。 我们需要不断的对抗。
3、小红书的治理实践
小红书是一个真诚分享、友好互动的平台。 对于我们来说，比技术能力更重要的是平台的态度。 这也意味着我们对于洗量行为的态度是零容忍严厉打击。
在安全技术部内部，我们提出了三个解决方案方向，即：基于引擎的风控基础设施、基于流程的风控对抗、以及智能风控识别。
3.1 基于引擎的风控基础设施
据国内统计，非法行业从业人员有150万，远远超过我们的风控技术团队。 如何以小规模对抗全产业链？ 我们提出的方案迭代快、易试错，风控基础设施是基于引擎的。 将工程引擎与整个上下游环节连接起来，提高整体风控效率。 这里的风控引擎不仅仅指在独立节点上部署策略，还包括全链路的信息接入，利用上下游信息来识别风险。
以近线平台为例，我们对现有的准实时任务进行了高度抽象，让用户可以通过短时间内组装任务来快速上线，从而提高效率。 该平台的引擎能力可以在后台结合多个数据源和历史数据，相对实时地提供风控识别结果。 它还结合行为序列分析、图分析和算法模型，提高风控能力的有效性。
近线平台弥补了单一规则识别的局限性，与原有实时风控系统融合，是其他防控手段的有效补充。 近线平台支持综合处理数据和事件的能力，还支持多源数据访问。 具有灵活的数据处理能力。 更重要的是，它提供了可以支持算法和策略以及学生定制的数据处理逻辑的功能。 在设计流程时释放人力并提高准确性。
下图展示了近线系统的整体系统及架构：
从设备激活->账号注册登录->笔记/商城浏览->互动->内容发布/购买商品等，目前我们已经覆盖了用户在所有场景下的行为。 获取业务数据后，我们会实时请求、准实时流式传输，离线数据接入风控引擎，实现多场景层面的联防联控。 将获得的身份特征、网络环境、时序特征、累积因素等进行处理和挖掘，然后输入到决策分析层。 此外，对识别能力进行迁移，将新识别的风险点沉淀下来，并在其他风险场景中复用。
除风控引擎外，通用业务网关侧（edith2.0）也进行了统一，全面提升新业务的接入效率和稳定性，实现分钟级的业务接入。
3.2 简化风险控制和对抗
业务风险控制的最大难点是对抗。 无论作弊采取何种形式，唯一不变、始终存在的就是对抗。 标准化的流程可能不能保证我们立即得到最优解，但它可以帮助我们分析和暴露问题，建立与反馈的前向迭代链路，提高我们的效率。
智能技术驱动的运营积累能力，在小红书持续运作的风控团队中逐渐形成了可行的流程体系。 整个过程可分为五个步骤：风险认知、能力建设、风险识别、风险处置、效果评估。
本站对作者上传的所有内容将尽可能审核来源及出处，但对内容不作任何保证或承诺。请读者仅作参考并自行核实其真实性及合法性。如您发现图文视频内容来源标注有误或侵犯了您的权益请告知，本站将及时予以修改或删除。 |
今天是: 发布信息
