头图来自：视觉中国

小红书迎来泼天富贵，在 TikTok 封禁令即将生效的前夕，大量美国人涌入小红书，使得小红书在1月13日成功登顶 美区 App Store 。要知道，在这之前，小红书从未进行海外运营，在这之前压根儿没有下载排名。

于是，从1月13日开始，小红书的首页就变成了这样：

没想到国际互联网在小红书里实现了，学英语这个事儿，有语境确实挺重要的，我之前一直在学abandon，现在至少已经学到 refugee 了。

但，大家都不约而同地想到一个问题——涌入大量美国用户，小红书如何进行内容风控和审核，以及，小红书是否就要从此被墙？

作为一名产品经理，我认为有必要从产品角度和商业角度，来深度分析一下，内容社区产品在内容风控上的一些要点。我们将从事件原因的角度，具体分析小红书的实际情况，然后通过总结「内容风控策略」的核心要点，来预测小红书面对大量外来内容的情况下，应当如何进行内容风控。

一、为什么是小红书？

为什么美国用户，没有涌入更像 TikTok 的抖音，或者进入美国本土的ins、Facebook，而是涌向了小红书？

主要是4个原因：

1. 小红书不分区，小红书在最早期的阶段，本身就是个海淘应用，大量中国留学生用户，在海外使用小红书，所以在各国的应用市场，都能够方便地下载中文版小红书，而且所有用户都在一起，没有进行国家间的隔离。

2. 抖音虽然更相似，但是抖音的用户注册门槛，隔绝了外国用户的使用。首先，抖音本身没有上架美区App Store，美国用户想要下载抖音，需要先翻进来搞一个国区Apple账号，其次，抖音在注册阶段采用的策略是，支持非+86的国外手机号注册，但注册完成后，必须进行实名认证，而实名认证的方式，只有身份证……

3. 小红书刚刚进行改版，社区氛围非常接近 ins 的内容，加上刚刚改版、完全符合上下滑动操作习惯的第二个Tab “热门”，都让 TikTok 用户能够比较轻松地进行迁移和适应。

4. 没有大量进入美国本土的ins、Facebook的原因是， TikTok 用户本身对于 TikTok 被封禁非常不满，因此对美国应用都产生了强烈的逆反心态，在 TikTok 大V的号召下，选择直接进入中国软件，彻底摆脱美国政府的管辖范围。

所以，大量 TikTok 用户涌入，就会产生大量内容，小红书的内容风控，面临着巨大的挑战。

小红书又应当如何处理这些国外用户，封还是不封？

二、内容风控的核心要点是什么？

一个内容社区的用户角色，大致可分为内容生产者（创作型用户）和内容消费者（浏览型用户），既有内容的生产创作，又有观众能够消化掉创作产能，形成良好的社区内容生态。

对于一款产品，从风控角度来抽象，其基本业务框架的模型可以总结为“业务”、辅助业务的“增长”、保障业务的“风控”和支撑以上三点的“数据”。

“业务”自然是产品最关键的地方，“增长”“风控”和“数据”都是辅助业务良态运行。对小红书的内容业务来说，协调内容生产者和内容消费者，形成良好的内容生态，是最关键的核心，辅以用户增长（包括用户增长和创作者增长两个方面），并且对社区进行风控。

通过业务的发展和增长、风控的积累，形成用户基础数据、注册信息、浏览行为、视觉偏好、用户标签等数据，然后通过这些数据，再反向支撑业务发展，形成产品内的数据打通。

那今天我们着重分析的，就是风控这一环节。金融产品、信贷产品有风控非常好理解，但其实，所有类型的产品都需要有风控。电商产品要防薅羊毛，社交产品要防欺诈，而内容产品，则是要对平台内容的质量和合规性进行风险控制。

对于内容社区等UGC产品来说，风控线就是生死线。内容和社区产品的风控压力来源于监管侧，风控对象是用户在平台发布的内容。

1.内容风控要“控”什么？

来自内容侧的风险主要有三类。

其一是政策层面的内容合规，要符合监管的要求。监管要求的内容可参考最新施行的《网络信息内容生态治理规定》，对于各项违规内容都做了详细规定，大致概括可分为涉政、违禁、暴恐、色情等四类，这部分是政策红线，一旦触及，轻则约谈，重则下架、封禁。

其二是社区氛围的良性导向，如谩骂、隐私等。这一类型的内容虽然不会触及监管红线，但倘若内容社区充斥各种负能量，对于社区氛围是非常严重的损害，伤及用户体验，导致用户流失，影响产品商业利益。这一类型内容风控还包括对于产品运营主体的保护，例如对吐槽公司工作人员的内容进行限流处理、对平台和产品的诅咒进行删除等，属于商誉和公关层面的维护，同时也是对产品官方公信力的维护。

其三是社区用户安全的保证。对于内容和社区产品而言，平台内一定会存在导流、灰产、诈骗等不法手段，如何保护平台内用户的财产安全和产品体验，是非常关键的，互联网发展至今，导流、诈骗等行为往往是成熟的灰黑产产业链所为，他们拥有丰富的反监查和防过滤经验，揪出他们并进行处理，需要平台与其斗智斗勇。

2.内容风控的方法和手段

在最最早期的阶段，对内容进行风险控制，只能通过编辑人工进行审核。这种方式需要大量的人力物力，而且稿件审核需要时间长，时效性也被大大削弱。一般的公司，很难负担起庞大的内容审核团队。

之后，诞生了关键词过滤等手段，成为成本较低，并且使用最为广泛的内容风控措施。对于命中预设的违禁关键词的内容，直接阻止发出或者转交人工审核。这种方式性价比极高，耗费成本小，但基本可以过滤掉大多数的违规内容。

关键词过滤存在的问题也很明显，准确率较低，经常出现误伤和漏网的情况，对于内容和社区平台来说，这是不能容忍的，前文已经讲过，哪怕一篇违规内容被放出来，产品都有可能被封禁，内容风控是一件“宁可错杀一百，不能放过一个”的事情。再加上网络的普及，越来越多的人学会了通过拼音、乱码、谐音等方式绕开关键词，关键词过滤逐渐不再能胜任内容风控的工作任务。

以上基本还属于规则的范畴，之后内容风控的发展，就进入了AI+策略的时代。

内容风控方面的AI，其实叫机器学习更加准确，这是一套组合拳。举个例子，对于一个视频稿件的审核，就需要对整个视频进行逐一拆帧，然后通过OCR文字识别检查字幕，此时对于字幕的检查和文字内容的检查基本一致，文字识别涉及到NLP分词、语义理解等AI技术；对于画面，则是图片识别，识别图片中可能出现的违禁内容，这里涉及到一个准确率的问题，暴恐视频不能够通过，但游戏视频也存在战斗画面，如何保证不误伤；对于音频，则需要两个方面的审查，一方面是视频当中的语句，将语音转文本，再通过文字的审核策略来审核，另一方面是音调识别，例如识别音频当中的娇喘等无语句的声音。

这些在内容风控方面应用的AI技术，其实远远早于最近这几年的大模型AI技术，在内容风控上的AI应用，目前已经是非常成熟且完善的生态。

机器学习本身还是就稿件论稿件，而一个优秀的内容风控平台，是需要配合策略的。策略产品经理是近几年一个特别火的岗位，提供更精细化的、动态的、效率的产品解决方案。对于策略来说，内容的风控不能只在单个内容上，还需要结合更高的维度，给予更加精细化的识别判断。策略要从单个内容出发，延伸到发布该内容的用户基础信息、关系链、过往内容、实名可信度等等诸多维度进行调参和计算，以判断这名用户的这条内容是否需要更细致的识别。

这里要特别强调一点，即使平台的机器算法再先进，所有的内容还都需要过人审核。所有内容过人，所有内容过人，所有内容过人，重要的事情说三遍，至于原因，还是上面那一条，内容和社区平台不容有半点闪失。

不过机器审核越先进，能够为人工审核提供的辅助也就越全面准确，人工审核的效率自然也就变高，审核人员的压力也相应减弱。

另外，对于内容风控，又会有前置风控（先审后发）和后置风控（先发后审）等不同的方式，所以在小红书等平台，有的内容刚发就被风控限流，有的内容则是刚发正常、阅读量达到一定程度后，突然就被毙了，这就是前置风控和后置风控的策略产生作用。关于这一点，以后有机会再详细分析优劣和适用场景。

对于小红书来说，随着内容量越来越大，如果只是单纯地对审核人工进行扩容，恐难以解决问题，一定会更多的由技术和机器进行介入。此次涌入大量外文内容，由于审核中心本身都是中文母语的审核员工，也势必更加依赖AI对于英文内容的处理和识别。

三、预测一手，如何收场？

对于小红书来说，对于此次大量美区 TikTok 用户涌入，的确不是一件那么“幸福”的事情，毕竟，小红书的目前的整体战略并未有太多国际化的考量，产品技术上，也并没有做好全球化的准备。

所以对于小红书的高层来说，此次大量美国用户带来的烦恼，恐怕要比喜悦多得多。在这种情况下，小红书应该采取怎样的应对策略，才能比较适宜当前的情况和现状？

我们先穷举一下小红书所有能走的路。我预测，小红书大概率会走向第4条路和第5条路的融合版。

1.放任不管，保持现有产品策略，中美用户自由交流，畅游国际互联网。

这条路径显然不存在，基于当前国情和中美两国的立场，完全不做干涉，这不仅不是所谓“自由”，反而会适得其反，严重损害社区用户的氛围和利益，同时也会引发监管上的关注。绝对意义上的自由不是自由，有限的自由才是真正自由，有规则有法治才能享有自由。

2.学习抖音，通过注册手机号和实名认证，将国外用户拒之门外。

在这次 TikTok 关停风波中，美国用户之所以没有涌入和 TikTok 相似程度更高的抖音，就是因为抖音的用户注册门槛，隔绝了外国用户的使用。抖音采用的策略是，支持非+86的国外手机号注册，但注册完成后，必须进行实名认证，而实名认证的方式，只有身份证……

美国人民没有身份证，自然无法正常注册使用抖音，只能刷一刷未登录状态下首页的视频，做一个纯纯的内容消费者（浏览型用户）。

而小红书的用户群体，因为更偏向中产和精致人群，所以有相当一部分用户，是海外留学生，甚至小红书在最早期的阶段，本身就是个海淘应用，所以如果直接一刀切，对于小红书本身的用户来说，影响是非常大的。

并且小红书并没有像抖音一样，通过不同的产品进行用户分区，以前抖音只做国内，国外有 TikTok ，所以抖音一刀切没有任何问题。小红书只有一个主产品，需要兼容国内用户和人在海外的用户（注意，是人在海外的用户，而非海外用户，这里有本质的区别）。

所以在注册阶段一刀切，对于产品和生态来说，我认为这不是一个好的解决方案。当问题出现的时候，解决提出问题的人，这种行为，确实不太高明。

3.考虑物理分区，借此契机推出国际版，开启国际化征程。

这可能是个方法，但在现在并不现实。对于一家大公司来说，因为一次巧合，就改变公司战略，这并不明智，大概率最终既捡不到芝麻，又丢了西瓜。而且国际版开发也是需要时间的，等产品做出来，热度也早就过去了。

4.在当前用户混杂的情况下，加强内容审核风控，把控好水龙头的出水口。

前文提到，对于内容平台来说，风控的主要对象，是内容生产者（创作型用户），包括笔记内容发布、评论内容发布、头像昵称等，只要内容发布的口子审核过关，即使平台内有美国用户，也不会影响如今已经有3亿月活基本盘的小红书。

有人用国内不能使用 Facebook 和 ins 来类比，认为国内用户不能与国外用户共同使用一个社区产品，但我认为这有本质区别，外国人在中国的地盘，和中国人在外国的地盘，这是完全不同的两种逻辑。

小红书公司在国内、审核在国内、数据在国内、风控规则在国内，甚至公司党委下，已经有4个党支部，在这样的情况下，外国用户使用中国产品，只要风控到位，无论是在内容层面还是国家安全层面，都是比较容易掌控的。

从另一个角度讲，国际化在未来是一个趋势，如何让中国科技和中国产品走向世界，我们还在进行各种探索，?TikTok 的国际隔离路线是一种探索，也许小红书的社区融合路线，也是一次宝贵的探索，某种程度上，秉承文化的自信，这也是中国文化向世界展示的绝佳窗口，也是展现真实中国、让国际上抹黑中国言论不攻自破的机会。

5.算法分区，建设虚拟的“软墙”，产品上生态融合，客观上用户软隔离。

推荐算法下的用户社区，其实本身就是一个又一个茧房，不同兴趣的用户，看到的内容本身就已经被隔离，“看不见的墙”一直都存在，甚至小红书的茧房比抖音要更严密，这一点，我们体感上就有感知，在小红书上很难刷到其他圈层的内容。

当前之所以会出现大量美国人攻占首页的情况，一方面是事发突然，算法也需要一点时间进行调教，另一方面是国内用户也都图新鲜，客观上增加了国外博主的热度。

所以现在大量外国用户进入后，只需要加强内容风控，在把好发布关的基础上，进而在算法上进行区隔，以后美国人只和美国人玩儿，国内兴趣圈层只和同圈层的玩儿，非常妙哉。不同圈层偶尔能串个门儿，但也不会掀起什么大浪。

这种策略，对于小红书的好处很明显：

第一，算法推荐策略的调整，主要是后台策略的调整，不影响前端App的功能流程，甚至不需要发版更新；

第二，不影响小红书整体业务战略，既定的业务框架继续进行；

第三，数据上享受到了国外用户增长的机遇，用户新增表现佳；

第四，兼顾到国内监管的要求；

第五，为未来的国际化留下种子。

算法分区后，对于用户来说，一切又回归平静，首页上的推荐依然是本来该有的内容，只是在用户看不见的角落，又多了几个新的茧房，茧房里的人也在茧房中劳作，以为那就是全部的世界。

列举出小红书可行的路径后就发现，在充分考虑成本、利益和监管要求的背景下，采用第四种和第五种同步进行的方式，是小红书最有概率采用的方案。

无论小红书最后采用何种方案，其实都并不影响内容风控的基础原理，对于商业平台来说，能否做好风控，往往决定着平台能走多远。在本文中，我一直强调的是“内容风控”而非“内容审核”，审核只是风控的一个环节，而非全部，审核也不是目的，将平台的结构性风险降到最低，才是目的。

拭目以待，小红书此次的选择，很大程度上，也将影响中国产品出海的路径探索方向。

本文来自微信公众号：产品变量，作者：亨哼（先锋创业者、产品人），原文标题：《TK难民涌入小红书，深度分析如何进行内容风控》，

本内容为作者独立观点，不代表虎嗅立场。