ZOOM与人性ZOOM2区别美国网友涌入,小ZOOM与人性ZOOM2区别红书该如何进行内容风控?_ZAKER新闻
美国网友涌入,小ZOOM与人性ZOOM2区别红书该如何进行内容风控?_ZAKER新闻
邹维洛(三年级小学生):这几天妈妈带我去看了电影《奥本海默》,第一次被工作人员允许坐在轮椅上观影,期待身边有更多无障碍电影院。另外也希望今年手术能顺利,住院不要影响太多学业,享受更多校园生活的快乐。
本文来自微信公众号:产品变量,作者:亨哼,原文标题:《TK 难民涌入小红书,深度分析如何进行内容风控》,头图来自:视觉中国小红书迎来泼天富贵,在 TikTok 封禁令即将生效的前夕,大量美国人涌入小红书,使得小红书在昨天成功登顶 美区 App Store 。要知道,在这之前,小红书从未进行海外运营,在这之前压根儿没有下载排名。于是,从昨天开始,小红书的首页就变成了这样:没想到国际互联网在小红书里实现了,学英语这个事儿,有语境确实挺重要的,我之前一直在学 abandon,现在至少已经学到 refugee 了。但,大家都不约而同地想到一个问题——涌入大量美国用户,小红书如何进行内容风控和审核,以及,小红书是否就要从此被墙?作为一名产品经理,我认为有必要从产品角度和商业角度,来深度分析一下,内容社区产品在内容风控上的一些要点。我们将从事件原因的角度,具体分析小红书的实际情况,然后通过总结「内容风控策略」的核心要点,来预测小红书面对大量外来内容的情况下,应当如何进行内容风控。一、为什么是小红书?为什么美国用户,没有涌入更像 TikTok 的抖音,或者进入美国本土的 ins、Facebook,而是涌向了小红书?主要是 4 个原因:1. 小红书不分区,小红书在最早期的阶段,本身就是个海淘应用,大量中国留学生用户,在海外使用小红书,所以在各国的应用市场,都能够方便地下载中文版小红书,而且所有用户都在一起,没有进行国家间的隔离。2. 抖音虽然更相似,但是抖音的用户注册门槛,隔绝了外国用户的使用。首先,抖音本身没有上架美区 App Store,美国用户想要下载抖音,需要先翻进来搞一个国区 Apple 账号,其次,抖音在注册阶段采用的策略是,支持非 +86 的国外手机号注册,但注册完成后,必须进行实名认证,而实名认证的方式,只有身份证……3. 小红书刚刚进行改版,社区氛围非常接近 ins 的内容,加上刚刚改版、完全符合上下滑动操作习惯的第二个 Tab " 热门 ",都让 TikTok 用户能够比较轻松地进行迁移和适应。4. 没有大量进入美国本土的 ins、Facebook 的原因是, TikTok 用户本身对于 TikTok 被封禁非常不满,因此对美国应用都产生了强烈的逆反心态,在 TikTok 大 V 的号召下,选择直接进入中国软件,彻底摆脱美国政府的管辖范围。所以,大量 TikTok 用户涌入,就会产生大量内容,小红书的内容风控,面临着巨大的挑战。小红书又应当如何处理这些国外用户,封还是不封?二、内容风控的核心要点是什么?一个内容社区的用户角色,大致可分为内容生产者(创作型用户)和内容消费者(浏览型用户),既有内容的生产创作,又有观众能够消化掉创作产能,形成良好的社区内容生态。对于一款产品,从风控角度来抽象,其基本业务框架的模型可以总结为 " 业务 "、辅助业务的 " 增长 "、保障业务的 " 风控 " 和支撑以上三点的 " 数据 "。" 业务 " 自然是产品最关键的地方," 增长 "" 风控 " 和 " 数据 " 都是辅助业务良态运行。对小红书的内容业务来说,协调内容生产者和内容消费者,形成良好的内容生态,是最关键的核心,辅以用户增长(包括用户增长和创作者增长两个方面),并且对社区进行风控。通过业务的发展和增长、风控的积累,形成用户基础数据、注册信息、浏览行为、视觉偏好、用户标签等数据,然后通过这些数据,再反向支撑业务发展,形成产品内的数据打通。那今天我们着重分析的,就是风控这一环节。金融产品、信贷产品有风控非常好理解,但其实,所有类型的产品都需要有风控。电商产品要防薅羊毛,社交产品要防欺诈,而内容产品,则是要对平台内容的质量和合规性进行风险控制。对于内容社区等 UGC 产品来说,风控线就是生死线。内容和社区产品的风控压力来源于监管侧,风控对象是用户在平台发布的内容。1. 内容风控要 " 控 " 什么?来自内容侧的风险主要有三类。其一是政策层面的内容合规,要符合监管的要求。监管要求的内容可参考最新施行的《网络信息内容生态治理规定》,对于各项违规内容都做了详细规定,大致概括可分为涉政、违禁、暴恐、色情等四类,这部分是政策红线,一旦触及,轻则约谈,重则下架、封禁。其二是社区氛围的良性导向,如谩骂、隐私等。这一类型的内容虽然不会触及监管红线,但倘若内容社区充斥各种负能量,对于社区氛围是非常严重的损害,伤及用户体验,导致用户流失,影响产品商业利益。这一类型内容风控还包括对于产品运营主体的保护,例如对吐槽公司工作人员的内容进行限流处理、对平台和产品的诅咒进行删除等,属于商誉和公关层面的维护,同时也是对产品官方公信力的维护。其三是社区用户安全的保证。对于内容和社区产品而言,平台内一定会存在导流、灰产、诈骗等不法手段,如何保护平台内用户的财产安全和产品体验,是非常关键的,互联网发展至今,导流、诈骗等行为往往是成熟的灰黑产产业链所为,他们拥有丰富的反监查和防过滤经验,揪出他们并进行处理,需要平台与其斗智斗勇。2. 内容风控的方法和手段在最最早期的阶段,对内容进行风险控制,只能通过编辑人工进行审核。这种方式需要大量的人力物力,而且稿件审核需要时间长,时效性也被大大削弱。一般的公司,很难负担起庞大的内容审核团队。之后,诞生了关键词过滤等手段,成为成本较低,并且使用最为广泛的内容风控措施。对于命中预设的违禁关键词的内容,直接阻止发出或者转交人工审核。这种方式性价比极高,耗费成本小,但基本可以过滤掉大多数的违规内容。关键词过滤存在的问题也很明显,准确率较低,经常出现误伤和漏网的情况,对于内容和社区平台来说,这是不能容忍的,前文已经讲过,哪怕一篇违规内容被放出来,产品都有可能被封禁,内容风控是一件 " 宁可错杀一百,不能放过一个 " 的事情。再加上网络的普及,越来越多的人学会了通过拼音、乱码、谐音等方式绕开关键词,关键词过滤逐渐不再能胜任内容风控的工作任务。以上基本还属于规则的范畴,之后内容风控的发展,就进入了 AI+ 策略的时代。内容风控方面的 AI,其实叫机器学习更加准确,这是一套组合拳。举个例子,对于一个视频稿件的审核,就需要对整个视频进行逐一拆帧,然后通过 OCR 文字识别检查字幕,此时对于字幕的检查和文字内容的检查基本一致,文字识别涉及到 NLP 分词、语义理解等 AI 技术;对于画面,则是图片识别,识别图片中可能出现的违禁内容,这里涉及到一个准确率的问题,暴恐视频不能够通过,但游戏视频也存在战斗画面,如何保证不误伤;对于音频,则需要两个方面的审查,一方面是视频当中的语句,将语音转文本,再通过文字的审核策略来审核,另一方面是音调识别,例如识别音频当中的娇喘等无语句的声音。这些在内容风控方面应用的 AI 技术,其实远远早于最近这几年的大模型 AI 技术,在内容风控上的 AI 应用,目前已经是非常成熟且完善的生态。机器学习本身还是就稿件论稿件,而一个优秀的内容风控平台,是需要配合策略的。策略产品经理是近几年一个特别火的岗位,提供更精细化的、动态的、效率的产品解决方案。对于策略来说,内容的风控不能只在单个内容上,还需要结合更高的维度,给予更加精细化的识别判断。策略要从单个内容出发,延伸到发布该内容的用户基础信息、关系链、过往内容、实名可信度等等诸多维度进行调参和计算,以判断这名用户的这条内容是否需要更细致的识别。这里要特别强调一点,即使平台的机器算法再先进,所有的内容还都需要过人审核。所有内容过人,所有内容过人,所有内容过人,重要的事情说三遍,至于原因,还是上面那一条,内容和社区平台不容有半点闪失。不过机器审核越先进,能够为人工审核提供的辅助也就越全面准确,人工审核的效率自然也就变高,审核人员的压力也相应减弱。另外,对于内容风控,又会有前置风控(先审后发)和后置风控(先发后审)等不同的方式,所以在小红书等平台,有的内容刚发就被风控限流,有的内容则是刚发正常、阅读量达到一定程度后,突然就被毙了,这就是前置风控和后置风控的策略产生作用。关于这一点,以后有机会再详细分析优劣和适用场景。对于小红书来说,随着内容量越来越大,如果只是单纯地对审核人工进行扩容,恐难以解决问题,一定会更多的由技术和机器进行介入。此次涌入大量外文内容,囿于审核中心本身都是中文母语的审核员工,也势必更加依赖 AI 对于英文内容的处理和识别。三、预测一手,如何收场?对于小红书来说,对于此次大量美区 TikTok 用户涌入,的确不是一件那么 " 幸福 " 的事情,毕竟,小红书的目前的整体战略并未有太多国际化的考量,产品技术上,也并没有做好全球化的准备。所以对于小红书的高层来说,此次大量美国用户带来的烦恼,恐怕要比喜悦多得多。在这种情况下,小红书应该采取怎样的应对策略,才能比较适宜当前的情况和现状?我们先穷举一下小红书所有能走的路。我预测,小红书大概率会走向第 4 条路和第 5 条路的融合版。1. 放任不管,保持现有产品策略,中美用户自由交流,畅游国际互联网。这条路径显然不存在,基于当前国情和中美两国的立场,完全不做干涉,这不仅不是所谓 " 自由 ",反而会适得其反,严重损害社区用户的氛围和利益,同时也会引发监管上的关注。绝对意义上的自由不是自由,有限的自由才是真正自由,有规则有法治才能享有自由。2. 学习抖音,通过注册手机号和实名认证,将国外用户拒之门外。在这次 TikTok 关停风波中,美国用户之所以没有涌入和 TikTok 相似程度更高的抖音,就是因为抖音的用户注册门槛,隔绝了外国用户的使用。抖音采用的策略是,支持非 +86 的国外手机号注册,但注册完成后,必须进行实名认证,而实名认证的方式,只有身份证……美国人民没有身份证,自然无法正常注册使用抖音,只能刷一刷未登录状态下首页的视频,做一个纯纯的内容消费者(浏览型用户)。而小红书的用户群体,因为更偏向中产和精致人群,所以有相当一部分用户,是海外留学生,甚至小红书在最早期的阶段,本身就是个海淘应用,所以如果直接一刀切,对于小红书本身的用户来说,影响是非常大的。并且小红书并没有像抖音一样,通过不同的产品进行用户分区,以前抖音只做国内,国外有 TikTok ,所以抖音一刀切没有任何问题。小红书只有一个主产品,需要兼容国内用户和人在海外的用户(注意,是人在海外的用户,而非海外用户,这里有本质的区别)。所以在注册阶段一刀切,对于产品和生态来说,我认为这不是一个好的解决方案。当问题出现的时候,解决提出问题的人,这种行为,确实不太高明。3. 考虑物理分区,借此契机推出国际版,开启国际化征程。这可能是个方法,但在现在并不现实。对于一家大公司来说,因为一次巧合,就改变公司战略,这并不明智,大概率最终既捡不到芝麻,又丢了西瓜。而且国际版开发也是需要时间的,等产品做出来,热度也早就过去了。4. 在当前用户混杂的情况下,加强内容审核风控,把控好水龙头的出水口。前文提到,对于内容平台来说,风控的主要对象,是内容生产者(创作型用户),包括笔记内容发布、评论内容发布、头像昵称等,只要内容发布的口子审核过关,即使平台内有美国用户,也不会影响如今已经有 3 亿月活基本盘的小红书。有人用国内不能使用 Facebook 和 ins 来类比,认为国内用户不能与国外用户共用使用一个社区产品,但我认为这有本质区别,外国人在中国的地盘,和中国人在外国的地盘,这是完全不同的两种逻辑。小红书公司在国内、审核在国内、数据在国内、风控规则在国内,甚至公司党委下,已经有 4 个党支部,在这样的情况下,外国用户使用中国产品,只要风控到位,无论是在内容层面还是国家安全层面,都是比较容易掌控的。从另一个角度讲,国际化在未来是一个趋势,如何让中国科技和中国产品走向世界,我们还在进行各种探索, TikTok 的国际隔离路线是一种探索,也许小红书的社区融合路线,也是一次宝贵的探索,某种程度上,秉承文化的自信,这也是中国文化向世界展示的绝佳窗口,也是展现真实中国、让国际上抹黑中国言论不攻自破的机会。5. 算法分区,建设虚拟的 " 软墙 ",产品上生态融合,客观上用户软隔离。推荐算法下的用户社区,其实本身就是一个又一个茧房,不同兴趣的用户,看到的内容本身就已经被隔离," 看不见的墙 " 一直都存在,甚至小红书的茧房比抖音要更严密,这一点,我们体感上就有感知,在小红书上很难刷到其他圈层的内容。当前之所以会出现大量美国人攻占首页的情况,一方面是事发突然,算法也需要一点时间进行调教,另一方面是国内用户也都图新鲜,客观上增加了国外博主的热度。所以现在大量外国用户进入后,只需要加强内容风控,在把好发布关的基础上,进而在算法上进行区隔,以后美国人只和美国人玩儿,国内兴趣圈层只和同圈层的玩儿,非常妙哉。不同圈层偶尔能串个门儿,但也不会掀起什么大浪。这种策略,对于小红书的好处很明显:第一,算法推荐策略的调整,主要是后台策略的调整,不影响前端 App 的功能流程,甚至不需要发版更新;第二,不影响小红书整体业务战略,既定的业务框架继续进行;第三,数据上享受到了国外用户增长的机遇,用户新增表现佳;第四,兼顾到国内监管的要求;第五,为未来的国际化留下种子。算法分区后,对于用户来说,一切又回归平静,首页上的推荐依然是本来该有的内容,只是在用户看不见的角落,又多了几个新的茧房,茧房里的人也在茧房中劳作,以为那就是全部的世界。列举出小红书可行的路径后就发现,在充分考虑成本、利益和监管要求的背景下,采用第四种和第五种同步进行的方式,是小红书最有概率采用的方案。无论小红书最后采用何种方案,其实都并不影响内容风控的基础原理,对于商业平台来说,能否做好风控,往往决定着平台能走多远。在本文中,我一直强调的是 " 内容风控 " 而非 " 内容审核 ",审核只是风控的一个环节,而非全部,审核也不是目的,将平台的结构性风险降到最低,才是目的。拭目以待,小红书此次的选择,很大程度上,也将影响中国产品出海的路径探索方向。本文来自微信公众号:产品变量,作者:亨哼(先锋创业者、产品人)koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:林君
TOP1热点:男子称车窗被砸AED被拿走愿免赔
对此,中指研究院指数研究部总经理曹晶晶表示,从首付比例来看,不论是首套房还是二套房,其最低首付比例几乎已经降至历史下限,这将能显著降低购房门槛,凸显了政策面保刚需、促改善、稳市场的用意。。
TOP2热点:王楚钦谈如何看待外界舆论
在不少业内人士看来,在当前房产市场形势下,100%现房销售有一定难度,但期房采取类似“折中”的办法,某种程度上不失为一种既降低购房者风险,又提振购房者信心的尝试。
TOP3热点:掌心拍出了唐朝萝莉岛ZOOM与人马性ZOOM的区别
全面提高教育治理体系和治理能力现代化水平。进一步用好教育评价的“指挥棒”,抓好《深化新时代教育评价改革总体方案》落实落地,统筹推进育人方式、办学模式、管理体制、保障机制改革。坚持教育公益性原则,加快构建优质均衡的基本公共教育服务体系,扩大优质教育资源覆盖面,不断缩小教育的城乡、区域、校际、群体差距。深入实施教材建设和管理行动,把握正确政治方向和价值导向,进一步提升教材质量,增强育人功能,提高教材管理效能。深化教育数字化战略行动,发展公平包容、更有质量、绿色发展、开放合作的数字教育,着力开辟教育发展新赛道,塑造教育发展新优势。
在不少业内人士看来,在当前房产市场形势下,100%现房销售有一定难度,但期房采取类似“折中”的办法,某种程度上不失为一种既降低购房者风险,又提振购房者信心的尝试。
TOP4热点:微博关停张兰账号直播功能仙踪林国精产品视频
在广东住房政策研究中心研究员李宇嘉看来,现在市场上销售的现房,主要分三种情况,一是一些楼盘卖得慢、卖不动,而工期在推进,慢慢就变成了现房,比如很多楼盘的尾盘或最后一期;二是前几年地价较高,开发商不想降价出售,不得不以时间换空间,一套一套卖,“熬”成了现房;三是部分深耕本地的房企,资金链相对不紧张,项目不多,不愿意降价,也变成了现房。
TOP5热点:又一名反华分子翻车一面亲一面膜下的免费
同一时间段内,青岛针对城中村的规划是“拆除重建为主、改造提升为辅”。而成都则在2022年~2025年的城市更新规划中提出,按照“少拆多改,注重传承”的原则,推进31片城中村改造。
与陈砦相距不远,便是金水升龙广场,其更为人们熟知的名字是“曼哈顿广场”,在几年前整顿房地产项目“洋名”时更名,这是郑州最早的城中村改造项目之一,由闽系房企升龙集团开发。
TOP6热点:你只说70亿是何居心中国MACBOOKPRO高清
而此次在7月底国务院常务会议、中央政治局会议层面单独聚焦城中村改造,足见决策层对其重视程度之高。联系到当下房地产市场低迷的状态,人们很容易将这一轮城中村改造视为“二次棚改”。
此次调整后,广州、深圳居民申请房贷适用于“认房不认贷”,即居民如果名下没有房产,住房贷款已经结清,房贷适用首套房贷的首付比例、利率。
TOP7热点:哪吒2感谢140000000位观众中国新疆xxxxxl19学生申中国
<span>31日,国防部举行新冠疫情暴发后首次线下发布会,现场座无虚席。吴谦就新型武器装备、台海问题,中美关系等热点问题一一回答。在回应《环球时报》记者提问时,吴谦表示,中美两军交往并非处于中断状态,双方通过军事外交渠道保持坦诚有效的沟通。他也首次证实,中央军委联合参谋部副参谋长徐起零在斐济与美国军方代表进行了沟通交流。</span>
9月1日上午,经市七届人大常委会第二十次会议表决通过,赵勇任深圳市人民政府副市长、市公安局局长。会议同时任命沈凌云为深圳市水务局局长,杨时敏为深圳前海蛇口自贸区人民检察院检察长 。
TOP8热点:这些地震谣言系自媒体用AI合成中国新疆XXXXXL17学生
一要深入推进污染防治攻坚。持续打好蓝天、碧水、净土三大保卫战,聚焦皖北这一大气污染防治重点区域,统筹推进美丽长江(安徽)经济带新一轮提升工程、新一轮巢湖综合治理、淮河治理和新安江生态保护补偿样板区建设,加强土壤污染管控,让安徽天更蓝、地更绿、水更清,江淮大地更加多姿多彩。
TOP9热点:山西大同比北极还冷中国windows野外
小昂(四年级小学生):心情很不错,因为8月30日返校日已经把暑假作业都完成了,老师说如果没有完成,也不需要再补作业了。这两天我就在家里玩玩,搭个拼图、看看小视频,然后就是包书皮,很开心。
TOP10热点:王俊凯想尝试动作戏开过张的女生是不是一直想
克莱弗利在会谈中还表示,英方致力于加强对华沟通,采取积极行动解决困难,增进理解,拥抱机遇。英国企业期待开展更多对华合作,开拓中国市场。两国政府应共同努力密切经贸联系,释放经济活力,加强在科技、人工智能、绿色能源等领域的合作,造福子孙后代。
“我们的日常工作全部暂停,改成了参加产品知识培训会,并被通知在短期内不允许去医院进行走访。”张薇在一家药企做医药代表,入行四年,这是她第一次经历“这么声势浩大的医疗反腐”。