小红书周达：社区安全的本质是解决“三方”核心诉求

9月11日上午，第六届CSS互联网安全领袖峰会正式开幕。来自中国信通院、IDC、小红书、腾讯等相关领域的专家，共同围绕“产业上云，安全先行”主题展开探讨，分享产业安全不同领域的最佳实践。

小红书安全业务负责人周达受邀出席大会并发表题为《小红书与安全》的主题演讲。他认为，社区安全治理是一个长期不间断的工作，其安全本质就是解决平台、发布者、消费者三方诉求，终极解决之道就是加持大数据、人工智能等技术创新手段，才能实现打击质效的进一步提升。

以“三方”诉求为导向，构建“识别+处罚+宣导”社区安全管理机制

周达指出，对于社区平台而言，用户发布的内容，需要符合相关的法律法规，以及平台的价值观。这要求平台强化内容安全审核时，要以科技创新为基础，通过“机器审核+人工审核+高展复合”机制提高对内容安全的监管能力，始终围绕社区定位做好内容安全管理。

周达举例说，在机器审核环节中，通过与腾讯的合作，我们引入了腾讯安全天御的AI技术，完善了机器审核能力，同时大幅提高了人工审核效率，以及减少了人工审核的数量，为小红书的发布者提供了一个更加优质的体验。

关于发布者和消费者二者之间的关系和安全诉求，周达以一个譬喻来生动形象地说解答说：小红书像是一座城市，内容的发布者参与到社会的生产活动中，我们认定其为“商人”，而用户付出的是时间机会成本，在经济学中被称之为“消费者”。那么，“商人”更加畏惧刷粉、刷量、刷赞等破坏市场规则的不正当竞争手段，这样会导致优质的发布者无法获得足够的流量，最终被淘汰。但消费者安全诉求本质是信息的不对称，无论是以什么样的方式，都是通过信息不对称的结果，导致了我们的消费者最终上当受骗，或者对你们的利益产生了损害。

针对以上三方面临的安全问题，小红书在实践过程中逐渐摸索一套“识别+处罚+宣导”专业化安全治理体系，并且效果日渐凸显。据小红书2020年第二季度社区生态治理报告数据显示，小红书当季处理涉嫌刷量笔记 66万篇、实时拦截和清理黑产行为超过1.3亿次、巡回拦截和清理黑灰产行为超过1.3亿次，对网络黑灰产形成了巨大的威慑力和杀伤力。

创新技术手段加持，“大数据服务+用户隐私保护”驱动社区安全建设发展

流量为王时代，针对内容安全治理如何破解的问题。周达则表示，创新技术是内容平台安全管理的终极解决之道，通过建立安全新思维，体系化机制来解决安全问题。

他以小红书和腾讯安全联合打击真人众包合作为例，天御系统会把在站外识别到的黑灰产打上标签，当这些黑灰产用户来到小红书的时候，我们就已经提前一步知晓黑灰产的目的动机，可以第一时间采取防御措施。

除了持续的迭代策略对抗、加强内容模型识别外，小红书还自主开发、升级清理不良内容、打击虚假数据策略模型和治理策略，对有效提升基于行为特征、内容特征等方面的算法模型和策略识别能力在治理中也起到了关键作用。同时，小红书还将大数据分析、人工智能、机器学习等新技术运用于安全体系，对安全事件事前侦知预警、事中察知阻断和事后溯源修复，全流程有效防范和严厉打击黑灰产。

正如腾讯副总裁丁珂在演讲中所说：“目前大多数企业安全体系的完备程度，相比数字化的发展速度，还存在比较大的差距。不能简单的把安全寄希望于一笔预算的投入，而是应该系统性地重新思考安全的战略定位，选择恰当的路径和手段，找到解决安全风险的‘最优解’。”

在大数据及人工智能飞速发展的今天，周达也对大数据服务和用户隐私保护等新技术趋势做出预测。在演讲最后他表示，小红书正逐步将位置保护技术、同态加密技术、联邦计算技术、OT传输技术等多方技术应用于用户数据保护，从根源上确保用户隐私被盗用、窃取，让用户对自己个人数据享有绝对的“自主权”。