小红书亮相CSS互联网安全领袖峰会：建立安全新思维，探索社区安全治理新模式
发布于：2020-09-12 被浏览：3724次
第六届CSS互联网安全领袖峰会正式开幕。来自中国信息通信技术研究所、国际数据中心、小红书， 腾讯等相关领域的专家共同讨论了“行业云，安全第一”的主题，并分享了工业安全不同领域的最佳实践。小红书，安保业务负责人周达受，应邀出席会议并发表了题为《小红书与安全》的主旨演讲。他认为，社区安全治理是一项长期不间断的工作，其安全本质是解决平台、发布者和消费者的需求。最终的解决办法是祝福大数据、人工智能等技术创新，进一步提高质量和效率。
以“三方”要求为指导，构建“识别和惩罚宣导"”的社区安全管理机制
周达指出，对于社区平台，用户发布的内容需要符合相关法律法规和平台价值观。这就要求平台在加强内容安全审计的同时，要以科技创新为基础，通过“机审、手审、高展、复合”的机制提升内容安全监管能力，始终围绕社区定位做好内容安全管理工作。
周达说，比如在机器审计的过程中，通过与腾讯，的合作，我们引入了腾讯平安天宇的AI技术，提高了机器审计能力，大大提高了人工审计的效率，减少了人工审计的次数，为小红书的出版商提供了更好的体验
关于出版商与消费者的关系及其安全需求，周达形象地用一个比喻来回答：小红书就像一座城市，内容的出版商参与社会生产活动，我们视他们为“商人”，而用户则付出时间和机会成本，这在经济学上被称为“消费者”。那么，“商人”更害怕破坏市场规则的不正当竞争手段，如刷粉、刷量、刷赞等，会导致优质出版商得不到足够的流量，最终被淘汰。但是，消费者安全需求的本质是信息不对称，导致我们的消费者被欺骗或以任何方式损害你的利益。
针对上述三方面临的安全问题，小红书在实践过程中逐步探索出一套“识别和惩罚宣导"”的专业安全治理体系，其效果日益突出。根据小红书， 2020年第二季度社区生态治理报告数据，小红书共处理疑似票据66万张，实时拦截清理黑灰色产品超过1.3亿次，巡查清理黑灰色产品超过1.3亿次，对网络黑灰色产品形成了极大的威慑力和杀伤力。
创新技术意味着祝福，“大数据服务用户隐私保护”推动社区安全建设发展
流量为王时，如何解决内容安全治理问题。周达表示，创新技术是内容平台安全管理的最终解决方案，安全问题通过建立安全新思维和系统机制来解决。他以小红图书公司和腾讯安全公司联合打击真人众包为例。天语系统会对站外识别的黑色和灰色产品进行标注。当这些黑灰产品用户来到小红书局时，我们已经提前一步知道了黑灰产品的用途和动机，可以在第一时间采取防御措施。
除了不断迭代策略对抗和加强内容模型识别外，小红还自主开发、升级清理不良内容，打击虚假数据策略模型和治理策略，在有效提升基于行为特征和内容特征的算法模型和策略识别能力方面也发挥了关键作用。同时，小红图书还将大数据分析、人工智能、机器学习等新技术应用到安全系统中，通过提前检测预警、事件中阻断检测、事后恢复可追溯性，有效预防和严厉打击全过程黑灰生产。
正如腾讯， 丁珂，副总裁在讲话中所说：“目前，大多数企业的安全体系的完整性与数字化的发展速度仍有很大差距。我们不能简单地指望一笔预算投资，而是要系统地重新思考安全的战略定位，选择合适的路径和手段，找到解决安全风险的‘最优方案’。”
今天，随着大数据和人工智能的快速发展，周达还预测了大数据服务和用户隐私保护等新技术趋势。演讲结束时，他表示，小红图书正在逐步将位置保护技术、同态加密技术、联邦计算技术、OT传输技术等技术应用到用户数据保护中，从根本上确保用户隐私被窃取和窃取，让用户在个人数据上享有绝对的“自主权”。