Facebook 周三分享了人工智能的一些进步，这些进步有助于该公司在其平台上执行社区标准的艰巨任务。 该公司表示，Facebook 迅速从研究转向生产的新技术和系统，例如其 Reinforcement Integrity Optimizer (RIO)，正在帮助减少 Facebook 用户看到的仇恨言论和其他不需要的内容的数量。
Facebook 首席技术官 Mike Schroepfer 对记者说：“AI 是一个发展迅速的领域，我们今天 AI 系统中许多最重要的部分都是基于自我监督等技术，这在几年前似乎还很遥远。” 周三。
在周三发布的社区标准执行报告中，Facebook 表示，2021 年第二季度仇恨言论的流行率连续第三个季度下降。 这是由于在主动检测仇恨言论和 Facebook 动态消息中的排名变化方面有所改进。
报告称，在第二季度，每 10000 次内容浏览中就有 5 次仇恨言论浏览。 在第一季度，每 10,000 次观看次数从 5 次减少到 6 次。
与此同时，该公司在第二季度有 3150 万条来自 Facebook 的仇恨言论内容，而第一季度为 2520 万条；来自 Instagram 的仇恨言论内容为 980 万条，高于第一季度的 630 万条。
去年年底推出的 RIO 等系统帮助公司主动检测仇恨言论。
训练 AI 的经典方法使用固定数据集来训练模型，然后部署该模型以对新内容做出决策。 相比之下，Rio 引导 AI 模型直接从数百万当前内容中学习。 它会不断评估自己的工作表现，并不断学习和适应，使 Facebook 平台随着时间的推移变得更加安全。
“这种端到端的学习对于执行社区标准非常有价值，”Schroepfer 说。 “因为当新问题出现时，问题的性质总是随着当前事件而发展，我们的系统需要能够快速适应。强化学习是一种强大的方法，可以在缺乏良好训练数据的情况下帮助人工智能应对新挑战。我们 期待我们的 RIO 系统在未来很长一段时间内继续降低仇恨言论和其他不需要的内容的流行，这对这种新技术来说是非常令人鼓舞的。”
Facebook 还以“惊人的速度”用更通用的系统取代单一用途的定制系统，Schroepfer 说。 他还表示，他们看到了多模态 AI 模型的“令人印象深刻的改进”，这些模型可以以多种语言、多种模式（如文本、图像和视频）运行； 并跨越多个政策领域。
此外，Schroepfer 吹捧了 Facebook 研究人员在“零镜头”和“少量镜头”学习领域取得的进展，这使得人工智能系统能够识别违规内容，即使他们以前从未见过或只见过几个例子 它在训练期间。
Schroepfer 说：“零样本学习和少量样本学习是我们一直在进行重大研究投资的众多前沿人工智能领域之一，我们希望在来年看到成果。”
Facebook 的人工智能系统补充了成千上万个人为执行社区标准所做的工作。
