Facebook部署AI在其网络上打击恐怖主义

Facebook已开始部署其人工智能功能，以帮助打击恐怖分子对其服务的使用。公司官员在一篇博客文章中表示，Facebook将在其他用户看到之前，与人工审阅者一起使用人工智能，立即查找并删除 “恐怖内容”。这种技术已经被用来阻止来自Facebook和YouTube等其他服务的儿童色情制品，但Facebook一直不愿将其应用于其他可能不太明确的用途。

在大多数情况下，Facebook仅在用户首次举报时才删除令人反感的材料。

Facebook和其他互联网公司面临着越来越大的政府压力，要求其识别并防止恐怖主义宣传的传播并在其服务上招募消息。本月早些时候，英国首相特雷莎·梅呼吁各国政府形成国际协议，防止极端主义在网上蔓延。一些拟议的措施将使公司对其网站上发布的材料承担法律责任。

全球政策管理总监莫妮卡·比克特 (Monika Bickert) 和反恐政策经理布莱恩·菲什曼 (Brian Fishman) 在Facebook上发表的帖子没有具体提及梅的电话。但它承认，“在最近的恐怖袭击之后，人们质疑科技公司在网上打击恐怖主义方面的作用。”

“我们想直接回答这些问题。我们同意那些说社交媒体不应该是恐怖分子有发言权的地方的人的观点，“他们写道。

在这项工作中使用的人工智能技术包括图像匹配，该技术将人们上传到Facebook的照片和视频与 “已知” 恐怖主义图像或视频进行比较。匹配通常意味着Facebook以前已经删除了该材料，或者最终将其存储在Facebook与Microsoft，Twitter和YouTube共享的此类图像的数据库中。

Facebook还从先前删除的赞扬或支持恐怖组织的帖子中开发 “基于文本的信号”。它将把这些信号输入机器学习系统，随着时间的推移，将学习如何检测类似的帖子。

Bickert和Fishman说，当Facebook收到有关潜在 “恐怖主义帖子” 的报告时，它会紧急审查这些报告。此外，它说，在极少数情况下，当它发现迫在眉睫的伤害证据时，它会立即通知当局。

但是人工智能只是过程的一部分。该技术尚未达到可以理解语言和上下文细微差别的程度，因此人类仍在循环中。

Facebook表示，它雇佣了150多人，他们 “完全或主要专注于反恐是他们的核心责任”。根据博客文章，这包括反恐学术专家，前检察官，前执法人员以及分析师和工程师。