Google，Facebook悄悄地朝着自动阻止极端主义视频的方向发展

据两名熟悉这一过程的人士称，一些网络上观看视频的最大目的地已经悄悄地开始使用自动化从他们的网站上删除极端主义内容。

对于渴望从其网站上消除暴力宣传的互联网公司而言，此举是向前迈出的重要一步，并且随着极端分子的袭击从叙利亚到比利时和美国激增，世界各国政府都面临着这样做的压力。

消息人士称，YouTube和Facebook是部署系统以阻止或迅速删除伊斯兰国视频和其他类似材料的网站之一。

该技术最初是为了识别和删除视频网站上受版权保护的内容而开发的。它寻找 “散列”，一种独特的数字指纹，互联网公司会自动将其分配给特定的视频，从而可以快速删除所有具有匹配指纹的内容。

[相关职位]

观看视频: 什么是新闻

这样的系统将捕获重新发布已经确定为不可接受的内容的尝试，但不会自动阻止以前从未见过的视频。

两家公司不会确认他们是否正在使用该方法，也不会谈论如何使用该方法，但是许多熟悉该技术的人士表示，可以根据被禁止内容的数据库对发布的视频进行检查，以识别新的帖子，例如斩首或煽动暴力的演讲。

这两个消息来源不会讨论在审查被该技术确定为匹配或接近匹配的视频时需要多少人工工作。他们也不会说数据库中的视频最初是如何被确定为极端主义者的。

随着互联网公司继续在内部以及与竞争对手和其他有关方面讨论这一问题，新技术的使用可能会随着时间的推移而得到完善。

4月晚些时候，在美国总统巴拉克·奥巴马 (Barack Obama) 以及其他担心在线激进化的美国和欧洲领导人的压力下，包括Alphabet公司的YouTube，Twitter公司，Facebook公司和CloudFlare在内的互联网公司举行了电话会议，讨论各种选择，包括内容阻止系统由私人反极端主义项目提出。据通话中的一位人士和三位人士介绍了所讨论的内容。

讨论强调了一些世界上最有影响力的公司现在在解决恐怖主义，言论自由以及政府与企业权力之间的界线等问题上发挥的核心但困难的作用。

目前，没有一家公司接受反极端主义组织的系统，而且他们通常对外部干预应如何监管其网站持谨慎态度。

乔治华盛顿大学极端主义项目副主任谢默斯·休斯说: “这与版权或儿童色情有点不同，在版权或儿童色情制品中，事情显然是非法的。”

休斯说，极端主义内容存在，不同的网络公司在不同的地方划清界限。

到目前为止，大多数人主要依靠用户来标记违反其服务条款的内容，而且许多人仍然这样做。然后，由人工编辑对标记的材料进行内部审查，这些编辑删除了发现违规的帖子。

两位消息人士说，目前使用自动化的公司并未公开讨论它，部分原因是担心恐怖分子可能会学习如何操纵其系统，或者压制性政权可能会坚持使用该技术来审查对手。

内容发行公司CloudFlare的首席执行官马修·普林斯 (Matthew prince) 表示: “这些公司谈论这件事没有任何好处。”“他们为什么要吹嘘审查制度？”

在Counter极端主义项目上周首次公开描述其内容阻止系统并敦促大型互联网公司采用该系统之后，两位熟悉仍在发展的行业实践的人士向记者证实了这一点。

警惕外部解决方案

知情人士说，4月电话是由Facebook全球政策管理负责人Monika Bickert领导的。据一位与会者称，Facebook在这方面提出了讨论的选项，包括非营利性反极端主义项目提出的选项。

反极端主义组织由前总统乔治·W·布什 (George W Bush) 国土安全方面的顾问弗朗西斯·汤森 (Frances Townsend) 和布什2004竞选连任的副竞选经理马克·华莱士 (Mark Wallace) 等人创立。

了解4月电话的三位消息人士说，公司对让外部团体决定定义的不可接受内容表示谨慎。

在电话会议上提出的其他替代方案包括建立一个新的行业控制的非营利组织或扩大现有的行业控制的非营利组织。讨论的所有选项都涉及散列技术。

由行业资助的组织的模型可能是非营利性的国家失踪和被剥削儿童中心，该中心使用称为photoDNA的系统识别已知的儿童色情图像。该系统由微软公司免费许可。

微软在5月份宣布，它将向达特茅斯学院计算机科学家汉尼·法里德提供资金和技术支持，汉尼·法里德与反极端主义项目合作，并帮助开发了photoDNA，“开发一种技术来帮助利益相关者识别恐怖分子专利内容的副本。”

两名知情人士说，Facebook的Bickert同意在电话会议上对反极端主义项目的提议表达的一些担忧。她拒绝就此次电话会议或Facebook的努力公开发表评论，只是在一份声明中指出，Facebook正在 “与其他人一起探索行业方式，我们可以合作删除违反我们反恐政策的内容”。

一位消息人士称，最近几周，Facebook向其他公司发出了一项调查，征求他们对该问题上行业合作的不同选择的意见。

拥有YouTube的Alphabet Google部门的发言人威廉·菲茨杰拉德 (William Fitzgerald) 也拒绝对此电话发表评论，也拒绝评论该公司为保护内容所做的自动努力。

Twitter发言人表示，该公司仍在评估反极端主义项目的提议，“尚未采取立场”。

一位前Google员工表示，那里的人们长期以来一直在争论，除了阻止侵犯版权或与创作者分享收入之外，该公司还应该使用其内容ID系统。知情人士说，谷歌的内容匹配系统比Facebook更古老，更复杂。

美国总统反恐高级顾问丽莎·摩纳哥 (Lisa Monaco) 在一份声明中表示，白宫欢迎旨在帮助公司 “更好地应对恐怖分子在网上活动构成的威胁” 的举措。