Google和Jigsaw的新工具观点将在线过滤掉 “有毒” 评论

Google和Jigsaw推出了一种新的工具视角，该工具使用人工智能在网上过滤 “有毒” 评论。该工具旨在通过让创作者和读者识别可能使 “某人离开对话” 的辱骂性评论或评论来打击在线骚扰。透视工具会根据评论与人们所说的 “有毒” 评论的相似程度对评论进行评分。这些工具旨在改善在线对话。

“perspective是一种ApI，可以更轻松地进行更好的对话。该ApI使用机器学习模型来评分评论可能对对话产生的影响，”perspective ApI网站上写道。在网站发布的示例中，我们看到透视工具具有 “毒性” 表，该表显示了线程中有毒评论的水平。该工具允许创作者或读者设置毒性阈值，并且可以将滑块移到右侧以查看毒性最大的评论。当移动到最左边时，透视工具显示的是毒性最小的评论。

观看我们所有来自Express Technology的视频

从角度来看，结果使创作者可以自由地审查评论并决定是否将其包括在对话中，以遏制在线滥用。Jigsaw总裁贾里德·科恩 (Jared Cohen) 在博客中说: “出版商甚至可以让读者自己根据毒性对评论进行分类，从而更容易找到隐藏在毒性下的精彩讨论。”很多时候，新闻机构希望围绕一篇帖子或一篇文章进行健康的讨论，但完全禁用评论，因为对数百万条评论进行排序以找到那些滥用的评论需要大量的努力和劳动。这就是透视工具的来源。

观点的制定者一直在与《纽约时报》，维基百科，《经济学人》和《卫报》一起尝试该工具的版本。根据科恩的说法，该公司已经与《纽约时报》合作，开发了更快地对评论进行分类的方法，这将导致每天对更多文章发表更多评论。

perspective正在努力改进和扩展其技术。该公司正在寻求开发该工具的新模型，该模型将在英语以外的其他语言中使用，以及在其他角度也可以使用的模型。“从长远来看，观点不仅仅是改善评论。我们希望我们能帮助改善在线对话，“科恩说。