您的位置:首页 >原创 >

脸书将扩展人工智能,帮助检测和预防自杀

时间:2022-12-16 13:35:08 来源:

世界上最大的社交媒体网络脸书公司周一表示,该公司将在美国成功测试其模式识别软件,以检测有自杀意图的用户,并将其模式识别软件扩展到其他国家。今年3月,脸书开始在美国测试该软件,当时该公司开始扫描脸书帖子和评论的文本,寻找可能是即将自杀的信号的短语。

脸书没有透露该项目的许多技术细节,但该公司表示,其软件会搜索某些可能是线索的短语,比如“你没事吧?”和“我能帮忙吗?”如果该软件检测到潜在的自杀,它会提醒专门处理此类报告的脸书工作人员团队。该系统向用户或该人的朋友建议资源,例如电话帮助线。脸书的工作人员有时会打电话给地方当局进行干预。

脸书负责产品管理的副总裁盖伊·罗森(Guy Rosen)表示,该公司正开始在美国以外地区推出该软件,因为测试已经成功。他说,在过去的一个月里,在脸书软件检测到自杀意图后,第一反应者对人们进行了100多次检查。脸书表示,它试图让专业员工随时可用当地语言打电话给当局。“速度真的很重要。我们必须实时为人们提供帮助,“罗森说。

去年,当脸书推出视频直播时,包括自杀和谋杀在内的暴力行为视频激增,对公司的形象构成威胁。今年5月,脸书表示,将再雇佣3000人来监控视频和其他内容。罗森没有透露脸书部署该软件的国家,但他表示,由于敏感性,该软件最终将在全球范围内使用,但欧盟除外,他拒绝讨论这一点。

其他科技公司也试图防止自杀。谷歌的搜索引擎会显示自杀热线的电话号码,以回应某些搜索。脸书对其21亿用户了如指掌--这些数据是它用于定向广告的--但总的来说,该公司以前没有系统地扫描对话以寻找有害行为的模式。

一个例外是它努力发现儿童和成年性侵犯者之间的可疑对话。当脸书的自动屏幕发现不恰当的语言时,它有时会联系当局。华盛顿大学法学教授瑞安·卡洛(Ryan Calo)撰写了关于科技的文章,他说,科技公司可能更难在其他情况下证明扫描对话的合理性。

“一旦你打开门,你可能会想我们还会寻找什么其他种类的东西,”卡洛说。罗森拒绝透露脸书是否正在考虑在其他领域使用模式识别软件,如非性犯罪。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。