英国最高隐私监管机构裁定,涉及Alphabet Inc. 的DeepMind人工智能产品的一项具有里程碑意义的医学试验违反了英国数据保护法。信息专员办公室表示,与DeepMind进行试验的国家卫生服务医院与该科技公司不正确地共享了160万的患者记录,未能告知患者他们的数据将用于测试新的移动应用程序。
信息专员伊丽莎白·丹纳姆 (Elizabeth Denham) 在一份声明中说: “患者不会合理地预期他们的信息会以这种方式被使用,而对于患者发生的事情,信托本可以而且应该更加透明。”
该试验始于2015年11月,旨在帮助医生诊断急性肾损伤,不涉及任何人工智能。相反,DeepMind使用现有的NHS算法构建了称为Streams的软件,该算法旨在识别处于危险中的患者。Streams的构建是为了处理患者数据 (例如血液测试结果),以及如果患者有使用该应用程序向医务人员推送警报的风险。
DeepMind以超过4亿2014年美元的价格卖给了Google,它表示必须获得皇家免费NHS医院信托基金所有患者的部分医疗记录,这些患者可以追溯到五年前-即使这些患者目前尚未在医院接受治疗。Royal Free在称为 “直接护理” 的法律基础上与DeepMind共享了此信息,这意味着共享该信息是为了改善患者的治疗。根据该法律原则,医疗专业人员无需明确同意即可共享患者数据。
经过13个月的调查,ICO发现医院在如何处理患者数据方面存在 “几个缺点”,并遵循卫生部自己的患者数据首席顾问的建议,裁定 “直接护理” 不是共享此信息的适当法律依据,医院应已要求患者允许与DeepMind共享其数据。
结论是,当DeepMind进行试验时,它主要是试图查看移动应用程序本身是否正常工作,以及医务人员是否喜欢其软件界面-而不是试图改善患者的预后。此外,ICO表示,医院和DeepMind没有提供充分的解释,说明为什么DeepMind需要访问如此多的患者记录来测试该应用程序。
“创新的代价不需要是基本隐私权的侵蚀,” 德纳姆说。
ICO已要求Royal Free提供证据,证明其已制定政策,以确保患者对其数据的适当同意,该数据用于医院与DeepMind进行的任何进一步测试,并在三个月内向监管机构提供证据。现在符合法律。医院信托还同意让第三方与DeepMind一起审核其当前的数据处理安排,并向监管机构报告。
DeepMind在一篇博客文章中表示,它承认在与Royal Free的合作中犯了几个错误,并欢迎 “ICO对此案的深思熟虑的解决方案,我们希望这将保证对流患者数据的持续安全和合法处理。”
DeepMind在博客中写道: “在这项工作2015年开始时,我们决心实现快速影响,我们低估了NHS和围绕患者数据的规则的复杂性,以及对一家知名科技公司在健康领域工作的潜在担忧。”
该公司表示,此后已在透明度和监督方面进行了改进,包括与Royal Free签订了更详细的法律合同,并更加关注确保患者和公众了解其工作。它还任命了一个由九名成员组成的独立审查小组,以审查DeepMind的健康工作并发布改进建议。
皇家自由报在一份声明中表示,它接受了ICO的调查结果,并 “在解决他们担心的领域方面已经取得了良好的进展。”医院表示,它希望 “向患者保证,他们的信息一直在我们的控制之中,除了提供患者护理或确保他们的安全之外,从未被用于任何其他用途。”
国家数据监护人菲奥娜·卡尔迪科特 (Fiona Caldicott) 向ICO提供了有关 “直接护理” 法律原则的建议,周一在一份声明中说,她 “担心一个值得称赞的目标 -- 在这种情况下,开发和测试救生技术 -- 在法律上还不足以允许在不先问他们的情况下共享识别人们的数据。”
外部医疗保健专家在社交媒体上赞扬ICO的决定和DeepMind的回应。
“很高兴看到 @ DeepMindAI承认他们做错了事情,并讨论他们是如何吸取教训的,” 尼古拉·佩林 (Nicola perrin) 发推文说,她是了解患者数据的负责人,这是一个关注患者隐私问题的独立工作组,设在伦敦的医学研究慈善机构惠康信托基金会 (Wellcome Trust)。医疗慈善机构The Kings Fund的健康政策研究员Harry Evans在推特上说,ICO发出了一个重要的信息,即 “创新和数据保护彼此之间并不矛盾。回应似乎是建设性的,而不是惩罚性的。"
DeepMind成立于2010年,以创造能够在战略游戏Go中击败世界上最好的人类玩家的人工智能而闻名。这项成就被认为是计算机科学的一个重要里程碑。
相关阅读
猜您喜欢
- 怎么查qq有没绑定微信聊天记录(怎么查微信里面的聊天记录)
- oppo手机定位一天能查几次(oppo手机追踪定位)
- 怎么查酒店开房记录qq(怎么查住哪个酒店)
- 为什么淘宝衣服很便宜(揭秘淘宝衣服进货渠道)
- 吉他和弦怎么弹(爱的罗曼史用吉他怎么弹)
- 信实Jio报价: 新的JioFi用户将以509卢比的价格获得高达224 GB的数据,这是如何
- 什么机关可以查手机定位那个人在哪(手机号查询定位)
- 宾馆前台能查开房记录吗(怎么查个人酒店入住记录)
- 摩托罗拉展示了六个新的Moto Mod,包括360度相机Mod
- 手机号码定位怎么查朋友的位置(如何对别人手机号进行定位)
- 手机教程:半次元APP怎么分享朋友圈
- 三星计划在芯片热潮中向韩国投资186亿美元
- 天眼查可以查住酒店记录吗(怎么查个人开宾馆记录)
- 异地恋怎么查女微信聊天记录(怎么可以查聊天记录)
- 微软将裁员数千名员工: 报告
- 北外青少英语怎么样(剑桥国际还是北外青少好)
图文推荐
热门文章
-
苹果手机定位历史轨迹怎么查(怎么查找对方苹果手机的位置)
数码 2022-08-15 14:05:55 -
苹果手机怎么用app查定位(苹果手机位置在哪里?)
评论 2022-08-15 14:05:54 -
一般激光祛斑多少钱(雀斑激光费用)
手机 2022-08-15 14:05:54 -
查定位手机号免费(如何对别人手机号进行定位)
原创 2022-08-15 14:05:53 -
花费2420亿美元的资产管理公司来取代传统的数据系统
通信 2022-08-15 14:05:52 -
科技快讯:快手电商8月订单量超5亿单
数码 2022-08-15 14:05:46