DeepMind声称，经过扭曲式训练的预测性医疗人工智能取得了“突破”
AI锐见
谷歌（google）旗下的英国人工智能研究公司DeepMind在《自然》（Nature）杂志上发表了一篇研究报告，其中讨论了一种深度学习模型的性能，该模型可以持续预测患者未来罹患一种名为急性肾损伤（AKI）的危及生命的疾病的可能性。
该公司表示，其模型能够准确预测患者将在48小时前“在临床可操作的窗口内”发展成AKI。
DeepMind在一篇鼓吹该研究的博客文章中称，这是一项突破——该论文表明，人工智能能够在“可避免的患者伤害的主要原因之一”发生前两天预测出它。
“这是我们团队迄今为止在医疗保健研究方面取得的最大突破，”报告补充道，“证明了我们不仅能够更有效地发现病情恶化，而且能够在恶化发生之前就做出预测。”
不过，即便是表面上看一下这份报纸，也会提出一些主要的警告。
尤其重要的是，用于训练模型的数据绝大多数是男性：93．6％。这是因为DeepMind的人工智能使用的是美国退伍军人事务部（VA）提供的病人数据。
研究报告指出，在培训数据集中，女性仅占患者的6．38％。
本文还纳入了数据集统计的汇总，显示18．9％的患者为黑人，虽然黑人女性在培训数据集中所占比例没有突破（逻辑上认为可能低于6．38％）。没有其他种族被打破。
当被问及该模型的跨性别和不同种族的表现能力时，DeepMind的一位女发言人告诉我们：“在女性中，它预测在所有已知性别的AKI患者中，早期有44．8％（男性56％）患有AKI。”非裔美国患者的模型表现更高——早期检测到的AKIs中有60．4％是非洲裔美国人，而其他所有种族的总检出率为54．1％。”
“这项研究只是第一步，”她证实。“要使该模型适用于一般人群，还需要进行进一步的研究，在模型所依据的数据中使用更有代表性的一般人群样本。”
数据集代表退伍军人管理局的人口，我们承认这个样本不能代表美国人口。就像所有的深度学习模型一样，在更广泛地使用之前，它还需要来自其他来源的代表性数据。
“我们的下一步将是与（退伍军人管理局）密切合作，通过回顾性和前瞻性观察研究安全地验证该模型，然后有希望探索我们如何进行前瞻性干预研究，以了解预测如何在临床环境中影响护理结果。”
“要做这类工作，我们需要正确的数据，”她补充说。“退伍军人管理局在其所有医院和站点使用相同的电子病历系统（被广泛认为是最全面的电子病历之一），这意味着数据集也非常全面、干净、结构良好。”
因此，DeepMind的“突破性”研究论文明确强调的是人工智能输出与训练输入之间的反射关系。
在医疗保健的环境中，有指导意义的输出可能是生与死的区别，而不是技术才是王道；关键是对代表性数据集的访问——这才是真正的价值所在。
这表明，拥有纳税人资助的公共医疗系统的国家，有巨大的机会构建并释放其掌握的民众医疗数据所包含的价值，从而开发自己的公共医疗人工智能。
事实上，这是英国2017年产业战略评估的建议之一的生命科学部门。
领导这项研究的牛津大学的约翰·贝尔爵士在给《卫报》的评论中总结道：“大部分价值在于数据。我们能做的最糟糕的事就是免费送人。”
Streams app评估
DeepMind也一直在研究英国的医疗数据。
自2015年以来，减少临床医生识别患者发生AKI的时间一直是一个应用程序开发项目的重点，该项目与英国国民健康服务（NHS）的医生合作开发一款警报和临床任务管理应用程序。
这款名为Streams的应用程序利用NHS的算法检测AKI，已经在NHS的几家医院部署。同样在今天，DeepMind及其应用程序开发合作伙伴NHS trust发布了一份由伦敦大学学院（University College London）牵头的流媒体绩效评估报告。
该评估结果发表在《自然数字医学》和《医学互联网研究杂志》两篇论文中。
在其博客DeepMind索赔评估显示，应用“改善了病人的护理质量加快检测和防止遗漏病例”，进一步要求临床医生”能够应对紧急阿基病例14分钟或更少”，这表明使用现有系统“可能已经几个小时”。
该机构还声称，NHS的医疗费用将从11772英镑降至9761英镑，为AKI患者提供住院治疗。
尽管值得强调的是，根据目前与NHS信托公司签订的合同，DeepMind免费提供Streams服务。因此，任何降低成本的索赔都伴随着一些主要的警告。
简而言之：我们不知道数据驱动、数字化提供的医疗服务未来的成本——因为业务模型还没有定义。（尽管DeepMind此前曾提出，定价可以基于临床结果。）
DeepMind还在谈到Streams时写道：“根据评估结果，该应用程序改善了负责治疗AKI的临床医生的体验，为他们节省了原本要花在浏览纸张、寻呼机提醒和多个桌面系统上的时间。”
然而，讨论中包含评价论文包含更警告比DeepMind的公关，萎靡不振的一大串计数器考虑，如培训成本和信息过载的风险（和over－alerting）使它更加难以分类和管理保健需求，以及认为需要更多的研究来确定应用程序使用的更广泛的临床影响。
以下是其中一篇论文的结论，该论文的题目是《二次护理中数字化护理途径的用户体验的定性评估》：
数字技术使早期发现不良事件和有恶化危险的患者成为可能，并有可能改善结果。它们还可能提高卫生保健专业人员的工作效率。然而，在规划和实施卫生保健领域的数字信息创新时，还应考虑以下因素：提供临床培训以有效管理早期检测，提供资源以应付额外的工作量，支持管理感知到的信息过载，优化算法以尽量减少不必要的警报。
第二篇研究Streams对临床结果和相关医疗成本的影响的论文得出的结论是，“数字化的临床干预手段能够检测和治疗住院患者的AKI，从而降低了医疗成本，并可能降低了心脏骤停率”。
“它对其他临床结果的影响，以及对该通路活性成分的识别，需要通过跨多个位点的评估来澄清，”它补充说。
需要说明的是，目前用于管理AKI警报的Streams应用程序不包括人工智能作为预测工具。今天发布的评估报告是关于临床医生使用该应用程序作为任务管理和推送由NHS算法驱动的通知式警报的工具。
但Streams应用程序是DeepMind及其母公司谷歌希望用来将人工智能诊断和预测应用到医院病房的工具。
因此，DeepMind也与美国的数据集合作，试图为AKI开发一个预测人工智能模型。（在意识到需要获得英国监管机构的额外批准后，该公司放弃了早期尝试，即使用流患者数据训练人工智能。）
现在每个医生都有一部智能手机。因此，应用程序显然是转换在纸面寻呼机上运行时间超过谷歌存在时间的服务的阻力最小的途径。
DeepMind与伦敦皇家自由NHS信托（Royal Free NHS Trust）合作开发应用的更广泛意图，在早期就已表明——建立“强大的通用学习算法”，这一雄心在两家公司之间的谅解备忘录中得到了表达。
我们在2016年和2017年对这一丑闻进行了广泛报道，丑闻的背景是，大约160万皇家免费NHS信托（Royal Free NHS Trust）患者的医疗记录在Streams的开发阶段被悄悄转交给了DeepMind。后来证明，没有数据共享的有效法律基础。
谷歌并未要求患者同意将敏感的医疗数据与谷歌共享。监管机构得出的结论是，他们不会对自己的医疗数据最终落在那里有合理的预期。
信托公司受命审计该项目——尽管最初引发争议的最初数据共享安排并非如此。该公司没有被命令删除DeepMind对数据的访问权限。
在app评估阶段，NHS的数据通过流的患者也没有要求他们同意参与伦敦大学学院／DeepMind／Royal Free研究；评估文件中关于“道德认可”的一份说明指出，伦敦大学学院认为它属于服务评估（而非研究）的范畴，因此“不需要参与者同意”。
至少可以说，这是对流附加的基本同意失败的不幸回应。
尽管如此，Royal Free和DeepMind仍在继续推进他们的数据共享应用合作。事实上，DeepMind正在加速前进，努力超越NHS的AKI算法。
皇家自由伦敦的首席医疗官兼副首席执行官克里斯·斯特里瑟（Chris Streather）博士在DeepMind公关发表的一份声明中热情洋溢地表示：“Streams评估的结果令人鼓舞，我们很高兴与DeepMind Health的合作改善了患者的治疗效果。
“数字技术是NHS前进的方向。就像我们可以通过移动设备接收交通和天气警报一样，医生和护士也应该受益于能够直接将可能拯救生命的信息送到他们手中的工具。
“在未来的几个月里，我们将向Barnet医院的临床医生介绍这款应用，并探索开发其他危及生命的疾病（如败血症）的解决方案的可能性。”
对NHS数据的争夺
不过，谷歌－ deepmind流媒体计划的下一阶段可能会遇到更大的阻碍。
去年，DeepMind宣布将把这款应用程序转交给母公司，作为谷歌自身数字健康推广的一部分。因此，这与DeepMind自己的说法相矛盾。该公司曾表示，谷歌不会获得人们的医疗记录。
更像是：“在谷歌拥有所有数据和IP之前没有访问权限”，然后……
正如我们当时所说，这是一场信任危机。
从那以后，从DeepMind到谷歌的Streams应用程序似乎一直处于暂停状态。
去年，皇家自由信托表示，没有它的批准，这是不可能发生的。
当被问及是否会与谷歌签订新的流媒体合同时，一位发言人告诉我们：“目前，皇家自由伦敦与DeepMind的合同没有变化。与所有与供应商的合同协议一样，任何变更或未来的合同都将遵循信息治理和数据保护法规。信托公司将继续在任何时候担任数据控制器，这意味着它将负责所有病人的信息。”
该信托基金拒绝回答其他问题，包括是否打算在NHS医院部署一个包含预测人工智能模型的流版本；以及患者是否可以选择退出他们的数据与谷歌共享。
目前还不清楚它的计划是什么。尽管DeepMind和谷歌显然是要让Streams成为预测人工智能进入NHS病房的管道。它的博客积极推动向流媒体添加人工智能。
为了炒作前者，甚至不惜贬低后者。DeepMind Health的销售说辞正在从“你需要这个应用程序”演变为“你需要这个人工智能”……接着是“给我们你的数据”。
“至关重要的是，皇家自由的这些早期发现表明，为了进一步改善患者的预后，临床医生需要能够在当前的NHS算法检测到AKI之前进行干预——这就是为什么我们对AKI的研究如此有前景，”它写道。“这些结果构成了我们预防性医疗长期愿景的基石，帮助医生以积极而非被动的方式进行干预。
“目前Streams还没有使用人工智能，但该团队现在打算寻找将预测人工智能模型安全集成到Streams中的方法，以便为临床医生提供对患者病情恶化的智能洞察。”
在其博客DeepMind也重申的溪流将并入谷歌－写：“我们在2018年11月宣布，溪流团队，和同事在转化研究医疗工作，将加入谷歌为了在全球范围内产生积极的影响。”
“合并后的经验，基础设施和专业知识DeepMind卫生团队与谷歌将帮助我们继续开发移动工具，可以支持更多的临床医生，解决关键的患者安全问题，可能，我们希望，全球拯救成千上万的生命，”它补充说，结束其惯常的“希望”，其技术将拯救生命——但仍没有任何硬数据来证明所有的大声称，它使得AI－powered预测医疗的潜力。
正如我们之前说过的，它的预测人工智能提供任何有价值的谷歌真的需要访问NHS持有的数据。因此，公共关系受到了大力推动。对NHS数据的认同压倒一切。
在回应DeepMind的消息时，健康数据隐私保护组织medConfidential的协调员萨姆？史密斯（Sam Smith）告诉我们：“机会主义者利用医生利用病人来增进自身利益的历史，只要是肮脏的就行。有些传奇故事流传多年。谷歌利用他们在国际上的影响力，利用美国军方的数据，他们说他们将在英国做什么他们误导了英国监管机构，违反了英国法律。”
该组织在一篇博客中补充道：“最近几周，谷歌和YouTube、Facebook和Instagram等科技公司承受着越来越大的压力，要求它们接受对用户负有照顾义务。谷歌DeepMind能否说明，它与Royal Free的合作项目如何尊重每一个NHS机构对患者的信任义务？他们所使用的退伍军人事务部患者数据与RFH所见患者的特征如何对应？
“谷歌DeepMind接受了160万名患者的RFH数据——长达10年的医院治疗。我们希望它的新闻稿能确认这160万人中有多少人的数据在应用程序中显示，以及他们是否与美国军方的数据一起被用于测试。”
