巴比伦健康批评提出AI聊天机器人安全问题的医生

备受争议的医疗应用制造商巴比伦健康批评了这位医生，他首先对其人工智能聊天机器人的安全性提出了担忧。

巴比伦健康公司的聊天机器人可用于该公司的GP at Hand应用，这是卫生部长马特汉考克倡导的数字医疗解决方案，自去年以来也已集成到三星健康中。

聊天机器人的目的是通过自动分诊流程，确定家中是否有人可以接受治疗。你应该在网上或者亲自预约GP或者直接去医院，这样可以减轻GP和AE部门的负担。

2018年，推特用户第一次以墨菲博士的笔名联系我们，声称巴比伦的健康聊天机器人正在提供不安全的建议。墨菲博士最近被宣布为大卫沃特金斯博士，他的发现公开发表在英国皇家医学协会的“2020年AI和数字健康的最新发展”活动上，还出现在BBC新闻之夜的报道中。

墨菲博士展示了他的面具。现在是他的立场声明。他的驱动力——病人的安全。不能和那个争论！@ Drmurphy 11 # rsmdigiHealth @ RoySocMed pic.twitter.com/hOC7kzlNz3

——克莱夫弗莱舍曼(@ c弗莱舍曼)2020年2月24日

在过去的几年里，沃特金斯博士提供了许多聊天机器人提供的危险建议的例子。在一个例子中，一个肥胖的48岁老烟枪被建议有胸痛，他建议“在接下来的几个小时内”咨询。任何有常识的人都会告诉你立即拨打紧急号码。

[email protected]# GPA比# AI #聊天机器人应用？

48岁肥胖男性/每天吸烟30天，男性突然出现中枢性胸痛并出汗。

我说打999，巴比伦应用说我看到了你的全科医生.pic.twitter.com/VcOqs9JOhP.

-墨菲博士(又名大卫沃特金斯)(@ DrMurphy11)，2018年3月22日

这个特殊的问题已经得到了纠正，但沃特金斯博士多年来强调了许多其他例子，这些例子清楚地表明存在严重的安全问题。

在周一的新闻稿(PDF)中，巴比伦健康中心称沃特金斯博士是“巨魔”，他“针对我们的员工、合作伙伴、客户、监管机构和记者成员，并在推特上发布关于我们的诽谤性内容”。

根据新闻稿，沃特金斯博士对聊天机器人进行了2400次测试，以抹黑这项服务，同时改进了“他认为涉及的测试结果不到100个”。

根据巴比伦自己的“高级临床医生小组”，巴比伦健康声称只有20例沃特金斯医生发现了真正的错误，而其他的都是“错报”或“错误”。

在接受TechCrunch采访时，沃特金斯博士表示，巴比伦的说法“完全是胡说八道”，并质疑这家初创公司从哪里获得数据，因为“肯定没有2400份完整的分流评估”。

沃特金斯博士估计，他已经进行了800到900次综合分类，其中一些是重复测试，看看巴比伦卫生局是否解决了他之前强调的问题。

医生承认巴比伦健康的聊天机器人有所改进，出现问题的概率约为三分之一。2018年，沃特金斯博士第一次联系我们和其他机构时，他说比例是“一比一”。

虽然这是一个账户，但另一个证据表明，巴比伦健康的聊天机器人一再提出危险的建议。沃特金斯博士花了很多时间向巴比伦卫生局强调这些问题，以提高患者的安全性。

巴比伦医疗保健公司不仅不欢迎他与沃特金斯博士合作提高服务质量，而且

巴比伦在新闻稿中指责沃特金斯发布了“超过6,000次”误导性攻击，但没有提供具体位置。沃特金斯博士主要使用Twitter发布他的发现。截至撰写本文时，他的帐户共发布了3925次推文，而不仅仅是关于巴比伦的服务。

这并不是巴比伦卫生组织的数据第一次受到质疑。早在2018年6月，Babylon Health举行了一项活动，在MRCGP考试中吹嘘其AI击败见习GP来测试他们诊断医疗问题的能力。平均及格率为72%。“巴比伦健康是怎么做的?” 巴比伦卫生局局长Mobasher Butt博士在活动中说。“它占了82%。”

考虑到聊天机器人已经给出了一些微不足道的危险建议，尤其是在当时，很难想象它击败学员GP的说法是正确的。有趣的是，此后该活动的视频已从Babylon Health的YouTube帐户中删除，并且该公司从其网站的“新闻中的巴比伦”部分中删除了所有涉及该新闻的链接。

当被问到为什么删除内容时，巴比伦健康在一份声明中说：“作为一家快节奏，充满活力的健康科技公司，巴比伦正在不断用有关我们产品和服务的新信息刷新网站。因此，通常会删除较旧的内容，以便为新内容让路。”

像巴比伦健康公司(Babylon Health)提供的AI解决方案将有助于减少对医疗服务的需求，并确保人们随时随地获得正确的信息和护理。但是，患者安全必须首先考虑。

由于存在潜在的致命或改变生命的后果的风险，医疗保健中的错误很少被原谅。科技界通常的“快速行动并打破事物”的思想在这里不能适用。

人们普遍认为，新技术很少会出现问题，但是人们希望看到正在尽最大的努力来限制和解决这些问题。巴比伦卫生保健公司不欢迎那些指出严重问题之前指出其服务问题的人，而宁愿将其错误归咎于其他所有人。