最新新闻
使用此捆绑包学习一门新语言并保护您的数据 借助神经科学的力量提高您的工作效率 苹果可能不得不打破其2021年的一些最大承诺 将您的Mac变成媒体强国 如何掌握iPhone13Pro上的微距相机 三星显示器通过 Sync-OLED 平台在 OLED 研究上加倍努力 三星Galaxy S21 Ultra 在 Galaxy S22 Ultra 发布之前就停产了 三星电子英国加入沃达丰的 business.connected 计划 Galaxy S22 将在三星的 Decentraland 虚拟世界中推出 Galaxy S22 发布后加入三星的元宇宙寻宝游戏 斯巴鲁惨淡的财务报告及其对新车购买者的意义 消费者报告分析师推荐立即购买低于建议零售价的新车 这就是 Lucid Airs 内饰的特别之处 科尼赛克的夸克电动机重 63 磅 功率为 335 马力 经典雪佛兰发动机交换注意事项 BANSBAO斑消宝强势宣告品牌实力,霸屏纽约纳斯达克 为家庭而生的电视 创维守护者Q41 Pro革新智慧守护家庭新体验 Omega Plus奥鲑冠,爱宠的海洋营养专家,宠主的好帮手 【亚洲电缆】电缆进水的处理办法及预防措施 跨境电商卖家选择积加ERP,究竟能为自己带来哪些好处? 狗狗驱虫用什么牌子的好?驱虫要选爱沃克 Google 确认 Material You 动态主题将出现在更多设备上 适用于 Android 的 Apple Music 测试版参考了未发布的 Apple Classical 应用程序 如何为 Google Pixel 和其他 Android 设备下载 Android 13 Reddit 揭示了其 Clubhouse 克隆 Reddit Talk 的新功能 Windows 11 build 22000.526 为 Beta 的任务栏带来天气 微软将为心怀不满的 G Suite 旧用户提供 Microsoft 365 优惠 谷歌+最终将在 2023 年随着Currents的关闭而永远消失 三星 Galaxy S22 系列是否支持无线充电 谷歌确认三星 一加等公司将在 Android 12 上使用其动态颜色主题
您的位置:首页 >热点动态 >

巴比伦健康批评提出AI聊天机器人安全问题的医生

2021-11-06 16:03:57   来源:
导读 备受争议的医疗应用制造商巴比伦健康批评了这位医生,他首先对其人工智能聊天机器人的安全性提出了担忧。巴比伦健康公司的聊天机器人可用于

备受争议的医疗应用制造商巴比伦健康批评了这位医生,他首先对其人工智能聊天机器人的安全性提出了担忧。

巴比伦健康公司的聊天机器人可用于该公司的GP at Hand应用,这是卫生部长马特汉考克倡导的数字医疗解决方案,自去年以来也已集成到三星健康中。

巴比伦健康批评了提出了AI聊天机器人安全问题的医生

聊天机器人的目的是通过自动分诊流程,确定家中是否有人可以接受治疗。你应该在网上或者亲自预约GP或者直接去医院,这样可以减轻GP和AE部门的负担。

2018年,推特用户第一次以墨菲博士的笔名联系我们,声称巴比伦的健康聊天机器人正在提供不安全的建议。墨菲博士最近被宣布为大卫沃特金斯博士,他的发现公开发表在英国皇家医学协会的“2020年AI和数字健康的最新发展”活动上,还出现在BBC新闻之夜的报道中。

巴比伦健康批评了提出了AI聊天机器人安全问题的医生

墨菲博士展示了他的面具。现在是他的立场声明。他的驱动力——病人的安全。不能和那个争论!@ Drmurphy 11 # rsmdigiHealth @ RoySocMed pic.twitter.com/hOC7kzlNz3

——克莱夫弗莱舍曼(@ c弗莱舍曼)2020年2月24日

在过去的几年里,沃特金斯博士提供了许多聊天机器人提供的危险建议的例子。在一个例子中,一个肥胖的48岁老烟枪被建议有胸痛,他建议“在接下来的几个小时内”咨询。任何有常识的人都会告诉你立即拨打紧急号码。

[email protected]# GPA比# AI #聊天机器人应用?

48岁肥胖男性/每天吸烟30天,男性突然出现中枢性胸痛并出汗。

我说打999,巴比伦应用说我看到了你的全科医生.pic.twitter.com/VcOqs9JOhP.

-墨菲博士(又名大卫沃特金斯)(@ DrMurphy11),2018年3月22日

这个特殊的问题已经得到了纠正,但沃特金斯博士多年来强调了许多其他例子,这些例子清楚地表明存在严重的安全问题。

在周一的新闻稿(PDF)中,巴比伦健康中心称沃特金斯博士是“巨魔”,他“针对我们的员工、合作伙伴、客户、监管机构和记者成员,并在推特上发布关于我们的诽谤性内容”。

根据新闻稿,沃特金斯博士对聊天机器人进行了2400次测试,以抹黑这项服务,同时改进了“他认为涉及的测试结果不到100个”。

根据巴比伦自己的“高级临床医生小组”,巴比伦健康声称只有20例沃特金斯医生发现了真正的错误,而其他的都是“错报”或“错误”。

在接受TechCrunch采访时,沃特金斯博士表示,巴比伦的说法“完全是胡说八道”,并质疑这家初创公司从哪里获得数据,因为“肯定没有2400份完整的分流评估”。

沃特金斯博士估计,他已经进行了800到900次综合分类,其中一些是重复测试,看看巴比伦卫生局是否解决了他之前强调的问题。

医生承认巴比伦健康的聊天机器人有所改进,出现问题的概率约为三分之一。2018年,沃特金斯博士第一次联系我们和其他机构时,他说比例是“一比一”。

巴比伦健康批评了提出了AI聊天机器人安全问题的医生

虽然这是一个账户,但另一个证据表明,巴比伦健康的聊天机器人一再提出危险的建议。沃特金斯博士花了很多时间向巴比伦卫生局强调这些问题,以提高患者的安全性。

巴比伦医疗保健公司不仅不欢迎他与沃特金斯博士合作提高服务质量,而且

是决定继续发动进攻,“试图抹黑引起患者安全担忧的人”。

巴比伦在新闻稿中指责沃特金斯发布了“超过6,000次”误导性攻击,但没有提供具体位置。沃特金斯博士主要使用Twitter发布他的发现。截至撰写本文时,他的帐户共发布了3925次推文,而不仅仅是关于巴比伦的服务。

这并不是巴比伦卫生组织的数据第一次受到质疑。早在2018年6月,Babylon Health举行了一项活动,在MRCGP考试中吹嘘其AI击败见习GP来测试他们诊断医疗问题的能力。平均及格率为72%。“巴比伦健康是怎么做的?” 巴比伦卫生局局长Mobasher Butt博士在活动中说。“它占了82%。”

考虑到聊天机器人已经给出了一些微不足道的危险建议,尤其是在当时,很难想象它击败学员GP的说法是正确的。有趣的是,此后该活动的视频已从Babylon Health的YouTube帐户中删除,并且该公司从其网站的“新闻中的巴比伦”部分中删除了所有涉及该新闻的链接。

当被问到为什么删除内容时,巴比伦健康在一份声明中说:“作为一家快节奏,充满活力的健康科技公司,巴比伦正在不断用有关我们产品和服务的新信息刷新网站。因此,通常会删除较旧的内容,以便为新内容让路。”

像巴比伦健康公司(Babylon Health)提供的AI解决方案将有助于减少对医疗服务的需求,并确保人们随时随地获得正确的信息和护理。但是,患者安全必须首先考虑。

由于存在潜在的致命或改变生命的后果的风险,医疗保健中的错误很少被原谅。科技界通常的“快速行动并打破事物”的思想在这里不能适用。

人们普遍认为,新技术很少会出现问题,但是人们希望看到正在尽最大的努力来限制和解决这些问题。巴比伦卫生保健公司不欢迎那些指出严重问题之前指出其服务问题的人,而宁愿将其错误归咎于其他所有人。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。