巴比伦健康对AI聊天机器人的安全问题提出了强烈要求

有争议的医疗应用程序制造商巴比伦健康公司(Babylon Health)批评了这位医生，该医生首先对其AI聊天机器人的安全性提出了担忧。

巴比伦健康公司的聊天机器人可在公司的GP at Hand应用程序中使用，这是由卫生部长Matt Hancock倡导的数字医疗解决方案，该解决方案自去年以来也已集成到Samsung Health中。

聊天机器人的目的是通过自动进行分诊过程来确定某人是否可以在家中进行治疗，应在线预约或亲自预约GP或直接去医院，从而减轻GP和A&E部门的负担。

Twitter用户以Murphy博士的化名在2018年首次与我们联系，声称巴比伦健康的聊天机器人正在提供不安全的建议。Murphy博士最近以David Watkins博士的身份揭晓，并在英国皇家医学会的“ 2020年AI和数字健康的最新发展”活动中公开发表了他的发现，此外还出现在BBC新闻之夜的报道中。

在过去的几年中，Watkins博士提供了许多聊天机器人提供危险建议的示例。在一个示例中，建议一名肥胖的48岁重度吸烟者患者出现胸痛，他建议“在接下来的几个小时内”进行咨询。任何有常识的人都会告诉您立即拨打紧急电话。

此特定问题已得到纠正，但是Watkins博士多年来强调了许多其他示例，这些示例非常清楚地表明存在严重的安全问题。

在周一的一份新闻稿(PDF)中，巴比伦健康中心将沃特金斯博士称为“巨魔”，他“瞄准了我们员工，合作伙伴，客户，监管者和新闻记者的成员，并发布了关于我们的诽谤性内容”。

根据该新闻稿，沃特金斯博士对聊天机器人进行了2400次测试，以抹黑该服务，同时提高“他认为涉及的测试结果少于100个”。

据巴比伦自己的“高级临床医师小组”称，巴比伦健康声称，只有20例沃特金斯医生发现了真正的错误，而其他人则是“错误陈述”或“错误”。

沃特金斯博士在接受TechCrunch采访时称，巴比伦的说法“完全是胡说八道”，并质疑该创业公司从何处获得其数据，因为“肯定没有2,400项完成的分类评估”。

沃特金斯博士估计他已经进行了800到900次全面分类，其中一些是重复测试，以查看巴比伦卫生局是否已解决他先前强调的问题。

医生承认，Babylon Health的聊天机器人已得到改善，并且出现问题的几率约为三分之一。在2018年，沃特金斯博士首次与我们和其他机构联系时，他说这个比率是“一对一”的。