備受爭議的醫療應用制造商巴比倫健康公司(Babylon Health)批評了這位醫生，該醫生首先對其AI聊天機器人的安全性提出了擔憂(yōu)。
巴比倫健康公司的聊天機器人可在公司的GP at Hand應用程序中使用，這是由衛生部長(cháng)Matt Hancock倡導的數字醫療解決方案，該解決方案自去年以來(lái)也已集成到Samsung Health中。
聊天機器人的目的是通過(guò)自動(dòng)進(jìn)行分診過(guò)程來(lái)確定某人是否可以在家中進(jìn)行治療，應在線(xiàn)預約或親自預約GP或直接去醫院，從而減輕GP和A&E部門(mén)的負擔。
Twitter用戶(hù)以Murphy博士的化名在2018年首次與我們聯(lián)系，聲稱(chēng)巴比倫健康的聊天機器人正在提供不安全的建議。Murphy博士最近以David Watkins博士的身份揭曉，并在英國皇家醫學(xué)會(huì )的“ 2020年AI和數字健康的最新發(fā)展”活動(dòng)中公開(kāi)發(fā)表了他的發(fā)現，此外還出現在BBC新聞之夜的報道中。
墨菲醫生露出了面具?，F在是他的立場(chǎng)聲明。他的驅動(dòng)力–患者安全。不能與那爭論!@ DrMurphy11 #RSMDigiHealth @RoySocMed pic.twitter.com/hOC7kzlNz3
-clive flashman(@cflashman)2020年2月24日
在過(guò)去的幾年中，Watkins博士提供了許多聊天機器人提供危險建議的示例。在一個(gè)示例中，建議一名肥胖的48歲重度吸煙者患者出現胸痛，他建議“在接下來(lái)的幾個(gè)小時(shí)內”進(jìn)行咨詢(xún)。任何有常識的人都會(huì )告訴您立即撥打緊急電話(huà)。
這又是一個(gè)疏忽#Triage從@babylonhealth #GPatHand #AI #Chatbot應用程序?
48歲的肥胖男性/每天吸煙30天，男性突然出現中樞性胸痛和出汗…。
我說(shuō)打999，巴比倫應用程序說(shuō)看到您的GP… pic.twitter.com/VcOqs9JOhP
-Murphy博士(又名David Watkins)(@ DrMurphy11)，2018年3月22日
此特定問(wèn)題已得到糾正，但是Watkins博士多年來(lái)強調了許多其他示例，這些示例非常清楚地表明存在嚴重的安全問(wèn)題。
在周一的新聞稿(PDF)中，巴比倫健康中心將沃特金斯博士稱(chēng)為“巨魔”，他“瞄準了我們員工，合作伙伴，客戶(hù)，監管者和新聞工作者的成員，并在推特上發(fā)布了關(guān)于我們的誹謗性?xún)热?rdquo;。
根據該新聞稿，沃特金斯博士對聊天機器人進(jìn)行了2400次測試，以抹黑該服務(wù)，同時(shí)提高“他認為涉及的測試結果少于100個(gè)”。
據巴比倫自己的“高級臨床醫師小組”稱(chēng)，巴比倫健康聲稱(chēng)，只有20例沃特金斯醫生發(fā)現了真正的錯誤，而其他人則是“錯誤陳述”或“錯誤”。
沃特金斯博士在接受TechCrunch采訪(fǎng)時(shí)稱(chēng)，巴比倫的說(shuō)法“完全是胡說(shuō)八道”，并質(zhì)疑該創(chuàng )業(yè)公司從何處獲得其數據，因為“肯定沒(méi)有2,400項完成的分流評估”。
沃特金斯博士估計他已經(jīng)進(jìn)行了800到900次全面分類(lèi)，其中一些是重復測試，以查看巴比倫衛生局是否已解決他先前強調的問(wèn)題。
醫生承認，Babylon Health的聊天機器人已得到改善，并且出現問(wèn)題的幾率約為三分之一。在2018年，沃特金斯博士首次與我們和其他機構聯(lián)系時(shí)，他說(shuō)這個(gè)比率是“一對一”的。
盡管這是一個(gè)帳戶(hù)，但另一個(gè)證據卻表明，Babylon Health的聊天機器人已多次發(fā)出危險建議。Watkins博士花了許多時(shí)間向巴比倫健康局強調這些問(wèn)題，以提高患者的安全性。
巴比倫衛生保健公司不但不歡迎他與沃特金斯醫生共同努力改善服務(wù)質(zhì)量，而是決定繼續發(fā)動(dòng)進(jìn)攻，“試圖抹黑引起患者安全擔憂(yōu)的人”。
巴比倫在新聞稿中指責沃特金斯發(fā)布了“超過(guò)6,000次”誤導性攻擊，但沒(méi)有提供具體位置。沃特金斯博士主要使用Twitter發(fā)布他的發(fā)現。截至撰寫(xiě)本文時(shí)，他的帳戶(hù)共發(fā)布了3925次推文，而不僅僅是關(guān)于巴比倫的服務(wù)。
這并不是巴比倫衛生組織的數據第一次受到質(zhì)疑。早在2018年6月，Babylon Health舉行了一項活動(dòng)，在MRCGP考試中吹噓其AI擊敗見(jiàn)習GP來(lái)測試他們診斷醫療問(wèn)題的能力。平均及格率為72%。“巴比倫健康是怎么做的?” 巴比倫衛生局局長(cháng)Mobasher Butt博士在活動(dòng)中說(shuō)。“它占了82%。”
考慮到聊天機器人已經(jīng)給出了一些微不足道的危險建議，尤其是在當時(shí)，很難想象它擊敗學(xué)員GP的說(shuō)法是正確的。有趣的是，此后該活動(dòng)的視頻已從Babylon Health的YouTube帳戶(hù)中刪除，并且該公司從其網(wǎng)站的“新聞中的巴比倫”部分中刪除了所有涉及該新聞的鏈接。
當被問(wèn)到為什么刪除內容時(shí)，巴比倫健康在一份聲明中說(shuō)：“作為一家快節奏，充滿(mǎn)活力的健康科技公司，巴比倫正在不斷用有關(guān)我們產(chǎn)品和服務(wù)的新信息刷新網(wǎng)站。因此，通常會(huì )刪除較舊的內容，以便為新內容讓路。”
像巴比倫健康公司(Babylon Health)提供的AI解決方案將有助于減少對醫療服務(wù)的需求，并確保人們隨時(shí)隨地獲得正確的信息和護理。但是，患者安全必須首先考慮。
由于存在潛在的致命或改變生命的后果的風(fēng)險，醫療保健中的錯誤很少被原諒?？萍冀缤ǔ５?ldquo;快速行動(dòng)并打破事物”的思想在這里不能適用。
人們普遍認為，新技術(shù)很少會(huì )出現問(wèn)題，但是人們希望看到正在盡最大的努力來(lái)限制和解決這些問(wèn)題。巴比倫衛生保健公司不歡迎那些指出嚴重問(wèn)題之前指出其服務(wù)問(wèn)題的人，而寧愿將其錯誤歸咎于其他所有人。