讓患者完全信任AI,到底難在哪兒?

我們最近的研究表明,即使醫學人工智能的表現優於人類醫生,患者也不願意使用它提供的醫療保健。這是為何?因為患者認為他們的醫療需求是獨一無二的,不能通過算法得到充分解決。為了實現醫學人工智能允諾的諸多好處和成本節約,醫療提供機構必須找到克服這些疑慮的辦法。

醫學人工智能的表現可以達到專家級精準程度,並大規模地提供具有成本效益的醫療服務。IBM的Watson診斷心臟病的能力比心臟病專家更強。Chatbot替代護士向英國的國民醫療保健服務體系提供醫療建議。智能手機應用程序現在能夠以專家級的精確度檢測皮膚癌。

算法完全可以像專科醫生一樣識別眼疾。有人預言,醫學人工智能將普及到90%的醫院,並取代醫生目前80%的工作。但是要讓這一切成真,醫療保健體系必須克服患者對人工智能的不信任。

我們在與紐約大學的同事安德烈亞·博內齊(AndreaBonezzi)共同開展的一系列實驗中探究了患者對醫學人工智能的接受度。即將發表於《消費者研究雜誌》(Journalof Consumer Research)一篇論文中的研究結果表明,從皮膚癌篩查到心臟起搏器植入手術,人們在各種醫療程序中都強烈地表現得勉為其難。

我們發現,當醫療服務由人工智能而非人類醫療服務提供者提供時,患者利用該服務的可能性較低,並且希望為之支付更少的費用。他們也更喜歡讓人類醫療提供者來執行服務,哪怕這意味著出現誤診或手術併發症的風險更大。

我們發現,原因不在於患者認為人工智能提供的醫療服務更差,也不在於患者認為人工智能花錢更多、不太方便或信息量更少。相反,對醫學人工智能的牴觸似乎源自這樣一種看法:人工智能不會考慮個人特質和特殊情況。人們都認為自己與眾不同,這種想法也包括他們的健康。

別人患了感冒,然而,“我的”感冒是以獨特方式困擾著“我”的特有疾病。相比之下,人們認為人工智能提供的醫療服務是刻板的、標準化的——適合治療普通病人,但卻不足以對適用於個人的獨特情況負責。

來看看我們開展的一項研究的結果。我們為波士頓大學和紐約大學的200多名商學院學生提供了接受免費評估的機會,該評估會對他們的壓力水平進行診斷,並向他們推薦一套幫助應對壓力的行動方案。

結果是:當他們被告知將由一名醫生給他們診斷時,40%的人報了名,可是當執行診斷的將是一台電腦時,只有26%的人報了名。(在這兩種實驗條件下,參與者都被告知,此項服務是免費的,而且服務提供者在過往的病例中,正確診斷和建議的比例為82%-85%。)

在另一項研究中,我們對一個在線樣本庫中的700名美國人進行了調查,以測試在人工智能的表現明顯優於人類醫療提供者時,患者是否會選擇人工智能醫療提供者。

我們要求研究參與者回顧一下兩個醫療保健提供者(稱為提供者X和提供者Y)在診斷皮膚癌的準確度、醫療急診分診決定的準確度,或者這些提供者過去實施過的心臟起搏器植入手術的併發症率方面的信息。

然後,我們要求參與者按照端點為1(更喜歡提供者X)、4(沒有偏好)、7(更喜歡提供者Y)的7份量表等級來表示他們在兩個提供者之間的偏好。當參與者在表現有異的兩位人類醫生之間進行選擇時,所有參與者首選的是表現更佳的那位人類醫生。

可是當他們在一名人類醫生和一個人工智能提供者(比如,算法、聊天機器人或者通過電腦程序遠程控制的機械臂)之間選擇時,參與者對表現更好的人工智能提供者的偏好明顯較弱。換句話說,參與者願意放棄更好的醫療保健,讓人類而非人工智能提供醫療服務。

對醫療人工智能的牴觸也表現在願意為相同的診斷程序支付費用。我們給一個在線樣本庫中的103名美國人提供了50美元的參考價,讓他們參與一項可以由人工智能或人類提供者進行診斷的壓力測試;兩者的準確率均為89%。

比如,在默認人工智能的情況下,參與者被告知人工智能的診斷費用為50美元。然後,他們要說出他們願意付多少錢來換成人類提供者的診斷。當默認提供者是人工智能時,參與者願意支付更多的費用換成人類提供者,而當默認提供者是人類時,參與者為更換成人工智能提供者而願意支付的費用並沒有那麼多。

由於強調的是他們情況特殊這種看法的重要性,參與者越認為自己獨一無二、與眾不同,他們對人工智能提供者的牴觸就越明顯。我們要求一個在線樣本庫裡的243名美國人指出他們在兩個皮膚癌篩查提供者之間的偏好。兩個提供者的診斷準確率均為90%。

參與者認為自己與眾不同的程度預示了他們對人類的偏愛超過了(同樣準確的)人工智能提供者;這對他們在兩個人類提供者之間的偏好選擇沒有影響。

醫療服務提供者可以採取許多措施來克服患者對醫療人工智能的牴觸。比如,提供者可以通過採取行動來增加人工智能提供的醫療服務的可感知個性化程度,從而緩解患者對於被當作普通病人或統計數據的擔憂。

當我們明確地將某個人工智能提供者描述為有能力根據每位患者的獨特特徵和病史來調整其是否要進行冠狀動脈搭橋手術的建議時,研究參與者報告說,他們遵循人工智能提供者建議的可能性與他們遵循人類醫生治療建議的可能性相同。

為此,對於純粹基於人工智能的醫療保健服務(比如,聊天機器人診斷、基於算法的預測建模、基於應用程序的治療、可穿戴設備的反饋),提供者可以強調收集到的有關患者的信息,以生成他們獨特的個人資料,包括他們的生活方式、家族史、基因和染色體資料以及他們環境的有關細節。

這樣,患者可能會覺得人工智能提供者會將人類提供者(比如,能夠訪問他們病史的全科醫生)要考慮的那些信息考慮進去。這些信息可以用來更好地向患者解釋對他們的醫療服務如何會根據他們的獨特情況而進行量身定製。

完全基於人工智能的服務業可以包括表明個性化的提示——比如“基於你獨特的個人資料”。此外,醫療機構可以做出特別努力來傳播消息,即人工智能提供者真的可以提供個人的和個性化的醫療保健服務——比如,通過與媒體分享證據的方式,解釋算法如何工作,分享患者對服務的評論。

讓醫生證實人工智能提供者的建議應該可以使人更容易接受基於人工智能的醫療服務。我們發現,如果一名醫生仍然負責最終的判斷,人們會很樂意使用醫療人工智能。在我們的論文裡討論的一項研究中,參與者報告說,他們很可能會使用這樣一個程序:算法對他們身體的皮膚癌掃瞄結果進行分析,並向最終做判斷的醫生提供建議,就像他們願意接受自始至終都由醫生提供的醫療服務一樣。

基於人工智能的醫療保健技術正以令人驚嘆的速度開發和部署。人工智能輔助的手術可以在手術期間指引外科醫生的器械,並利用過去手術的數據來為新的手術技術提供信息。基於人工智能的遠程醫療可以向獲取醫療保健服務不便的偏遠地區提供基本的醫療支持。

虛擬的助理護士可以全天候與患者互動,提供二十四小時監控並解答問題。可是要充分利用這些以及其他面向消費者的醫療人工智能服務的潛力,我們首先需要克服患者對使用算法而非一個人來決定他們醫療服務的疑慮。

本文經授權發布,不代表36氪立場。

如若轉載請註明出處。來源出處:36氪