儘管人工智慧（AI）一項新的研究表明，雖然 X 射線是一種革命性的醫學工具，但當它突出顯示 X 射線的特定部分時，放射科醫生可能會過度依賴它的建議。
美國研究人員團隊在全國多個地點招募了 220 名醫生，負責審查胸部 X 光檢查以及人工智慧產生的建議。
參與者包括放射科醫生和內科或急診科醫生，他們的任務是在人工智慧助理的幫助下讀取 X 光。醫生可以接受、修改或拒絕人工智慧的建議。
該研究發表在期刊上放射科，探討了人工智慧建議的類型（本地或全球）及其準確性如何影響診斷。
局部解釋是人工智慧在 X 射線中突出顯示感興趣的特定區域，而全局解釋是人工智慧提供過去類似病例的圖像來顯示它是如何提出建議的。
研究的合著者之一、聖裘德兒童研究醫院智慧影像資訊學主任Paul H Yi 博士告訴歐洲新聞健康頻道：「我們發現，當人工智慧的建議正確時，本地解釋可以提高診斷準確性並減少解釋時間。
當人工智慧提供準確建議時，本地解釋使審查者的診斷準確率達到 92.8%，全局解釋的準確率達到 85.3%。
然而，當人工智慧的診斷不正確時，局部解釋的診斷準確率會下降至 23.6%，而醫生的全局解釋的診斷準確率會下降至 26.1%。
「這些發現強調了仔細設計人工智慧工具的重要性。深思熟慮的解釋設計不僅僅是一個附加項；它是確保人工智慧增強臨床實踐而不是引入意外風險的關鍵因素，」易說。
「人工智慧解釋的類型」會影響信任
一個意想不到的發現是，即使人工智慧不正確，醫生（無論是放射科醫生還是非放射科醫生）很快就會相信當地的解釋。
「這揭示了一個微妙但關鍵的見解：人工智慧解釋的類型可以以用戶甚至可能沒有意識到的方式塑造信任和決策，」他補充道。
他對減輕「自動化偏見」（人類過度依賴自動化的傾向）的風險提出了幾項建議。
他說，醫生透過多年的培訓和重複來學習遵循模式或清單。
「我們的想法是，它創建了一個例程。它最大限度地減少了可能導致意外錯誤發生的變化，」他說。
然而，引入人工智慧工具會增加一個新因素，並可能破壞這一常規。
「我們必須堅持我們的清單，並確保我們遵守它們。但我設想，未來我們的清單實際上將會改變，以納入人工智慧，」易說，他補充說，人機互動也應該考慮以下因素來研究如壓力或疲勞。
