你會相信由人工智能生成的醫療建議嗎？這是我最近一直在思考的問題，因為有越來越多的媒體和新聞宣稱人工智能技術可以診斷一系列疾玻這通常意味著，它們比受過專業醫學培訓的醫務人員更好、更快、更便宜。
這些技術中有許多都有眾所周知的問題。比如，它們接受的訓練是有限或有偏見的數據，它們對女性和有色人種的效果往往不如對白人男性。不僅如此，這些系統訓練使用的一些數據也是完全錯誤的。
還有另一個問題。隨著這些技術開始滲入醫療保健機構，研究人員認為，我們看到了所謂的“人工智能家長主義”的興起。自這個職業誕生以來，醫學上的家長主義就一直飽受爭議。但現在，醫生可能傾向于相信人工智能，而犧牲或忽視了患者自己的生活經驗和他們自己的臨床判斷。
（來源：Pixabay）
人工智能已經被用于醫療保健領域。一些醫院使用這項技術來幫助對病人進行分診，還有些醫院和醫生用它來幫助診斷，或制定治療計劃。但英國牛津大學的技術與監管學教授桑德拉瓦赫特（Sandra Wachter）說，人工智能被采用的實際程度尚不清楚。
“有時我們并不知道現在使用的是哪種系統，”瓦赫特說。但她說，我們確實知道，隨著技術的進步和醫療保健系統在尋找降低成本的方法，它們的普及程度可能會增加。
研究表明，醫生們可能已經對這些技術充滿了信心。在幾年前發表的一項研究中，腫瘤學家被要求將他們的皮膚癌診斷與人工智能系統的診斷進行比較。他們中的許多人接受了人工智能給出的結果，即使這些結果與他們自己的臨床觀點相矛盾。我們有一個非�，F實的風險，即我們將更加依賴這些技術，由此體現出家長主義。
加拿大安大略省病童醫院的梅麗莎麥克拉登（Melissa McCradden）和羅克珊基爾希（Roxanne Kirsch）在最近的一篇論文中寫道：“家長主義集中體現在‘醫生最權威’的話語權中。”這個想法是，醫學培訓使醫生成為為病人做出決定的最佳人選，而不管那個人的感受、信仰、文化和其他任何可能影響我們所做選擇的因素。
麥克拉登和基施還指出，“當人工智能被定位為最高形式的證據，家長主義的主角將由無所不知的醫生變成無所不知的人工智能，因此會有一種‘算法家長主義’的增加趨勢”。這個現象將帶來許多問題。
首先，如上所述，人工智能并不是絕對正確的。這些技術都是根據帶有缺陷的歷史數據集進行訓練的。沃赫特說：“你沒有把一個算法送到醫學院，然后在那教它如何了解人體和疾玻”
因此，麥克拉登和基爾希寫道，“人工智能無法理解，只能預測。”例如，人工智能可以接受訓練，以了解過去皮膚細胞活檢中哪些規律與癌癥診斷有關。
但是，那些過去做出這些診斷并收集了這些數據的醫生，更有可能遺漏了有色人種的病例。識別過去的規律，并不一定能告訴醫生他們需要知道的、所有關于病人應該如何繼續治療的一切。今天，醫生和病人應該在治療決策過程中合作。人工智能的引入和更多使用，不應減少患者的自主權。
那么，我們如何才能防止這種情況的發生呢？一個潛在的解決方案是，設計在更優秀的數據集上訓練的新技術。例如，一種算法可以根據關于不同社區的信仰、多樣化的生物數據進行訓練。但在我們能夠做到這一點之前，我們需要真正走出去收集這些數據這是一項耗時、耗力、耗錢的行動，可能不會吸引那些希望使用人工智能來削減成本的人。
這些人工智能系統的設計者應該仔細考慮將被他們評估的人的需求。他們需要記住，對某些群體有效的技術不一定對其他群體有效，不管是因為他們在生物學上的不同，還是他們的信仰不同。“所有人都不一樣，”瓦赫特說。
最好的辦法可能是，以與我們使用成熟的技術相同的方式使用這些新技術。X 光和核磁共振成像，再加上其他健康信息，可以幫助我們進行診斷。人們應該能夠選擇他們是否想做掃描，以及他們想如何處理他們的結果。我們可以利用人工智能，但不能放棄我們的自主權。
支持：Ren
原文：
https://www.technologyreview.com/2023/04/21/1071921/ai-is-infiltrating-health-care-we-shouldnt-let-it-make-decisions/
