人工智慧在醫療保健領域的倫理困境：負責任使用的入門指南

人工智慧已滲透到醫療保健的各個領域，從影像分析和風險預測到文件輔助和麵向患者的聊天系統，無所不包。倫理問題並非簡單的“好”或“壞”，而是特定係統能否在改善醫療服務的同時，避免給患者、臨床醫生或社區帶來不可接受的風險。

對於新手來說，最有效的方法是按順序遵循決策路徑：理解系統實際運作的功能，確定哪些人會受到影響，檢查背後的證據和數據，明確人員的角色，並決定如何檢測和糾正問題。本文將在不假設讀者俱備技術背景的情況下，解釋這條路徑。

首先，要了解「醫療保健領域的人工智慧」究竟是什麼意思。

人工智慧（AI）是一個涵蓋廣泛的術語，指的是能夠執行與人類推理、模式識別、預測或內容生成相關的任務的電腦系統。機器學習是人工智慧的一個子集，其中模型從資料中學習模式，而不是僅僅遵循預先設定的規則。生成式人工智慧可以產生新的內容，例如文字、圖像或摘要。在醫學領域，生成式系統可以撰寫臨床記錄、回答病患問題或總結病歷。

這些分類至關重要，因為倫理風險取決於具體任務。一個用於格式化預約記錄的系統與一個影響癌症篩檢、分診、藥物劑量或醫療服務取得的系統所構成的風險截然不同。同樣，「人工智慧」一詞並不意味著系統是自主的。許多工具旨在輔助臨床醫生，而非取代他們。

世界衛生組織2021年發布的人工智慧在健康領域倫理和治理的基礎性指南強調了人類自主性、安全性、透明度、問責制、包容性、公平性和永續利用。世衛組織隨後於2025年3月發布了關於大型多模態模型的指南，這反映了能夠處理多種類型健康資訊的生成系統的興起。

評估或使用醫療保健人工智慧系統之前需要準備什麼？

在討論人工智慧工具是否符合倫理之前，先用一句話概括它的預期用途。例如：「該系統用於對胸部X光片進行分級，供放射科醫生審核」遠比「這是一個人工智慧放射學平台」更有意義。預期用途能夠明確指出哪些類型的錯誤至關重要、哪些人會受到影響以及需要多少人工監督。

核心倫理困境

1. 準確性與危害性

一個模型在統計上可能非常出色，但在特定的工作流程中仍然可能存在安全隱患。假陰性結果可能會延誤治療；假陽性結果可能引發焦慮、導致侵入性檢查或不必要的費用。因此，合適的指標取決於臨床目的。 「準確率」本身可能會掩蓋靈敏度、特異性、校準度和亞組表現之間重要的權衡關係。

一個有用的入門原則是：首先要問自己，最糟糕的可能錯誤是什麼？以及如何才能發現這個錯誤？如果答案是“臨床醫生會注意到”，那麼下一個問題是：目前的工作流程是否真的能給臨床醫生足夠的資訊和時間來注意到這個錯誤？

2. 偏見和不平等的結果

演算法偏差是一種系統性模式，會導致不同群體之間出現不公平或臨床上不恰當的差異。偏差可能源自於缺乏代表性的訓練資料、歷史遺留的不公平現象、測量方法的差異或目標變數的選擇。

一個著名的例子來自2019年發表在《科學》雜誌上的一項研究，該研究調查了一種廣泛使用的人口健康演算法。研究人員發現，該系統存在種族偏見，因為它使用醫療保健支出作為健康需求的替代指標。由於醫療資源分配不均會導致即使病情嚴重也導致醫療支出偏低，因此這種替代指標扭曲了需要額外治療的人。這個教訓遠不止於此：即使沒有明確將種族作為輸入因素，一個方便的目標指標也可能反映出現有的不平等現象。

部署前，應詢問該工具是否已在目標族群和使用環境中進行評估。部署後，應比較不同臨床相關族群的結果，而不是僅僅依靠一個整體效能指標就足夠了。

3. 隱私與資料需求

人工智慧系統通常會隨著資料量的增加而改進，但醫療倫理並不認為最大限度的資料收集就一定有益。隱私與尊嚴、自主權、信任以及未經授權的存取或二次使用可能造成的傷害息息相關。

在美國，HIPAA 安全規則適用於受 HIPAA 保護的實體和業務夥伴持有的電子健康訊息，但並非所有健康應用程式或面向消費者的 AI 服務都受 HIPAA 管轄。聯邦貿易委員會 (FTC) 的健康違規通知規則可能適用於 HIPAA 以外的某些個人健康記錄供應商和相關實體。在決定是否可以將敏感的患者資訊貼到面向消費者的 AI 工具中時，這一區別至關重要。

為了進行實際檢查，需要確定哪些資訊被發送給模型提供商，這些資訊儲存在哪裡，保留多長時間，是否用於改進模型，誰可以訪問這些信息，以及如果服務的所有權或政策發生變化會發生什麼情況。

4. 可解釋性與性能

可解釋性是指提供訊息，幫助人們理解系統為何產生輸出或如何解釋該輸出。並非所有模型都能提供簡單的因果解釋，事後產生的流暢解釋也無法證明它反映了模型的真實推理過程。

因此，倫理目標並非“使每個模型都完全可解釋”，而是為受影響人群提供足夠的透明度，以便他們能夠安全地使用系統。臨床醫生可能需要了解預期用途、輸入參數、限制、置信度、驗證人群以及已知的故障模式。患者可能需要清楚地了解人工智慧如何影響了重要的決策，以及誰仍然負責後續的醫療照護。

5. 病人同意和自主權

自主性是指患者在知情的情況下做出醫療選擇的能力。人工智慧會使自主性變得複雜，因為它的作用可能不易察覺。患者完全有理由關心診斷、治療建議或優先排序決策是否受到演算法的影響，尤其是在系統使用敏感資料或引入重大不確定性時。

並非所有後台軟體功能都需要單獨的知情同意書。倫理門檻取決於人工智慧作用的重要性、當地法律、機構政策以及風險的性質。一個有用的原則是，系統對影響病人的決策影響越大，資訊揭露的力道就應該越大。

6. 當人和機器共享工作流程時的責任歸屬

如果人工智慧推薦造成傷害，責任歸屬可能難以在開發者、醫院、臨床醫生、數據供應商以及配置該工具的機構之間追究。如果決策者缺乏權限、訓練、時間或資訊來質疑產出結果，那麼「人為因素參與決策」並不能解決這個問題。

問責機制應在部署前設計。組織應明確誰負責審批系統，誰有權否決審批，誰負責調查事件，誰負責聯繫供應商，誰負責決定是否暫停使用，以及誰負責與受影響的患者溝通。

7. 自動化偏見和過度依賴

自動化偏見是指人們傾向於過度信任自動化系統給予的建議。在醫療保健領域，這可能意味著忽略相互矛盾的症狀、未經核實就接受系統產生的記錄，或將排名清單視為客觀真理。

生成式人工智慧帶來了另一個挑戰：它可能會產生自信但缺乏依據的陳述。因此，對於醫療摘要、病患資訊、編碼建議或決策支援而言，驗證至關重要。當審核人員能夠查看原始數據，並在必要時提出不同意見時，人工審核才最有意義。

8. 獲取途徑與出現新的數位落差的風險

人工智慧可以透過幫助稀缺的專家、翻譯資訊或自動化日常工作來擴大醫療服務的可近性。但如果資源充足的醫療系統獲得了更安全、經過更充分驗證的工具，而小型診所卻只能獲得效果較差的產品或無力承擔監測這些產品的基礎設施，那麼人工智慧也可能加劇醫療服務差距。

因此，公平不僅包含模型偏差，還包括誰能獲得這項技術、支援哪些語言、是否考慮殘疾人士的需求、系統是否相容於舊設備，以及沒有可靠網路或智慧型手機的患者是否會處於不利地位。

如何在不成為人工智慧專家的情況下評估一個系統

你無需完全復現模型的數學原理就能提出好的問題。首先要尋找能將該工具與其預期臨床用途連結起來的證據。尋找在與你類似的場景中進行的驗證，尋找與你的患者群體相匹配的亞組結果，以及對該工具不適用情況的清晰描述。

然後檢查工作流程。輸出結果出現在哪裡？是提供建議還是自動觸發操作？臨床醫生可以忽略它嗎？是否記錄了覆蓋操作？系統停機期間會發生什麼？技術上強大的模型，如果插入到設計不良的流程中，也可能變得不安全。

接下來，檢查變更控制。人工智慧系統會不斷發展演進。在美國，FDA 發布了關於人工智慧設備軟體功能預定變更控制計畫的最終指南，闡述如何在監管文件中描述和評估某些計畫內的修改。即使在非受監管的醫療器材領域，其背後的倫理教訓也同樣適用：企業應該了解模型何時發生變更，以及在採用新版本之前需要哪些證據。

如何判斷結果是否夠好

負責任的部署不應僅帶來令人滿意的基準結果。它還應表明該系統在實際環境中有效運行，重要的群體不會受到系統性的傷害，臨床醫生了解何時應該依賴該系統，以及患者仍然能夠獲得人性化的護理和有意義的解釋。

積極的跡象包括部署後性能穩定、版本追蹤清晰、事件審查記錄完整、升級路徑明確、子組監控以及系統停止或回滾功能。另一個好跡像是，員工無需閱讀產品宣傳資料就能描述該工具的限制。

當模型表現出現偏差、錯誤模式集中在某個子群體、使用者開始將建議視為強制性要求、供應商在未充分通知的情況下更改模型，或者機構無法解釋患者資料的去向時，就應該改變策略。一個無法監控的系統難以進行負責任的管理。

監管部門的批准並不等同於倫理上的充分性。

監管可以解答有關安全性、有效性、市場准入和法律義務的重要問題，但倫理評估的範圍更廣。在美國，FDA維護一份公開的已獲準上市的人工智慧醫療器材清單。 FDA也在2026年1月發布並重新發布了最終版《臨床決策支援軟體指南》，明確了某些決策支援功能何時可能不屬於醫療器材的定義範疇，以及現有器材政策何時適用。

在歐盟，《人工智慧法案》採用基於風險的框架。截至2026年9月，該法案的大部分內容已生效，但歐盟委員會指出，針對嵌入受監管產品中的人工智慧系統的高風險規則，將在2026年簡化修訂後，於2028年8月2日生效。由於分類取決於預期用途和相關產品規則，因此各機構不應假定所有醫療保健人工智慧系統都承擔相同的義務。

合規性只是底線，並非最終的道德評判標準。即使某種工具在法律上可以合法銷售，它仍然可能不適合特定的醫院、病患群體或工作流程。

避免的常見錯誤

• 將高精度資料視為安全性的證明。應該問問自己：哪些誤差會造成影響？這些誤差對誰來說重要？
• 認為移除姓名就能確保資料安全的想法是錯誤的。即使移除了明顯的身份標識，敏感的健康資訊仍然可能洩露隱私。
• 僅僅因為某個模型能引出一段有說服力的文字就稱其“可解釋”，這種說法是站不住腳的。流暢的解釋並不一定能忠實地反映模型的推理過程。
• 僅在上市前進行測試。臨床實務、資料來源、設備和患者群體都在不斷變化。
• 僅依靠名義上的人工審核員。監督需要權限、時間、訊息，以及明確的系統否決權變更途徑。
• 假設供應商承擔所有責任。醫療機構在選擇、配置、監控和使用工具時，也需要做出符合倫理的選擇。

務實的底線

人工智慧在醫療保健領域面臨的核心倫理挑戰並非機器能否做出有用的預測，而是人們能否以維護安全、公平、隱私、自主和問責的方式運用這些預測。

對於新手而言，最佳的切入點是具體化：明確受影響的決策，核實證據，檢查數據中代表的人群，繪製數據流程圖，設計有效的人工監督機制，並預先決定哪些證據會讓你暫停或停止系統。這種方法雖然無法消除所有倫理困境，但它能將抽象的原則轉化為可以檢驗、記錄和改進的問題。

本文僅供教育用途，不能取代針對特定人工智慧系統的臨床、法律、監管或機構建議。