類藥品審核流程 推出醫療 AI 可靠性測試框架

類藥品審核流程 推出醫療 AI 可靠性測試框架

布里斯托大學的研究團隊近日提出一套 「Learning Ensemble」（學習集成）框架，讓醫療 AI 開發者在系統正式投入臨床前，必須系統化地檢驗其可靠性。此框架的概念直接借鏡藥品上市前的審核流程，期望把 AI 產品也打造成「可預測、可控」的治療工具。

背景與問題

醫療 AI 常在實驗室環境中表現亮眼，卻在真實診所裡失效。根本原因在於模型往往「抓住」訓練資料中與診斷無關的特徵。例如 2021 年的一項研究發現，某 AI 系統本應辨識 X 光片中的 COVID 病灶，卻因為意外關聯到影像中的標記資訊而產生偽陽性；一旦換到另一家診所，系統即告失靈。

同樣的挑戰也出現在藥物研發：許多藥物的機制尚未完全明朗，但透過藥品資訊包（列明劑量、使用時機、適用族群等）仍能安全使用。研究人員認為，醫療 AI 亦可藉由類似的資訊包，明確說明「何時、何地、對哪類患者」適用。

「Learning Ensemble」三大檢核領域

1. 系統範圍

   • 必須說明目標醫師或診所、所需硬體平台、以及訓練所使用的患者資料類型。此資訊可避免如前述的跨診所失效問題。

2. 族群可靠性

   • 不僅要報整體命中率，還需分別呈現不同族群（例如弱勢族群、年齡層）的表現。另一項 2021 年研究指出，AI 讀片系統在服務不足的族群中偵測率顯著較低，若直接部署，將加劇醫療不平等。

3. 臨床適配性（最關鍵）

   • 評估模型是否真的符合其設計的臨床目的。舉例而言，有系統在訓練資料中把哮喘患者的肺炎死亡風險評為低，因急診對此類患者採取更積極治療，使死亡率下降；但在實際分診（triage）時，此評分毫無參考價值。

未來展望與讀者啟示

作者強調，框架僅是起點，真正打造可靠的醫療 AI 仍需 反覆試驗、外部審查與持續調校。若業界能共同採用「Learning Ensemble」的語言與結構，問題將更早被發現，降低臨床失敗的風險。

對於醫療機構與投資者而言，未來在評估 AI 產品時，除了關注技術指標，更應檢視其 資訊包完整度 與 臨床適配證據。唯有如此，醫療 AI 才能從實驗室走向病房，真正成為可靠的「類藥品」。