臨床人工智能應用中的問責制

人工智能在台灣醫療系統的整合正從行政職能擴展到診斷輔助和治療途徑。演算法現在能優先處理緊急電腦斷層掃描、標記可疑病變，並建議化療方案。這表明其影響已從單純的文書工作轉變為直接影響病人護理。

這種擴展引發了關於人工智能工具出錯時責任歸屬的關鍵問題。文章指出，責任可能分散在主診醫生、醫院或軟件供應商之間。過往事件，例如Therac-25事故和IBM Watson for Oncology的失敗，證明了在缺乏足夠人為監督和情境理解的情況下，過度依賴軟件的危險性。

法律學者Frank Pasquale的原則「歸因必須先於自主」建議，責任應由可識別的機構和臨床醫生承擔。文章以航空業謹慎部署自動化空中交通工具為例，其中人類管制員保留最終權力。這說明了臨床醫學可以採取類似的「開始、爬行、行走、奔跑」方法。

台灣的《人工智能基本法》為人工智能治理提供了廣泛原則，包括人為監督和問責制。然而，將這些原則轉化為實際臨床環境需要具體轉變：分層、基於風險的監督，並進行嚴格驗證；將生命週期責任解綁，將責任分配給開發商、醫院和臨床醫生；以及持續的上市後監測，以應對臨床協議演變時的數據漂移。