临床人工智能应用中的问责制

人工智能在台湾医疗系统的整合正从行政职能扩展到诊断辅助和治疗途径。算法现在能优先处理紧急CT扫描、标记可疑病变，并建议化疗方案。这表明其影响已从单纯的文书工作转变为直接影响患者护理。

这种扩展引发了关于人工智能工具出错时责任归属的关键问题。文章指出，责任可能分散在主治医师、医院或软件供应商之间。过往事件，例如Therac-25事故和IBM Watson for Oncology的失败，证明了在缺乏足够人为监督和情境理解的情况下，过度依赖软件的危险性。

法律学者Frank Pasquale的原则“归因必须先于自主”建议，责任应由可识别的机构和临床医生承担。文章以航空业谨慎部署自动化空中交通工具为例，其中人类管制员保留最终权力。这说明了临床医学可以采取类似的“开始、爬行、行走、奔跑”方法。

台湾的《人工智能基本法》为人工智能治理提供了广泛原则，包括人为监督和问责制。然而，将这些原则转化为实际临床环境需要具体转变：分层、基于风险的监督，并进行严格验证；将生命周期责任解绑，将责任分配给开发商、医院和临床医生；以及持续的上市后监测，以应对临床协议演变时的数据漂移。