禁用AI处方是为了对生命负责

2023-08-26 11:56:31 来源：北京青年报小 中

禁用AI处方是为了对生命负责

(资料图片仅供参考)

张田勘

北京市卫健委日前牵头组织制定了《北京市互联网诊疗监管实施办法(试行)》，并向社会公开征求意见，公众可于 9 月 16 日前向市卫健委反馈意见。根据办法：医疗机构开展互联网诊疗活动要加强药品管理，严禁使用人工智能等自动生成处方，严禁在处方开具前向患者提供药品。

虽然“严禁使用人工智能等自动生成处方”只是征求意见中的一种，而且可能会引发争议，但是从目前AI的发展来看，禁用AI自动生成处方利大于弊。AI现在还不成熟，还处在发展阶段，在涉及健康和生命这样生死攸关的问题上，需要暂时的禁止或更长时间的禁止。

现阶段AI介入医疗领域涉及两个根本问题，一是AI诊治疾病，包括自动生成处方是否靠谱；二是如果AI自动生成处方并让病人获得治疗，包括服药、手术和使用器械等，一旦产生意外，谁来负责。

AI早就在介入医疗领域了，较早、也是全球闻名的是2011年国际商用机器公司(IBM)创造的沃森医生(Watson Health)，尽管当时对一些疾病的正确诊断率达到73%，但直至今天，沃森医生也不能单独上岗，因为这个正确诊断率还是太低。

另一方面，即便是通过深度学习，AI的决策与人工医生也存在差异，尤其是原则差异。例如，在诊治疾病时，是以患者生命长度为第一要素，还是把生命质量放在首位，或者说兼顾这二者。人工医生首先是会兼顾这二者，而且要考虑患者的经济、家庭情况，以及患者康复后是否还有工作能力。从这些方面平衡，人工医生的优势是显而易见的。

此外，让AI医生单独或自动开处方，如果出现医疗事故，如造成患者更大的伤害，甚至让患者丧失生命时，负责和索赔的主体是AI医生，还是研发AI医生的公司，抑或是购入和使用AI医生的医疗机构和医生。在法律主体不能确认时，AI医生是不可能单独诊治疾病的。

正因这些原因，现在无论中国还是国外的医疗机构都只是引进了临床决策支持系统(CDSS)，也即广义上的AI医生，这是一种为医护人员临床诊疗提供多种帮助的计算机辅助信息系统。截至2020年5月，全国31个省份的1013所医疗机构中有19.6%的医院有CDSS。至于其他各个学科各种疾病的AI医生，也都是助手，AI不可以、也不可能取代医生，不应有处方权。

禁止AI医生自动生成处方还有一种人机冲突因素，即真人医生发现AI医生错了时，是按真人医生的意见办还是按AI医生的意见办。这个困境的背后也是谁负责的问题。如果是人工医生错了，当然是医生负责，但如果是AI医生错了，它能负责吗？更进一步的困境是，人工医生面对AI医生，也许会为了避免承担责任，不会主动纠正AI医生的错误，而这很可能会导致医疗事故。

哪怕是AI医生有99%的正确率，恐怕也无法获得单独的处方权和治疗权，而是必须只为真人医生和护士当助手。当然，医生有会诊的传统，这是共同讨论病例，各抒己见并取得对疾病，尤其是对疑难疾病共识的好方式。在未来，AI医生或许可以加入到会诊中，这也是AI医生的一个重要角色。

关键词：