人机协作诊疗模式会在一定程度上加强诊疗活动的组织性特征，然而最大的挑战仍然是面对诊疗人工智能这一强有力的辅助，如何认定医务人员的诊疗过失问题。有医学专家指出，沃森在训练时存在“多起治疗建议不安全、不正确的例子”，甚至为一名65岁的男癌症患者开出了一种可能导致“严重乃至致命性出血”的药物。面对诊疗人工智能的辅助，医务人员究竟是该坚持自己的判断还是采纳机器判断？如果医务人员因为采纳或拒绝机器判断导致患者损害，该如何认定其诊疗过失？

        不同于一般医疗产品，诊疗人工智能具有高度自主性，能够自主地作出疾病诊断与治疗的建议，并在速度、准确度等方面匹敌甚至不断超越医务人员。而相较于自动驾驶汽车，诊疗人工智能又具有辅助性的特点。具言之，诊疗人工智能与自动驾驶汽车分别代表着人工智能两种不同的技术路线，前者强调人工智能对于人类的辅助，属于辅助型人工智能；而后者体现的是人工智能对于人类的替代，属于替代型人工智能。汽车驾驶方面一旦开启自动驾驶功能，系统在设计运行范围内完全替代人类驾驶员执行动态驾驶任务，人类驾驶员无需对系统作出的每一次判断进行再判断。即使是有条件自动驾驶，人类驾驶员也仅需在紧急情况下承担接管职责，并不需要全程监督系统的决策。而诊疗人工智能的设计逻辑是辅助医务人员，虽然系统可以自主地作出诊疗判断，但每一次机器判断都需经过医务人员的再判断，才能最终转化为直接作用于患者的诊疗措施。这种功能定位的不同，意味着两者背后的人机关系存在本质差异，各方主体的责任承担自然也大相径庭。

        诊疗人工智能的辅助定位在我国相关法律文件中被频繁强调。2017 年 2 月，原国家卫生计生委印发的《人工智能辅助诊断技术管理规范（2017年版）》就明确规定：“人工智能辅助诊断技术为辅助诊断和临床决策支持系统，不能作为临床最终诊断，仅作为临床辅助诊断和参考，最终诊断必须由有资质的临床医师确定”。2018 年 4 月，国家卫生健康委员会印发《全国医院信息化建设标准与规范（试行）》，针对人工智能应用，使用了“辅助诊断”“辅助诊疗”“提供诊断和治疗建议”等术语。而 2020 年以来，国家药品监督管理局在审查批准诊疗人工智能产品时，都特别强调“不能单独用作临床诊疗决策依据”“提供给具有相应资质的临床医生作为参考”。此外，国家药品监督管理局发布的《深度学习辅助决策医疗器械软件审评要点》《人工智能医用软件产品分类界定指导原则》也都提到了诊疗人工智能的辅助定位。

        从域外来看，2017 年 2 月，欧盟《就机器人民事法律规则向欧盟委员会的立法建议》 针对医疗机器人有类似表述：“最初的治疗方案和最终执行该方案的决定将始终归属于人类外科医生”。2018 年 12 月，日本厚生劳动省医政局发布的《关于人工智能支持诊断、治疗等程序的使用与〈医师法〉第17条规定之间的关系》明确指出：“人工智能只是在医疗过程中提高医务人员判断效率和显示信息的辅助工具。在使用人工智能辅助程序进行诊断和治疗的情形，实施诊疗行为的主体是医务人员，医务人员需要对其判断最终承担责任”。此外，美国医学会直接使用“增强智能”（augmented intelligence）一词来描述医疗领域中的人工智能技术，强调其目的是增强人类的智能而非取代它。而世界卫生组织《医疗卫生中使用人工智能的伦理与规制》更是将保护人类自主性作为使用医疗类人工智能的首要伦理准则，强调“人类应该继续完全控制医疗系统和诊疗决策”。

        诊疗人工智能的辅助定位，意味着其背后的人机关系始终由医务人员主导。换言之，现有医患关系结构不会改变，医疗机构仍然是承担损害赔偿责任的主体，医务人员则继续代表医疗机构具体对患者负担注意义务。然而，诊疗人工智能的辅助定位必然会与其自主性产生冲突，进而影响医务人员的判断。首先，当诊疗人工智能能够“又快又好”地诊断疾病、提供治疗方案时，医务人员会本能地产生依赖心理，对于机器判断的再判断注意力会逐渐减弱甚至放弃监督。这种现象被称之为“警觉衰退”（atrophy of  vigilance）。

        其次，坚持诊疗人工智能的辅助定位，意味着医务人员需要对每一次机器判断进行再判断，最终作出自己的决定。理想情况下，医务人员与诊疗人工智能的判断一致，此时机器判断可以验证人的判断，进而增强医务人员作出最终判断的信心。但两者判断并不总是一致，由此产生人机之间“同行分歧”的难题。最后，要求医务人员对每一次机器判断进行再判断，必然会产生医疗资源重复浪费问题，抵消诊疗人工智能自主性带来的好处。然而，一旦突破诊疗人工智能的辅助定位，随之产生的问题是机器判断将成为认定诊疗过失的标准本身，不采纳机器判断甚至不适用诊疗人工智能都将被视为诊疗过失，医务人员则将彻底失去自由裁量权。

        如何将人工AI和医疗人员的定位协调好？

        一、坚持诊疗人工智能的辅助定位，保障医务人员的自由裁量权。

        1、诊疗活动的技术特点决定着机器判断不可能百分百正确，医务人员应当享有自由裁量权。在医学这样的自然科学中，相对于已知事实来说，毋宁说未知领域与科学争议更是一种常态。人体组织、器官、病理的复杂性远超道路交通环境，诊疗活动的复杂程度与未知性也远胜于驾驶活动。对于自动驾驶汽车来说，实现高度自动驾驶甚至完全自动驾驶在技术上是可行的。然而，对于医学整体而言，虽然人工智能可以完成某些任务，但在任何时候、任何情况下，我们绝不能容忍没有医务人员的监督。诊疗活动的复杂性与未知性决定了机器判断并非真理般的存在，医务人员理当享有自由裁量权，包括是否使用诊疗人工智能以及如何对待机器判断的自由。

        相反，若盲目服从诊疗人工智能，机器判断将成为认定诊疗过失的标准本身，人机主次关系彻底颠倒。届时即便面对错误的机器判断，医务人员也没有动力拒绝，毕竟拒绝就意味着承担责任的风险。最终损害的是患者的利益。

        2、诊疗人工智能表现好于医务人员本身是很难证明的前提，也不能成为剥夺医务人 员自由裁量权的理由。诊疗效果的评判涉及诊断准确性、效率性、治疗方案的有效性和 可行性、诊疗费用的高低、患者个体接受度等各种因素，就目前来看，诊疗人工智能很难 全面优于医务人员，人机之间的较量需要长期动态的观察。退一万步说，即使诊疗人工 智能在一些常见病、多发病等细分领域的诊疗效果更好，赋予医务人员自由裁量权并不 会妨碍这一效果的实现。相较于单一的机器判断，人机组合可能是更好的选择。

        3、诊疗活动直接关涉人们的生命健康，医务人员除了要有高超的诊疗技术，更应有崇高的道德原则和人文关怀，重视与患者的情感沟通，取得患者的充分信任，这是诊疗人工智能纯粹“技术理性”所无法具备的。医疗实践中，安慰剂效应（placebo effect）被广泛证实，足以证明情感等伦理要素在诊疗活动中的重要作用。易言之，诊疗活动的伦理属性也决定了医务人员不可取代。最后，坚持医务人员的主导地位，方可避免人沦为机器的附庸，确保患者长远受益。唯有始终强调医务人员的主导地位和责任意识，才能从根本上防止“警觉衰退”。相反，盲目依赖机器判断或许短期内能够在一定程度解放医务人员， 但若长此以往，医务人员的独立性将被消解，专业能力将不可逆转地退化，我们将失去医学创新的能力和动力，最终损害的是医学的进步与全社会享有的医疗水平。

        二、尊重机器判断的价值，医务人员需负担适当的再判断义务。

        坚持诊疗人工智 能的辅助定位，最终是为了确保机器判断安全地转化为诊疗措施，惠泽广大患者。为此，医务人员需要充分尊重诊疗人工智能，负担适当的再判断义务。诚然，与机械地接受或者拒绝机器判断相比，再判断义务可能会增加成本，但这是尊重患者生命健康、维护诊疗活动伦理属性、保障医学长期进步的必要支出。

        对于疾病诊断场景，由于诊断结论的唯一性，医务人员的再判断义务主要体现为验证，即确定机器判断的正误，以得出最终的诊断结论。而治疗方案往往可以有多种选择， 如沃森对一位肾癌患者给出的机器人辅助手术治疗（推荐方案）、腹腔镜手术（考虑方案）以及放疗（不考虑方案）三种方案，都符合《肾癌诊疗规范（2018年版）》规定。对此， 医务人员的再判断义务除验证外，还需对人机之间的各种方案进行比对。如果人机出现分歧，医务人员享有最终决定权，但需尽到一位理性医生的重要义务。

        冬青云诊所管理系统 永久免费试用诊所软件