近40年来，我国先后研制出数百种辅助辨证的智能系统，包括专家系统、智能诊断系统、辅助诊疗系统等。然而，智能中医辨证的临床应用至今仍然十分有限，重要原因之一是智能辨证解释性的不足。由于不理解机器做出决策的原理，决策者和患者均难以信任机器的辨证结果。辨证的可解释性成为智能中医辨证从科研到临床应用的重要条件。

        目前中医智能辩证的发展有何局限性？

        中医数字化辨证一直都是人工智能在中医领域的热点研究课题。20世纪70年代中后期以来，我国研发了许多以中医数字辨证论治相关的系统，也尝试了基于知识图谱开展中医数字辨证知识表示与推理研究。近年来，利用深度学习模型研究中 医辨证论治成为热门，在复杂症状中提取、归纳中医证型，分析症状、证型之间潜在的关联规则，辅助临床诊疗工作等方面均取得了一定成果。然而，目前基于深度学习的端到端的辨证模型解释性很低，“黑箱”问题导致机器与人之间的信任难以建立。用户会产生疑问，比如为什么是这个结果？为什么不是那个结果？如何信任这个 结果？什么情况下结果是错误的？在这样的背景下，中医领域迫切需要从更加详细和具象的角度理解得到结论的原因，解决“为什么是”“为什么不 是”等关键问题，以获得用户信任并支撑临床应用。与此同时，较强的可解释性也有利于确保辨证模型的公平性、隐私保护性能、鲁棒性，提升中医决策者对模型的信任程度。

        为什么称辩证的”可解释“，如何理解”可解释“？

        在人工智能领域，具有解释能力的人工智能模 型被称为“可解释的人工智能”。在机器学习场景 中，可解释性 （interpretability） 被定义为向人类解 释或呈现可理解的术语的能力，即将抽象概念映射 到人类可以理解的领域中。美国国防高级研究计划局（Defense Advanced Research Projects Agency， DARPA）在2016年8月提出了可解释的人工智能 （explainable artificial intelligence， XAI）计划，目的是建设一套全新、可解释的深度学习模型。该计划的四大原则草案由美国国家标准局于2020年8月公开，分别是提供解释、解释有意义、解释的精确度、系统的知识边界。神经信息处理系统 （neural information processing systems，NIPS）2017的工作组曾针对“可解释性在机器学习中是否必要”这一问题展开讨论，强调可解释性在医疗行业的重要性和必要性。

        近年来，可解释成为人工智能领域的热点研究话题，深度学习的出现让各大领域对可解释的需求更加迫切，越来越多的解释方法和模型被提出用于解释深度学习的模型和结果。在医疗行业，基于现有的可解释技术，已经有学者开始研究辅助诊断的可解释。有研究者以肺癌为研究对象，提出一种面向 TNM 分期的中文影像报告肿瘤信息提取方案，利用命名实体识别和关系抽取组成的信息提取技术，从报告中自动获得与分期相关的文字表达，再利用规则对获取文字进行分析推断，得到布尔型或数值型的分期信息，可直接服务于分期决策，并且提取信息具有报告文字作为证据支撑，具有一定的解释性。现代 医学已经开始进行临床诊疗的可解释研究，并初具成果。

        有何必要研究中医智能辩证可解释？

        中医辨证是一个复杂的思维过程，既有依据中医辨证先验知识的逻辑推理，也有基于临床大量医案的归纳演绎。中医辨证方法丰富，临床常用的包括脏腑经络辨证、气血辨证、三焦辨证、八纲辨证、六经辨证等多种辨证系统。在复杂的中医 基础理论和辨证方法的支撑下，尽管整个辨证过程非常复杂但却有根有据。例如，失眠患者出现细数脉和心肾不交证之间的逻辑关系是：失眠，脉细数→细提示阴虚，数提示阳亢→肾水不能上济心阴，心阴虚而难以抑上炎之心火，心火不能下降以温暖肾水→心火旺→扰动心神→神难安→失眠→诊断为心肾不交证。可见，在中医的先验知识和医生经验的支撑下，中医辨证过程是可解释的，利用人工智能技术解释中医智能化辨证决策在理论上是可行的。

        中医临床对安全性的要求非常高，错误的决策是难以被接受的。在这样的背景下，“可解释” 给中医辨证智能化从科研到临床实际应用带来了可能，并成为人工智能技术在中医临床辨证诊断中受到信任和运用的重要条件。

        在中医智能辨证领域，可解释研究尚处于起步阶段。一方面，中医决策者不理解和认可目前的以评价指标衡量模型性能的解释方法；另一方面，辨证是中医诊断知识的综合体现，没有中医学背景的技术人员对复杂的辨证过程无法充分理解， 导致可解释性的研究在中医智能辨证领域难以开展。未来的可解释研究，不仅仅是字符和数值的比对，更需要从语义的层面入手，不仅理清解释症与证之间的对应关系，更要进一步说明对应关系中所蕴涵的辨证思维和逻辑推理。

        冬青云诊所管理系统 永久免费使用诊所软件