默认

AI智能为医疗界带来机遇,同时也面对安全伦理等问题

2023-06-13 09:41

人工智能医疗教育.png


        我国在大力发展 AI,推动高等教育事业从数字化、信息化向智能化发展,国务院印发的《新一代AI发展规划》( 国发 [2017]35号 ) 中明确指出智能教育对未来教育发展的重要意义。


        当前,在加拿大和英国等国家和地区的大多数医学院正在课程数字化建设,这需要大量的基础数据来充分支持AI系统模型的开发。使用逻辑回归模型的AI辅助课程设计、管理比传统方法更具优势。但是,目前医学教育课程设计等方面的AI 应用还是相对缺乏的。究其原因,主要在于医学教育领域的数字化建设不充分, 而该数字化建设对医学教育领域中AI的应用是至关重要的。


        AI 平台对提高学生的学习效率有很好的帮助,AI 为受训者提供很好的虚拟环境或仿真训练,主要用于外科手术训练方面,如 TOUCH 系统 , LAHYSTOTRAIN, 和 EchoComJ 都是很好的AI 辅助的虚拟现实仿真程序。医学教育中 AI 应用将大大提高学习的实时信息反馈。学生需要了解他们的学习效果,才能适时采取措施进一步提高自己。AI 辅助的智能专家系统可以对学生表现提供即时和形成性反馈。因此,将大大提高各层次医学生的学习效果。令人关注的是,这种 AI 系统提供的即时反馈信息质量是否能得到保证呢?好的信息反馈应该有助于学生对基本概念识别、纠错,并足够系统化以帮助学生实现他们的学习目标。但是,AI 的自动和即时反馈是基于 AI 的基础知识库和系统的模型来实现,是有局限的,迄今为止,它还有较大的发展空间。


        机器学习用于医学生学习的评估,如自动化评分系统等, 优点在于对学生工作的评估更客观、有更好的成本效益和时间 效率。医学相关考试的形式很多,最重要的就是笔试和目标结构化临床检查(OSCE),这些测试的评估通常需要使用非网络化的笔和纸进行。近年来,有尝试采用在线的网络系统来完成这些工作。但存在一些挑战,如通信安全及作弊问题等。此外,总结性评估和考试的敏感特性限制 AI 的使用,故障或不正确的 AI 系统可能导致结果不正确,从而对相关学生造成严重后果。


        此外,AI 还可以更好地应用于其他方面,当人无法自己执行, AI 的优势就特别明显,如规划评估和自适应评价等。AI 辅助设计规划评估方案,更利于优化学习效果和确保课程质量。在适应性评估中,问题的选择取决于用户对之前问题的答案,使问题的难度自动为每个人量身定制,更科学精准。这将是医学教育评估中 AI 得以大力发展、有潜在替代人工的两个主要方面。


        AI辅助下的医疗面临问题一:有效性的评估相对困难


        与传统的医学教育模式相比,AI 系统辅助下医学教学方法的有效性还有待对比研究、分析来验证。研究显示,经训练后的 AI 模拟器诊断准确性较多媒体为基础的、专家主导的培训有很大提高。目前,任何已开发 AI 系统的应用范围都相对局限,因为专家模型通常是建立和适用于特殊医学专业或医疗目的。评估 AI 应用的有效性还有很大的挑战,要证明 AI 系统的有效性,理想的方法需要包括科学严谨和可解释性。可解释性主要是针对深度学习,它是 AI 的一个重要亚类。由于深度学习的非线性本质,往往很难解释 AI 系统如何得出答案或预测。然而,对思维过程进行解释恰恰是学生学习、 理解和应用最为关键的部分。尤其是在医学生的学习中,临床推理是医生职业发展的根基,极其重要。


        此外,为了客观地证明 AI 的有效性,研究需要将 AI 与传统教学方法进行对比研究,而这些研究需要大量的样本才能得出客观的结论。明确的评价指标,如测试前和测试后的评分是得出客观结果的基础。同时,在任何干预开始前,各组间受试对象也应具有类似的水平层次,以确保研究结果客观可靠。但目前这方面的研究比较还很缺乏。


        AI辅助下的医疗面临问题二:AI本身的技术困难


        这包括建模所需的大样量本、合格的和经验丰富的专家设计课程以及医生和工程师之间的知识结构差异带来的沟通挑战。这需要多学科团队,包括教育专家、数据管理专家和医生的协同合作。工程师和数据科学家们往往更注重 AI 系统的精确性、系统正确预测结果的可能性,但却可能忽略了与临床工作和临床教学的相关性。如果要达到更好的相关性,医疗教育专家必须与数据科学家建立更紧密的合作,一起开发AI 辅助的医学教学系统,以确保其能准确、有效的应用于医学教育。


        AI辅助下的医疗面临问题三:数据安全和伦理


        AI 应用中的隐私保护和数据安全也需要高度重视。事实上,2018 年英国的《数据保护法》和 2012年新加坡《个人数据保护法》 等法律的颁发也进一步体现了数字化信息保护的重要性。尤其是 AI 用于商业获利活动中,数据保护尤其值得重视。目前,还需要开发新的数据模型,以评估、获取教育数据库用于开发 AI 在医 学教育的应用。例如,接受 CME 的学习者的数据可以用作决定能力素质评估的因素,任何泄漏或修改这些数据的操作可能会对医生个人提升产生不利影响。缺乏可靠的数据保护容易使学习者的数据(通常用于训练 AI 算法)处于风险中,并很可能导致社会拒绝接受 AI 用于医学教育。因此,数据保护和安全也是 AI 在医学教学应用中亟需解决的关键问题之一。


        此外,伦理问题在医学教育中也极其重要。在这个医疗工作日益复杂、综合的时代,强调以患者为中心的医疗行为,任何 临床决策都不应单单决定于医疗技术本身,还需要考量其他因素,如患者的期望、资源分配、医学无效性等。然而,即使是受过高度训练的、经验丰富的医生,其伦理抉择有时也是非常困难的,往往需要临床伦理道德委员会帮助解决在病患诊治中出现的伦理问题。由此可见,伦理问题是常常是多因素和高度情境化的,这就使得 AI 在医学教育应用中,涉及伦理问题方面的作用极其有限。


        冬青云诊所管理系统 永久免费使用诊所软件