医疗人工智能发展存在的问题及对策

董星宇 陈敏

华中科技大学同济医学院医药卫生管理学院，武汉，430030

国务院《新一代人工智能发展规划》(2017)中指出，人工智能作为新一轮产业变革的核心驱动力，必须加快其在各个行业的深度应用。人工智能在疾病诊疗、医学影像、健康管理、药物研发等多个方面具有广阔的应用前景。医疗人工智能通过对医疗领域进行深度数据挖掘与分析，最终实现辅助或替代医护人员提供医疗服务。医疗人工智能带来新机遇的同时，也因其发展的不确定性带来了新的挑战。如何应对医疗人工智能带来的诸多问题与风险，确保其安全、可靠、可控发展，是当前必须重视和解决的问题。

1 医疗人工智能应用现状

在国家全民健康信息化建设背景下，人工智能在健康医疗领域中的应用发展迅速，形成了“AI+健康医疗”的模式。主要有：①AI+疾病诊疗。如IBM Watson可提供乳腺癌、肺癌、子宫癌等多种癌症的诊疗服务。②AI+医学影像识别。如腾讯觅影对早期发现食管癌的准确率高达90%。未来也可支持肺癌、乳腺癌等的早期医学影像诊断。③AI+健康管理。可在健康监测、慢病管理、情绪调节、合理膳食指导等方面提供医疗护理和健康指导。④AI+机器人。可应用于医疗咨询、手术操作和术后护理。此外还有AI+药物研发、AI+精准医疗、AI+基因测序等。

2 医疗人工智能发展存在的问题

法律法规是规范医疗人工智能健康发展最根本的保障，伦理学则是在法律法规的基础上，可以促进医疗人工智能的社会价值导向，体现社会的可行性。标准的规范体系在解决医疗人工智能发展的技术方面发挥着重要的作用。网络安全、医疗安全以及隐私信息安全也至关重要。评价体系和人才培养对于推动医疗人工智能发展也同样不可或缺，但这些方面都还很不完善。

2.1 法律法规滞后与伦理道德的问题

医疗人工智能作为迅速发展的新事物，法律的滞后性非常明显，如侵权责任的划分问题。医院和医生是承担医疗服务责任的主体，但引进人工智能产品后，对医疗服务过程中造成的医疗事故、不良事件等，如何划分责任主体是亟待解决的问题[1]。人工智能具有独创性，能否作为“主体”来进一步确定版权归属，也有待解决[2]。

医疗人工智能的应用也存在医学伦理学的问题。首先是人权伦理问题，如医疗人工智能能否被赋予人权，人工智能的特权是否会凌驾于医生之上。智能眼球、智能脏器等辅助设备开始应用于人体中，出现“智能人”，对人的道德主体地位也是挑战。人工智能具有高效的学习能力、巨大的知识容量等，可以为患者实现更加优化的诊疗，但对医生的地位也有极大的影响[2]。

2.2 缺乏标准的规范体系

近年来国家已开始着手人工智能标准化建设。《人工智能白皮书》(2018版)中表明，当前人工智能相关标准有200个,其中已发布81个、在研88个、拟研制31个。但医疗人工智能的相关标准仍处空白阶段。行业内对医疗人工智能的内涵、应用模式等未达成共识，标准化工作基础较为薄弱。临床术语是医疗人工智能发展的前提和基础，由于版权归属、语言障碍、医疗环境等诸多因素的限制，缺乏中文临床医学术语的标准，制约了健康医疗与人工智能的深度融合。医疗人工智能涉及医学、计算机科学、心理学等多个领域，不同领域的融合都需要有相关的标准进行界定[3]。

2.3 存在安全隐患的问题

医疗人工智能在网络安全、医疗安全、社会安全、隐私信息安全等方面均存在不少隐患。人工智能系统如果因操作失误或网络受到恶意攻击等可能会对医生或患者造成伤害。算法模型可能带有主观色彩，在诊疗方案的选择上存在很大的差异，也可能会引发医疗安全事故问题[4]。医疗人工智能由机器取代医务人员部分智能化自主工作，可能会造成人员的薪酬下降、失业等一系列问题，使医生和患者产生不安的情绪，成为社会不稳定的因素。

医疗人工智能需要对大量的健康医疗数据进行挖掘和利用，涉及个人信息的获取、扩散、分析利用等一系列问题。个人信息可能会未经本人允许被获取或超出用户允许范围之外使用，也可因经济利益或某些商业目的造成个人健康医疗数据被非法扩散。在个人未被告知甚至非法隐瞒医疗数据的情况下，会造成个人医疗信息的泄露。此外，医疗人工智能学习和分析的能力，也会推导出其他隐私信息，造成隐私泄露[5]。

2.4 缺乏应用评价体系的问题

评价体系包括对医疗人工智能的算法模型、产品性能、应用效果等方面的评价，可评估产品的优劣，也是行业内的“领航标”，引领产品的发展方向。例如人工智能影像诊断，需从准确性、医生利用率以及业务流程等方面进行评价。这些评价指标是否合理直接影响其后续发展及应用效果。缺乏医疗人工智能评价体系既无法充分评估医疗人工智能产品及系统的关键性能[6]，阻碍推广应用，也可能会影响产品的良好发展。

2.5 人才培养的问题

中国人工智能人才缺口预计将超过500万人，人才缺乏导致供需严重失衡。医疗人工智能作为跨学科应用，涉及自然语言处理、图像处理、医学、统计学、机械自动化等多专业的融合，需要多样化的人才。医疗卫生人员对人工智能新兴技术的接受度还无法估计，目前也没有建立专业化、规范化的培训与考核体系，导致医疗卫生人员对人工智能产品接受度低、操作失误等问题[5]。如何有针对性地培育人才、引进人才、留住人才也是亟待解决的问题[8]。

3 对策

3.1 应加快制订相关法律法规，加强伦理道德风险管控

目前与医疗人工智能相关的法律规范滞后，应尽早制订和完善相关法律法规，界定医疗人工智能产品的开发者、生产者、使用者的责任。建立一套明确法律边界的医疗人工智能责任体系，从法律上明确责权。可设立责任认定监管机构，通过引入第三方机构来保障责任认定的公正公平[1]。在《著作权保护法》等法律中明确人工智能的创作管理。在《网络安全法》、《信息安全等级保护管理办法》等法律法规的基础上，建立人工智能隐私信息安全管理办法，加强公民的隐私保护。

在伦理风险管控方面，应坚定医生主体地位，明确以医生为主导、人工智能为辅助的观念，实现医务人员与人工智能的有机结合，为患者提供更加优质的服务。在人工智能产品的设计开发时应根据伦理学原则进行风险评估，使人工智能风险最小化、效益最大化。

3.2 完善标准规范体系

医疗人工智能的标准包括基础、平台/支撑、技术、产品与服务、应用和安全/伦理等六大类标准体系[7]。①基础标准。是对医疗人工智能基础进行的规范，包括总则、术语、参考模型/框架、数据、测试评估等。②平台/支撑标准。是对开展医疗人工智能平台和支撑的规范，包括云计算、大数据、智能感知、人工智能平台等。③技术标准。是对医疗人工智能关键技术的规范要求，包括机器学习、自然语言处理、图像识别、虚拟现实、人机交互等技术标准。④产品与服务标准。包括机器人、智能器械、智能终端、智能服务等产品和服务标准。⑤应用标准。包括医疗人工智能在疾病诊疗、医学影像、健康管理、药物研发、精准医疗等方面的标准。⑥安全/伦理标准。主要包括医疗人工智能安全、伦理、隐私保护等相关标准。

其中基础术语，人工智能平台支撑，机器学习、计算机视觉、人机交互、VR/AR等关键技术，包括机器人在内的人工智能产品，安全/伦理等标准规范则是迫在眉睫需要制定的。

3.3 应建立应用评价体系

应制定医疗人工智能应用评价体系，评估其开发过程与产品性能等指标。通过指标体系对产品进行考核评价，引导医疗人工智能产品的健康发展，避免不合格产品进入市场，创造良性竞争环境，为医疗人工智能的推广应用奠定良好的基础。

3.4 应加强医疗人工智能人才的培养

首先，应加强复合型人才的培养。各高校应加强医学与计算机、统计学、大数据等交叉性学科的建设，培养“人工智能+”复合人才。积极探索医疗卫生机构、医学院校与工科类院校、企业之间的合作，共同培养复合型人才。其次，应建立医疗人工智能培训体系。医疗机构在引进人工智能时，对相关的医务人员进行规范化、专业化技能培训，制定完整的考核标准。第三，建立高端人才引进机制，制定相应政策，实现医疗人工智能高端人才、精准引进[8]，提供优厚待遇，引进人才并留住人才，保障医疗人工智能持续快速发展。