AI+医药：我国AI医药法律监管的全景解析——结合《药品监管人工智能典型应用场景清单》
来源：德和衡律师 | 发布时间：2024-09-23
摘要：中国发布《药品监管人工智能典型应用场景清单》，推动AI技术在医药监管中的应用。此清单旨在提高药品监管效率与质量，确保药品安全。中国通过《个人信息保护法》、《数据安全法》等法律构建全面的监管框架，保护医疗数据安全与患者隐私。跨部门协作、技术验证及伦理审查等策略将促进AI技术在药品监管中的健康发展。
随着人工智能（AI）技术在医药领域的广泛应用，我们迎来了医疗健康创新的新时代。从精准诊断到个性化治疗，AI技术正逐步重塑医药行业的面貌。然而，这一切技术进步背后，伴随而来的是一系列复杂的法律问题和伦理挑战。在中国，随着《药品监管人工智能典型应用场景清单》（以下简称“《清单》”）于2024年6月13日的最新发布，政府正在积极构建适应AI医疗创新的法律框架。本系列文章旨在深入探讨“AI+医药”主题相关的法律问题，分析如何在促进技术革新的同时，确保操作和流程合规性、保护患者权益、保障数据处理安全等关键法律问题。通过这些分析，我们希望为业界提供指导，为政策制定者和法律专业人士提供参考，共同推动健康医疗领域的持续创新与发展。
一、中国现有的“AI+医药”法律监管框架分析
（一）框架概览
在全球范围内，随着AI技术的飞速发展，其在医疗领域的应用正日益成为法律监管的焦点。我国已经有针对性地开始了系统的法律框架建设，以确保“AI+医药”应用符合伦理标准，并且安全、有效。该法律框架不仅涵盖了数据保护、医疗设备安全，还包括个人信息保护等多方面内容，旨在构建一个全面的监管框架，以支持医疗科技的创新与发展，同时保障公众利益与个人隐私。
从总体上来看，与“AI+医药”相关的法律规定大致如下：
我国自2009年开始逐步探索和建立人工智能在医疗领域的监管框架，显示出对这一新兴技术领域的高度重视和前瞻性。在过去十余年中，我国通过不断制定和完善相关法律法规，形成了一个日益细化和全面的监管体系。具体而言，从2009年的相关规定开始，到《网络安全法》、《数据安全法》和《个人信息保护法》的实施，中国在数据保护、医疗设备安全和个人信息保护等多个维度上构建了系统的法律框架。这些法规不仅确保了AI在医疗领域应用的安全性和有效性，还强调了伦理标准和公众利益的保护，支持了医疗科技的创新与发展。
（二）数据和隐私保护
在中国“AI+医药”领域中，数据和隐私保护是法律法规最关注的核心之一。随着医疗健康数据量的激增以及AI技术的广泛应用，如何保护患者的个人信息成为了一个至关重要的问题。《个人信息保护法》和《数据安全法》这两部法律为处理和使用个人医疗数据提供了明确的法律框架和执行标准。
《个人信息保护法》特别强调了个人敏感信息的保护，将医疗健康信息列为特别保护的类别。根据该法，任何收集和使用个人医疗信息的实体都必须遵循严格的合法性、正当性和必要性原则，并且必须获得数据主体的明确同意。此外，数据处理者需采取技术和管理措施保护个人信息安全，防止数据泄露、损毁或被非法使用。
同时，《数据安全法》进一步强化了数据安全的整体要求，规定了数据安全防护、风险评估、重要数据的特别保护措施等。特别是在医疗领域，对于涉及大量患者数据的AI应用，要求实施数据分类保护制度，对不同等级的数据实行不同级别的保护措施。
（三）网络安全
在“AI+医药”领域，网络安全是一个重要的议题。《网络安全法》的实施为医疗信息系统提供了坚实的安全保护基础，其要求医疗信息系统运营者从数据收集到存储、处理、传输的各个环节都符合国家安全标准。
根据《网络安全法》，所有医疗机构都必须实施网络安全等级保护制度，对医疗数据进行分级分类管理，确保对重要数据实行最严格的保护措施。此外，《网络安全法》要求定期进行网络安全风险评估和应急演练，以便及时发现并应对可能的安全威胁。
对于运用AI技术的医疗应用，尤其是那些依赖云计算和大数据分析的系统，《网络安全法》还规定了更为严格的监管要求。例如，对于涉及患者信息处理的AI系统，必须进行严格的安全评估和认证，确保所有数据处理活动都在可控的安全环境中进行。
这些措施体现了中国在医疗AI应用中强化网络安全管理的决心，不仅保护患者数据免受外部威胁，也确保医疗机构能够防范内部数据滥用和泄漏，从而维护医疗服务的完整性同时取得公众的信任。通过这种全方位的网络安全策略，中国正在为医疗AI技术的健康发展创造一个安全的运行环境。
（四）伦理与合规
在中国“AI+医药”领域，伦理与合规是监管机构特别关注的重点。随着AI技术在医疗领域的广泛应用，如何确保技术应用符合伦理标准和法律要求，尤其是在涉及患者权益和数据处理方面，成为了一个关键议题。
中国的伦理与合规框架主要聚焦于几个方面：首先是确保患者的知情同意。所有涉及AI的医疗操作必须确保患者充分了解治疗过程中AI的使用情况及其可能的风险，保证患者的自主权得到尊重。其次，医疗数据的安全和隐私保护也是伦理监管的重要组成部分，相关法律如《个人信息保护法》对医疗数据处理设定了严格的规范，要求任何收集和使用个人医疗信息的实体必须采取有效措施保护个人隐私。再次，对AI医疗应用的伦理审查同样不可或缺。中国建立了相应的伦理审查机制，以评估AI项目可能带来的伦理问题，如算法偏见和决策透明度等，确保所有AI医疗产品在上市前经过严格的伦理审查。
通过这样的伦理和合规措施，中国在推动医疗AI技术的同时，努力确保这些技术的应用不会侵犯患者的权利，也符合社会伦理标准。这些法规和机制的建立，不仅保护了公众的利益，也为全球医疗AI应用的伦理监管提供了宝贵的经验。
二、《清单》：中国在“AI+医药”领域的新篇章
（一）《清单》背景
《清单》的发布背景和目的是响应中国在全面推动人工智能技术与经济社会各领域深度融合的国家战略。这一政策举措体现了中国政府在促进高科技与传统行业结合，尤其是在医药监管领域中的决心和前瞻性。根据国家药品监督管理局的文件，该清单的发布旨在通过人工智能技术的集成应用，提高药品监管的效率和质量，确保药品安全供应链的透明度和公正性。
这一政策行动与国际上类似的AI整合实践相呼应，如欧洲联盟和美国FDA近年来也都在探索如何有效利用人工智能改善药品监管和患者安全。例如，美国食品药品监督管理局（FDA）在其“AI/ML（人工智能/机器学习）行动计划”中提出了利用AI增强医疗设备监管的框架，旨在加速医疗创新的同时确保患者安全。同样，欧盟委员会也在推动数据战略，特别是在健康数据的管理和利用方面，强调通过AI技术提升公共健康管理的效率和精确性。
此外，近年来中国加大了对新技术的监管和支持力度。例如，在《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》中，强调了创新驱动的发展策略，特别是在医疗健康领域的技术革新。《清单》不仅符合这一宏观发展战略，也是对《新一代人工智能发展规划》具体行动的一部分，意在将先进的AI技术应用到药品审批、监管及市场监控中，以实现更高水平的政府治理和服务能力。
这些政策和规划的背后，反映了中国对于利用AI技术解决实际问题的务实态度，及通过科技创新保障民众健康安全的长远考量。通过《清单》，可以预见中国将继续推动AI在医药监管等重要领域的广泛应用，为全球同类实践提供参考和借鉴。
（二）AI技术在药品监管中的应用场景
1. 准入审批类
AI技术可以自动化处理药品和医疗器械的注册申请材料。通过大数据分析和比对，AI系统能够快速确定材料的合规性和数据真实性，从而大大提高了审查效率并减少人工审查的主观偏差。例如，AI可以自动筛查申报材料中的不一致或缺失部分，并生成详细的补正通知书草稿，帮助审查人员更快地完成审核过程。
在药品注册申请的审评过程中，AI技术通过对电子化申报材料的结构化处理，可以提取关键信息如药品成分、用途、使用方法等。这不仅节约了审评人员整理资料的时间，还能通过智能比对技术避免重复性工作，提升审评的效率和准确性，使审评人员能够更加专注于专业判断和决策。
2. 日常监督类
AI结合大数据技术，可以综合分析品种安全信息、生产检验数据和监测评价信息，建立生产检验数据靶向分析模型和远程监管风险预警模型。这些模型能够为监管部门提供强有力的数据支持，提前识别和预判各类风险趋势，提高日常监管工作的预见性和准确性，从而更好地保障药品安全。
在现场检查前，AI技术可以分析既往检查报告和企业信息，提供检查重点和潜在风险点的建议，优化检查方案。在检查后，AI可以辅助检查人员撰写检查报告，通过模板化处理减少人工编撰的时间和精力，确保报告的一致性和规范性。
3. 服务公众类
AI技术在各类客服场景中的应用，可以提高响应速度和应答质量。通过嵌入业务数据和政策法规的AI模型，能够解答公众各类业务办理和政策咨询问题，降低人工客服的人力成本。此外，AI还可以实现智能申报，帮助企业在“聊天”模式下快速完成业务申报和查询，提升政务服务的效率和便捷性。
AI可以将专业术语和复杂表述转换为易于理解的语言，或定制化生成适合特定用药人的说明书内容。通过语音播报和大字版说明书等形式，AI技术能够帮助老年人更好地获取药品信息，提升用药体验和安全性。
4. 辅助决策类
AI技术在业务数据查询中，通过人机对话模式实现复杂条件的模糊查询和数据汇总，生成数据图表。这不仅降低了业务部门与数据部门的沟通成本，还使得数据报表的生成更加自动化和个性化，为监管决策提供有力支持。
AI可以通过多模态数据分析和推理，生成分析图表和报告，辅助监管部门了解药品市场动态、预测潜在风险和问题，从而制定科学精准的监管政策。这种数据驱动的分析和预测能力，有助于提升监管工作的前瞻性和有效性。
（三）实施与挑战
在推动《清单》实施的过程中，实施策略和应对挑战需要多方面的综合考虑和实际操作。首先，实施策略应包括跨部门协作和国际借鉴，通过整合政府、科研机构、医疗机构和技术企业的资源，共同推进AI技术在药品监管中的应用。具体策略包括：
1. 跨部门协作与资源整合：政府部门应联合高校、科研机构和技术公司，建立多方合作机制。例如，美国FDA与谷歌、IBM等科技巨头的合作，为AI在药品审查和监管中的应用提供了宝贵经验。中国可以借鉴这一模式，通过政策支持和资金投入，促进相关主体共同研发和应用AI技术。
2. 技术验证与优化：AI技术在药品监管中的应用需要经过严格的技术验证和持续优化。参考英国国家健康服务（NHS）在AI医疗技术应用中的做法，建立专门的技术评估和验证中心，对AI模型进行全面测试，确保其在实际监管中的准确性和稳定性。
3. 数据安全与隐私保护：在处理敏感医疗数据时，必须严格遵循《个人信息保护法》和《数据安全法》的相关规定。可以借鉴欧盟的《通用数据保护条例》，强化数据保护措施，确保数据在收集、存储和处理过程中的安全性，防止数据泄露和滥用。
4. 伦理与合规：AI在医疗领域的应用涉及复杂的伦理问题。参考世界卫生组织发布的《数字卫生保健全球战略草案》，中国应建立完善的伦理审查机制，确保在AI技术应用过程中，患者的知情同意和隐私权得到充分尊重。
然而，实施过程中也面临诸多挑战。技术层面，AI模型的复杂性和算法透明度问题需要不断解决，以确保其在实际应用中的可信度和可解释性。数据安全方面，处理大量敏感医疗数据带来了隐私保护的巨大压力。2018年，Facebook的用户数据泄露事件引发了全球对数据隐私的关注，显示了在处理大规模数据时面临的潜在风险。中国在此方面需要加强法律法规的执行力度，并采用先进的加密技术和安全协议，确保数据安全。伦理方面，在推动AI技术应用时，必须重视伦理审查和患者权益保护。
通过借鉴国际经验，结合中国的实际情况，制定和执行合理的实施策略，可以有效应对这些挑战，推动AI技术在药品监管中的全面应用，提升监管效率和药品安全性。
三、总结
《清单》的发布标志着中国在“AI+医药”领域迈出了重要一步，展示了政府在推动人工智能技术与药品监管深度融合方面的决心和前瞻性。本文作为“AI+医药”系列文章的首篇，从多个角度深入分析了中国现有的法律监管框架和清单的具体内容，展现了中国在这一领域的系统性和全面性。
在中国，随着《个人信息保护法》、《数据安全法》和《网络安全法》等法律的实施，构建了一个坚实的法律框架来保护个人隐私和数据安全，确保AI技术在医药领域的安全应用。这些法律法规为处理和使用个人医疗数据提供了明确的法律框架和执行标准，确保数据在收集、存储、处理和传输过程中的安全性。
通过合理的策略和有效的应对措施，中国在“AI+医药”领域的法律框架不仅促进了技术创新，也确保了公众利益的保护。随着技术的发展和应用的深入，未来中国将在全球医疗AI技术的应用和监管方面继续发挥引领作用，为国际同类实践提供宝贵经验和借鉴。