AI in Medical Devices: EU Compliance with AI Act & MDR

人工智能（AI）在多个行业的快速应用促使欧盟出台了《人工智能法案》（EU 2024/1689），这是一个全面的监管框架，旨在应对与人工智能技术相关的风险。与针对特定行业的法规不同，《人工智能法》适用范围广泛，涵盖各个行业，包括医疗保健和医疗设备中的人工智能。

对于医疗设备制造商而言，现在的合规范围已超出《医疗设备法规》（MDR）（欧盟 2017/745），包括《人工智能法》。在存在多项立法的情况下，可能会出现监管重叠。MDR 强调患者安全、临床有效性和风险管理——这些原则与《人工智能法》基于风险的人工智能治理方法相一致。鉴于这些共同的目标，将人工智能相关要求纳入现有的质量管理体系（QMS）不仅实用而且有益。

认识到这一需求，《人工智能法》第 17 条明确允许将人工智能特定的质量管理系统要求纳入现有的部门框架，规定

"高风险人工智能系统的提供者，如果根据相关部门联盟法律必须履行质量管理体系或同等职能方面的义务，则可根据该法律将第 1 款所列方面作为质量管理体系的一部分"。

本文探讨了 MDR 和 AI 法案之间的主要异同点，重点关注数据管理、生命周期流程、上市后临床随访 (PMCF) 和合规性等领域。通过这种方法，医疗器械制造商可以有效地将人工智能合规性纳入其质量管理体系，从而确保监管一致性和患者安全。

数据是人工智能医疗设备的 "原材料"：监管视角

在人工智能驱动的医疗设备中，数据是基础输入，堪比传统设备制造中的原材料。正如 MDR 要求材料的全面可追溯性以确保生物相容性、结构完整性和整体安全性一样，人工智能模型也必须在经过良好表征、验证和可追溯的数据集基础上开发。

根据 MDR，材料可追溯性可保障设备性能和患者安全。在人工智能领域，数据集的可追溯性同样至关重要，它影响着模型的性能、临床有效性和监管的可接受性。

这种类比强调了在人工智能系统开发中对结构化数据管理框架的需求。下表显示了 MDR 材料可追溯性原则与人工智能数据管理要求之间的相似之处。

但要注意的是，人工智能数据集也有其独特的要求，如公平性和非歧视性，这些要求超出了传统 MDR 的考虑范围。

外观	MDR 要求	人工智能要求
来源识别	设备中使用的每种材料都必须完全可追溯到记录的来源。	每个人工智能训练数据都必须完全可追溯到有记录的来源（如医院数据库、临床试验和公开可用的数据集）。
认证	原材料必须符合安全和性能标准。	数据必须经过准确性、完整性和相关性验证（例如，确保人工智能是在临床相关数据上训练、验证和测试的）。
特性文档	必须记录每种材料的化学、机械和生物相容性能。	人工智能数据集必须记录数据多样性、人口代表性和统计偏差，以确保公平性。
变更管理	对材料的任何修改都必须经过测试并记录在案。	训练数据集的任何更改（如添加新的患者群体）都必须评估对人工智能模型性能的影响。
安全测试、偏差和风险评估	必须对材料进行测试，以确保不会对生物产生不良影响。	必须评估人工智能数据集的偏差、数据缺口和错误，以防止出现不可靠或歧视性的输出。

人工智能驱动与传统医疗设备的生命周期管理

软件生命周期是传统软件医疗器械（SW-MD）和人工智能驱动医疗器械（AI-MD）的关键监管环节。虽然两者都需要结构化开发、透明度和可追溯性，但由于人工智能模型的性质，医疗设备中的人工智能带来了独特的挑战。

外观	传统的基于软件的医疗设备（SW-MDs）	人工智能驱动的医疗设备（AI-MDs）
可追溯性	软件代码和要求必须完全文档化并受版本控制。	人工智能模型架构、训练步骤、数据集和所有处理步骤都必须记录在案并进行版本控制。
可重复性	确定性：在输入相同的情况下，软件总是产生相同的输出。	概率性：人工智能模型根据学习到的模式生成输出，导致结果略有不同。
性能稳定性	除非明确更新，否则保持稳定。	可能会因数据漂移而随时间降低，需要持续监控。
变更管理	在部署前进行结构化版本控制和回归测试。	人工智能模型需要持续的再培训和再验证，以保持准确性。
验证与确认（V&V）	确保软件功能正确并满足要求。	人工智能 V&V 包括数据集验证、偏差评估和边缘情况压力测试。

为符合 MDR 原则，基于人工智能的系统必须采用：

- 结构化的人工智能培训、验证和测试流程，以确保可重复性和性能一致性。
- 全面的文档资料，使人工智能驱动的医疗设备能够仅根据文档资料进行重建，同时保持其预期性能。
- 上市后监控，以检测性能漂移、偏差和意外结果。

人工智能驱动医疗设备的上市后临床跟踪（PMCF）

PMCF 是 MDR（EU 2017/745）的一项监管要求，可确保医疗器械在进入市场后保持安全性和有效性。技术稳定的传统设备可能不需要持续的 PMCF，但人工智能医疗设备由于依赖于不断变化的真实世界数据，因此有必要进行持续监测。

外观	SW-MDs	AI-MD
需要持续的 PMCF	对于部署后不会发生变化的成熟稳定技术而言，PMCF 通常是有限的。	这一点至关重要，因为人工智能模型高度依赖于真实世界的数据，而真实世界的数据可能与训练数据不同。
性能稳定性	保持稳定，除非明确更新新的软件版本。	可能会因数据漂移而随时间降低，需要持续监控和重新校准。
意外行为风险	如果上市前测试全面且软件保持不变，则风险较低。	高风险，因为在历史数据集上训练的人工智能模型可能无法很好地概括未见过的真实世界数据。
关键监控重点	主要关注漏洞修复、网络安全风险和软件可靠性。	包括性能漂移、偏差检测、真实世界准确性和意外临床风险。
PMCF 的监管期望	根据报告的问题、用户反馈和不良事件报告定期更新。	要求持续进行真实世界性能评估、数据驱动更新和再培训验证。
风险缓解方法	补丁更新、安全修复，以及在发生重大变化时定期重新验证。	自适应生命周期管理，包括自动模型监控、重新验证和监管报告。
数据收集与分析	通常是基于临床文献回顾和上市后事故报告的回顾性数据。	实时或接近实时的数据收集，需要先进的监控基础设施和合规性。

对于基于软件的传统医疗设备，PMCF 可确保持续安全性，但通常是静态和被动的。相比之下，人工智能驱动的医疗设备由于依赖于不断变化的真实世界数据，因此需要主动和动态的 PMCF 方法。如果不进行持续监控，人工智能模型就会面临性能下降、引入偏差和对患者造成潜在伤害的风险，因此 PMCF 在监管和道德方面都是必要的。

结论

为确保符合 MDR 和 AI 法案，AI 驱动的医疗设备必须整合严格的数据管理、生命周期监控和持续 PMCF。通过采用专门针对人工智能的质量管理实践，制造商可以确保其设备在整个生命周期内保持安全、有效并符合法规要求。

随着人工智能在医疗设备中的应用不断发展，结构化和积极主动的监管策略对于平衡创新、患者安全和法律合规性至关重要。

MDR (EU) 2017/745法规下的CE认证

您是否有关于根据 MDR (EU) 2017/745 法规为您的医疗器械在欧洲获得 CE 标识的问题？请联系我们，获取更多信息和帮助。

选择你的语言或国家

医疗设备中的人工智能：符合欧盟人工智能法案和 MDR 合规性要求

数据是人工智能医疗设备的 "原材料"：监管视角

人工智能驱动与传统医疗设备的生命周期管理

人工智能驱动医疗设备的上市后临床跟踪（PMCF）

结论

MDR (EU) 2017/745法规下的CE认证

DQS新闻

相关文章和事件

英国医疗器械 PMS 法规：第 3 部分 – 英国 PMS 法规与欧盟 MDR

英国医疗器械 PMS 法规：第 2 部分 – 警戒和报告要求

英国医疗器械 PMS 法规：第 1 部分 – 概述和关键要求

DQS在线服务