医疗机器人敏捷监管的法律风险与防范
医疗机器人具有系统规避人为差错、优化医疗服务流程、显著提升诊疗效率与质量等优势,正逐步应用于手术、康复、辅助诊疗等各类临床场景。目前,医疗机器人监管范式从传统规则型监管转向敏捷监管。敏捷监管顺应医疗机器人创新发展趋势,具备高度的包容性、灵敏性和适应性,是监管主体快速识别风险并动态调整监管措施的政府监管模式。《国务院办公厅关于全面深化药品医疗器械监管改革促进医药产业高质量发展的意见》《国家药监局关于发布优化全生命周期监管支持高端医疗器械创新发展有关举措的公告》等文件,确立了医疗机器人敏捷监管的目标与路径。“十五五”时期,医疗机器人敏捷监管承载着建设现代化产业体系、加快高水平科技自立自强等任务要求。但医疗机器人的敏捷监管尚未完全成熟,存在一些法律风险。为加快医药产业高质量发展,必须以法治化方式严密防范风险。
医疗机器人敏捷监管的理念内涵
目标导向性监管。传统规则型监管通过预设行为规则规范医疗机器人应用,难以动态适应医疗机器人的风险变化,可能偏离监管目标。医疗机器人更新迭代速度快,其应用模式与技术方式远非事前规则所能预见。医疗机器人敏捷监管是一种以目标为导向的监管方式,其核心作用在于推动医疗机器人快速上市和临床应用。监管主体应根据医疗机器人的风险表现动态调整监管措施,使医疗机器人在受控的基础上快速迭代和适应复杂场景。这样市场主体在遵循监管主体设定目标的基础上,可以自由灵活地尝试新理念、新技术、新产品。
全生命周期监管。传统规则型监管关注医疗机器人上市前的质量控制,无法及时识别、应对医疗机器人上市后的潜在风险。医疗机器人敏捷监管是覆盖医疗机器人研发设计、生产、上市、应用、退市与报废全过程的风险监管手段。除准入审查外,监管主体实时采集医疗机器人上市后的应用数据,根据不同阶段的风险表现采取相应监管措施,并根据风险变化情况动态调整。这可以有效提升医疗机器人的安全性和可靠性,减少不良事件发生。
差异化监管。传统规则型监管虽可基于医疗机器人功能与场景的区分设定不同监管规则,却不能有效预测其上市后的风险差异表现。医疗机器人敏捷监管赋予企业一定的试错空间,允许存在一定风险的医疗机器人先行上市并逐步优化。监管主体根据医疗机器人的功能类型、使用场景和潜在风险,将其划分为不同等级并采取不同的监管措施。这种分级分类监管可以确保监管主体根据风险状况快速实施相应监管措施,有助于高效配置监管资源。
数智化监管。传统规则型监管依赖人工排查,难以判断医疗机器人在复杂医疗任务中的真实表现,也无法在海量数据中甄别异常。医疗机器人敏捷监管依托人工智能与数据分析技术,可实现监管主体对法律风险的全面监测。医疗机器人接入监管平台后,监管主体可实时获取医疗机器人的运行状态、手术参数与决策日志等数据,利用数智技术处理分析数据可实现自动化监管与持续化风险监管。医疗机器人的风险表现,可迅速被监管主体获知并得到快速响应。这种智能化、自动化的监管方式,有助于提升监管主体的能力并发挥敏捷监管的优势。
医疗机器人敏捷监管的法律风险
监管程序正当性弱化。医疗机器人敏捷监管直接导向监管目标,大量监管资源向结果验证倾斜,监管程序可能让位于结果而被弱化。不良事件报告、定期安全更新报告等程序,因无法适应风险持续监测而被简化。征求意见、公开听证等具有内在价值的程序,因烦琐、漫长可能被虚置,难以保证监管结果的正当性。在差异化监管中,监管程序的简化和忽视易导致监管主体自由裁量的恣意。此外,医疗机器人敏捷监管依赖数智技术形成数智决策程序。数智决策程序既可能因算法偏见而侵蚀程序的中立性,也可能因算法“黑箱”而造成监管不透明。
责任认定不清。医疗机器人敏捷监管高度依赖动态调整措施与数智技术,易产生责任认定不清的风险。传统规则型监管强调产品上市时达到一定标准,监管主体据此认定产品责任主体。敏捷监管强调产品上市后不断优化,监管主体难以依据上市标准认定上市后的产品责任主体。医疗机器人技术更新时,既可能产生新的负责技术模块的主体,也可能发生新的人机交互模式,增加责任认定不清的风险。同时,监管主体利用数智技术对医疗机器人进行监管,本身可能难以具备与市场主体能力相匹配的监管能力。市场主体可运用更高水平技术绕过监管,使得监管主体难以确认责任主体。
监管公平性缺失。医疗机器人敏捷监管采取的差异化监管措施基于风险形成,却较少关注风险背后的能力差异,这可能产生监管不公问题。凭借庞大的合规审查团队和充分的数据支持,大型制造商在制造高风险医疗机器人时具备相应的风险应对能力。一些中小型制造商虽能够制造高风险医疗机器人,却难以承受高昂的合规成本。在医疗机器人应用过程中,医疗机构与医护人员识别医疗机器人应用风险的能力也存在差异。基层医院及其医护人员可能难以识别医疗机器人自主决策的错误,但仍需承担超出其能力范围的医疗事故责任。
医疗机器人敏捷监管的风险防范
优化监管程序机制。防范监管程序正当性发生弱化,应根据医疗机器人敏捷监管的特征优化监管程序机制。一些传统静态监管程序可通过数智技术直接转换为动态监管程序。无需市场主体主动报告,监管主体可以直接根据医疗机器人的性能指标、异常数据表现、自主决策准确程度等自动生成风险评估报告并即时采取监管措施。那些具有内在价值却烦琐漫长的程序,可以改造为快速响应程序。例如,建立在线互动监管平台,逐步推行AI监管沙盒,各方主体可以即时参与论证、提出意见,AI凝练核心争议点与有效意见后实时反馈给监管主体。此外,医疗机器人参与敏捷监管的数智决策程序,应一并输出决策结果和推理过程。监管主体应同步审查决策结果和推理过程,保证程序的中立性。
强化责任追究机制。监管主体应按照医疗机器人全生命周期过程划分责任阶段,明确各阶段研发者、制造商、供应商、医疗机构与医护人员的责任内容,形成医疗机器人主体责任清单。监管主体据此确认一般情形下医疗机器人发生异常的责任规则,明确责任主体及其责任范围。相较于传统责任清单,医疗机器人主体责任清单更加复杂且需动态调整,数智技术的运用为其提供了可行条件。当然,医疗机器人往往涉及更复杂的应用过程,监管主体单靠责任清单可能难以认定主体责任。针对这种特殊情形,监管主体应建立责任商谈机制,邀请多方主体共同参与商谈,得出共识性的责任认定结果。此外,确立举证责任倒置规则、引入独立第三方评估机构等举措,可以弥补监管主体的数智能力不足,强化监管主体的责任追究能力等。
完善公平监管机制。实现医疗机器人敏捷监管的实质公平,应将能力适配性原则融入差异化监管措施。能力适配性原则强调监管主体根据主体能力采取差异化监管措施。为促进中小型制造商与大型制造商的公平竞争,监管主体可为中小型制造商提供识别与应对风险的指导帮扶,并鼓励大型制造商为中小型制造商提供技术支持。同时,为确保责任与能力相匹配,监管主体应根据应对风险的能力区分医疗机器人的应用主体。例如,某些高风险医疗机器人只能由高级别医疗机构和高专业性医护人员应用,低风险医疗机器人则可以全面纳入基层医院及其医护人员的应用范围。此外,监管主体应建立健全技术能力评估、动态调整反馈的监管机制,定期评估各类主体的技术能力或应用能力,并动态调整监管强度与监管等级,确保医疗机器人敏捷监管实现实质公平。
(作者单位:上海财经大学法学院)
医疗机器人敏捷监管的理念内涵
目标导向性监管。传统规则型监管通过预设行为规则规范医疗机器人应用,难以动态适应医疗机器人的风险变化,可能偏离监管目标。医疗机器人更新迭代速度快,其应用模式与技术方式远非事前规则所能预见。医疗机器人敏捷监管是一种以目标为导向的监管方式,其核心作用在于推动医疗机器人快速上市和临床应用。监管主体应根据医疗机器人的风险表现动态调整监管措施,使医疗机器人在受控的基础上快速迭代和适应复杂场景。这样市场主体在遵循监管主体设定目标的基础上,可以自由灵活地尝试新理念、新技术、新产品。
全生命周期监管。传统规则型监管关注医疗机器人上市前的质量控制,无法及时识别、应对医疗机器人上市后的潜在风险。医疗机器人敏捷监管是覆盖医疗机器人研发设计、生产、上市、应用、退市与报废全过程的风险监管手段。除准入审查外,监管主体实时采集医疗机器人上市后的应用数据,根据不同阶段的风险表现采取相应监管措施,并根据风险变化情况动态调整。这可以有效提升医疗机器人的安全性和可靠性,减少不良事件发生。
差异化监管。传统规则型监管虽可基于医疗机器人功能与场景的区分设定不同监管规则,却不能有效预测其上市后的风险差异表现。医疗机器人敏捷监管赋予企业一定的试错空间,允许存在一定风险的医疗机器人先行上市并逐步优化。监管主体根据医疗机器人的功能类型、使用场景和潜在风险,将其划分为不同等级并采取不同的监管措施。这种分级分类监管可以确保监管主体根据风险状况快速实施相应监管措施,有助于高效配置监管资源。
数智化监管。传统规则型监管依赖人工排查,难以判断医疗机器人在复杂医疗任务中的真实表现,也无法在海量数据中甄别异常。医疗机器人敏捷监管依托人工智能与数据分析技术,可实现监管主体对法律风险的全面监测。医疗机器人接入监管平台后,监管主体可实时获取医疗机器人的运行状态、手术参数与决策日志等数据,利用数智技术处理分析数据可实现自动化监管与持续化风险监管。医疗机器人的风险表现,可迅速被监管主体获知并得到快速响应。这种智能化、自动化的监管方式,有助于提升监管主体的能力并发挥敏捷监管的优势。
医疗机器人敏捷监管的法律风险
监管程序正当性弱化。医疗机器人敏捷监管直接导向监管目标,大量监管资源向结果验证倾斜,监管程序可能让位于结果而被弱化。不良事件报告、定期安全更新报告等程序,因无法适应风险持续监测而被简化。征求意见、公开听证等具有内在价值的程序,因烦琐、漫长可能被虚置,难以保证监管结果的正当性。在差异化监管中,监管程序的简化和忽视易导致监管主体自由裁量的恣意。此外,医疗机器人敏捷监管依赖数智技术形成数智决策程序。数智决策程序既可能因算法偏见而侵蚀程序的中立性,也可能因算法“黑箱”而造成监管不透明。
责任认定不清。医疗机器人敏捷监管高度依赖动态调整措施与数智技术,易产生责任认定不清的风险。传统规则型监管强调产品上市时达到一定标准,监管主体据此认定产品责任主体。敏捷监管强调产品上市后不断优化,监管主体难以依据上市标准认定上市后的产品责任主体。医疗机器人技术更新时,既可能产生新的负责技术模块的主体,也可能发生新的人机交互模式,增加责任认定不清的风险。同时,监管主体利用数智技术对医疗机器人进行监管,本身可能难以具备与市场主体能力相匹配的监管能力。市场主体可运用更高水平技术绕过监管,使得监管主体难以确认责任主体。
监管公平性缺失。医疗机器人敏捷监管采取的差异化监管措施基于风险形成,却较少关注风险背后的能力差异,这可能产生监管不公问题。凭借庞大的合规审查团队和充分的数据支持,大型制造商在制造高风险医疗机器人时具备相应的风险应对能力。一些中小型制造商虽能够制造高风险医疗机器人,却难以承受高昂的合规成本。在医疗机器人应用过程中,医疗机构与医护人员识别医疗机器人应用风险的能力也存在差异。基层医院及其医护人员可能难以识别医疗机器人自主决策的错误,但仍需承担超出其能力范围的医疗事故责任。
医疗机器人敏捷监管的风险防范
优化监管程序机制。防范监管程序正当性发生弱化,应根据医疗机器人敏捷监管的特征优化监管程序机制。一些传统静态监管程序可通过数智技术直接转换为动态监管程序。无需市场主体主动报告,监管主体可以直接根据医疗机器人的性能指标、异常数据表现、自主决策准确程度等自动生成风险评估报告并即时采取监管措施。那些具有内在价值却烦琐漫长的程序,可以改造为快速响应程序。例如,建立在线互动监管平台,逐步推行AI监管沙盒,各方主体可以即时参与论证、提出意见,AI凝练核心争议点与有效意见后实时反馈给监管主体。此外,医疗机器人参与敏捷监管的数智决策程序,应一并输出决策结果和推理过程。监管主体应同步审查决策结果和推理过程,保证程序的中立性。
强化责任追究机制。监管主体应按照医疗机器人全生命周期过程划分责任阶段,明确各阶段研发者、制造商、供应商、医疗机构与医护人员的责任内容,形成医疗机器人主体责任清单。监管主体据此确认一般情形下医疗机器人发生异常的责任规则,明确责任主体及其责任范围。相较于传统责任清单,医疗机器人主体责任清单更加复杂且需动态调整,数智技术的运用为其提供了可行条件。当然,医疗机器人往往涉及更复杂的应用过程,监管主体单靠责任清单可能难以认定主体责任。针对这种特殊情形,监管主体应建立责任商谈机制,邀请多方主体共同参与商谈,得出共识性的责任认定结果。此外,确立举证责任倒置规则、引入独立第三方评估机构等举措,可以弥补监管主体的数智能力不足,强化监管主体的责任追究能力等。
完善公平监管机制。实现医疗机器人敏捷监管的实质公平,应将能力适配性原则融入差异化监管措施。能力适配性原则强调监管主体根据主体能力采取差异化监管措施。为促进中小型制造商与大型制造商的公平竞争,监管主体可为中小型制造商提供识别与应对风险的指导帮扶,并鼓励大型制造商为中小型制造商提供技术支持。同时,为确保责任与能力相匹配,监管主体应根据应对风险的能力区分医疗机器人的应用主体。例如,某些高风险医疗机器人只能由高级别医疗机构和高专业性医护人员应用,低风险医疗机器人则可以全面纳入基层医院及其医护人员的应用范围。此外,监管主体应建立健全技术能力评估、动态调整反馈的监管机制,定期评估各类主体的技术能力或应用能力,并动态调整监管强度与监管等级,确保医疗机器人敏捷监管实现实质公平。
(作者单位:上海财经大学法学院)
