美国FDA局长斯科特·戈特利布在最近的一次演讲中承认,人工智能领域的创新发展速度已远超过预期。专家们担心FDA监管跟不上发展,FDA正在采取快速行动,解决悬而未决的监管问题,却仍事与愿违。
人工智能(AI)在医学领域的应用正在全速发展中,从谷歌到亚马逊,再到微软,各大公司都投入巨资开发新产品,期望巨额回报,当然,风险也与之并存。
美国FDA今年已经批准了三种产品,均为使用AI技术辅助诊断医疗和健康问题,其中之一是检测腕关节骨折的产品。而其他公司,如IBM,尽管暂未得到批准,已将产品投放到市场上试用。
AI技术发展速度如此之快,专家们担心FDA监管跟不上。FDA致力于开发一种用于监管AI技术的程序,在过去7年里,他们一直在为跟得上AI技术的发展而努力,却事与愿违。
专家们认为FDA无法与企业一样提供具有竞争力的薪酬,因此,无法吸引具备AI技术和专业人才评估那些算法的利弊。
监管的不确定性带来两方面隐患:
一是缺乏透明度,成为临床可受益的技术到达医生和患者的阻碍;二是没有明确规则,公司会继续自由地将仅接受了有限安全性和有效性审查的产品投放市场。
威斯康辛大学法学院生物伦理学奥索里奥教授认为:AI技术的快速发展也给监管部门带来超额审查工作量,FDA不可能对所有问题都进行深入评估。
不堪重负的FDA
FDA戈特利布局长在最近一次演讲中承认,AI领域的创新发展速度已远超过预期。FDA正在采取快速行动,解决悬而未决的监管问题。
去年年底,FDA公布了一项数字健康创新计划,发布了一系列文件。阐述FDA如何将《21世纪治疗指南》应用于基于AI软件的临床决策系统,其中包括AI技术辅助工具。
FDA发言人斯蒂芬妮·科米沃在回复统计问题时指出:该指南旨在阐明FDA将继续对使用“黑匣子”AI产品进行监管,用户很难了解系统是如何得出结论的。FDA允许用户独立审查这类结论的监管产品排除在外。
许多律师和业界同仁表示,目前尚不清楚FDA如何定义“独立审查”一词,以及如何区分以不同方式依赖AI技术的产品。FDA也暂未公布最终解决方案。
FDA专家贝瑟尼·希尔斯指出,这将衍生一系列令人担忧的不确定性问题,除了重申《21世纪治愈法》中的法定词句之外,并没有提供太多其他信息。
随着一大批科技公司进入医疗保健领域, FDA明确监管方案的压力与日俱增。
在这种大环境下,FDA是否有足够的专业知识和资源,在鼓励创新和在新技术无法证明其准确性和可靠性的同时,甚至危及患者生命之间,找到合适平衡点。
一种新的监管方法
戈特利布局长强调,AI在改善药物供应方面“有着巨大前景”,FDA打算在确保安全性和有效性的同时为其保驾护航、推动其应用。
他还提出了一种新颖的监管方法:FDA将启动“预认证计划”,审查开发AI产品的公司潜在质量,不再把精力专注于单个AI产品的审查。
这种监管方式是针对机器学习技术量体裁衣做出的调整,因为AI技术在开发和测试期间不断被调整从而使其性能得以改进。它允许公司不断调整,且不必向FDA提交新文件。
最近,众达律师事务所律师指出,使用预认证技术对AI产品进行审查,是FDA对传统行事风格的“重大颠覆”。
尽管FDA对前景十分乐观,但对于这种做法与现有法定条款保持一致的问题只字未提,这让人怀疑在实施前是否要修正现有法规。
威斯康星大学奥索里奥教授认为,如果一家预认证的公司开发的AI产品被证明存在缺陷,需要召回,目前尚不清楚FDA将如何应对。
FDA给出的回应是:预认证审查仍要求公司在上市前证实其产品安全性和有效性。在获得批准后,FDA继续监控他们的表现。
FDA正在努力建立一个监管框架,确保消费者继续获得安全有效的AI产品。目前FDA面临的最大压力是监管创新,而不是新技术快速发展带来超额工作量。