【原创】人工智能医疗器械临床试验伦理审查要点

近年来,随着技术的不断进步,诊断专家系统,医疗机器人等人工智能产品正不断应用于医疗领域,大幅提升了效率和效益,减轻了医护人员的工作量,但同时也不可避免地带来了关于医疗人工智能技术的伦理问题。这些问题,既有人工智能的共性问题,也有与医疗相关的特殊性伦理问题。伦理委员会审查人工智能医疗器械的核心问题包括风险评估、数据库、数据安全及软件更新。

1. 难以准确评估风险

人工智能医疗器械的使用与健康息息相关,风险评估尤为重要。临床使用风险应考虑数据质量控制、算法泛化能力的直接影响和算力所用计算资源(即运行环境)失效的间接影响。为使风险最小化,确保人工智能医疗器械的可靠性,需在使用过程中评估其风险。伦理审查中应注意其考量因素是否包括了临床使用中的假阳性、假阴性和进口软件的中外差异,以及风险管理活动相关的预期用途、使用场景、核心功能及措施、要求。

2. 构建恰当类型数据集

数据是人工智能医疗器械的核心要素,将成为制约人工智能医疗器械发展的瓶颈。因此,数据集的构建是人工智能医疗器械审批的先行之举,2019年7月17日之前我国仅存在肺结节和眼底两类影像标准数据集,未来将建立肺CT、脑磁共振、冠状动脉CT血管造影等更多测试样本标准数据集,且明确测试数据集的类型包含检验数据库、真实世界数据。基于足够数量的数据库样本用于训练人工智能医疗器械,将大幅降低其误诊率和漏诊率。

3. 确保数据安全

数据安全已成为人工智能的关注重点。企业作为运营者应承担主体防护责任,主管部门应履行监管责任。数据安全性的提高需得到医疗机构的配合,医疗机构在对健康数据进行归档、备份等数据传输操作时,尤其是通过公共互联网传输敏感数据时,若未对敏感数据进行加密处理,容易造成患者治疗信息、基因等重要医疗健康数据信息泄露。

4. 算法更新导致软件迭代

软件更新是导致人工智能软件召回的主要原因之一,应考虑对软件安全性和有效性的正面和负面影响。软件更新包括数据驱动型和算法驱动型软件更新,由此产生重大软件更新、轻微软件更新及其版本命名规则。人工智能的算法虽说只是一种数学表达,看似与价值无关,实际上却不可避免地存在主观偏见。这种偏见的来源是多方面的,既有可能来自于训练系统的数据输入,又有可能来自于编程人员的价值观嵌入。为加快人工智能医疗器械的审批,基于现有历史数据的回顾性研究可用于临床评价,甚至算法性能评估可采用属于回顾性研究的第三方数据库。

参考文献:

1)李鸿浩,段伟文,陈蕾,等.医疗人工智能技术研发与应用的伦理挑战和对策——以我国大型公立医院为例的思考[J].人工智能,2019,000(004):P.70-78.

2)周吉银,李红英,杨阳.人工智能医疗器械的伦理审查要点[J].医学与哲学,2020:35-39.

相关链接:

① 凡本网注明"稿件来源:“杭州欧洲杯下载科技集团有限公司"的所有文字、图片和音视频稿件,版权均属杭州欧洲杯下载科技集团有限公司所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本网协议授权的媒体、网站,在下载使用时必须注明"稿件来源:杭州欧洲杯下载科技集团有限公司",违者本网将依法追究责任。
② 本网未注明"稿件来源:杭州欧洲杯下载科技集团有限公司 "的文/图等稿件均为转载稿,本网转载出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如其他媒体、网站或个人从本网下载使用,必须保留本网注明的"稿件来源",并自负版权等法律责任。如擅自篡改为"稿件来源:杭州欧洲杯下载科技集团有限公司",本网将依法追究责任。如对稿件内容有疑议,请及时与我们联系。
③ 如本网转载稿涉及版权等问题,请作者在两周内速来电或来函与杭州欧洲杯下载科技集团有限公司联系。
联系我们
总部(杭州):
电话:0571-87206527
邮箱:md@cirs-group.com
北京:
电话:010-83123902
邮箱:md@cirs-group.com
爱尔兰:
电话:+353 (1) 477 3710
邮箱:service@cirs-reach.com
韩国:
电话:+82 2 6347 8801
邮箱:service@cirs-reach.com
活动信息