为什么医学影像AI已进入「后深度学习时代」？( 四 )_“深度学习正走向两极化

这些都可能会给深度学习的应用带来诸多不确定性，致使其在不同数据集上的性能可能会截然不同，鲁棒性较差。

在医疗领域的应用上，深度学习的不可解释性也是个无法回避的问题。

医生和病人都很难接受这种不可解释的诊断结果和治疗方案，而当前工科会议的论文，基于不可解释的深度学习研究成果几乎是主流。

“数据驱动的深度学习只是数据处理的工具之一，它在医疗领域离真正的落地还有相当大的距离，还需在理论和技术上有所突破。学术界研究深度学习不应太工程化，应该多研究一些基础性的理论问题，提出更有原创性的算法。 ”李纯明谈到。

“我认为，从眼前来讲，不应该一窝蜂都用数据驱动的深度学习。一些医学图像算法的开发也应该针对不同的应用，去设计不同的算法，开发者尽可能在算法中融入领域知识，设计出针对特定应用的个性化的方法，而不是对每个病种都在TensorFlow或Pytorch等开源框架上用不同的数据进行训练和调参。由于深度学习这种数据驱动的学习过程，是一种较少利用领域知识的机制，因此技术的开发也就几乎不需要开发者与医生的交流。医生在技术开发的过程中只起到了对训练数据手工标注的作用，也就是说医生被当作人工智能背后的‘标注工人’来用。 ”