乳腺癌是危害女性健康的恶性疾病,早发现与早治疗是提高乳腺癌患者存活率的重要手段。超声乳腺检查具有安全性、实效性和较高的性价比,适合乳腺常规普查。近几年发展的超声弹性成像技术通过获取组织弹性信息进行成像,为乳腺肿瘤早期检查提供了较为准确有效的依据。
临床上,超声灰阶图像能反映出肿块形态、病变方向、病变界限及边缘等特征,但是诊断信息量单一,容易误诊漏诊。超声弹性成像技术能提供肿瘤组织弹性信息,从一定程度上能反映乳腺肿块的病变情况。为此,中科院声学研究所超声学实验室研究员林伟军课题组研究生王彤、副研究员苏畅等人提出了基于多模态融合的乳腺肿瘤超声图像智能诊断方法,结合乳腺肿瘤超声弹性特征与B型图像特征,利用卷积神经网络相关算法进行多模态融合的智能诊断研究。研究人员分别设计了基于B型图像与弹性比值的多模态融合模型与基于B型图像与弹性图像的多模态融合模型,利用灰阶图像的特征分别与弹性比值特征和图像特征进行结合来实现乳腺良恶性诊断,并评估了融合弹性比值信息与融合弹性图像信息对乳腺分类性能的影响。
多模态融合研究结果显示,融合灰阶图像与弹性比值的模型以及融合灰阶图像与弹性图像的模型的分类表现均优于单独输入灰阶图像的结果,证明了多模态特征融合对乳腺超声诊断的价值。其中,基于灰阶图像与弹性图像的多模态融合模型的诊断准确率约93.51%。
研究提出的基于深度学习的多模态特征融合方法可提升超声诊断乳腺肿瘤的敏感度、特异度及准确率,为乳腺超声智能诊断提供了新思路。相关研究成果在线发表在《中国医学影像技术杂志》上。研究工作得到国家重点研发计划、中科院青年创新促进会的资助。
论文链接
图1.基于B型图像与弹性图像的多模态融合模型
图2.基于B型图像与弹性图像的多模态融合模型