本文讨论了多模态医学图像融合领域的多项研究,涵盖多种创新方法及其在不同数据集上的实验表现,以提升医学图像融合质量和诊断准确性等。关键要点包括:
-
BSAFusion方法:将图像配准和融合集成到统一框架,单阶段完成任务,减少模型复杂性,在多个数据集的五个常用评估指标上性能最佳,在MRI-PET和MRI-SPECT数据集的QSSIM指标分别达1.0549和1.0661。
-
WatMIF算法:重点是基于多模态医学图像融合的水印技术,用于远程医疗图像安全和版权保护,鲁棒性较现有算法提升20.14%,加密图像PSNR最高达49.1845 dB ,SSIM值为1,NC值高达0.9999。
-
MMIF-MDWTAOA方法:基于改进离散小波变换和算术优化算法,在MRI与CT图像融合中,实现7.56 bits/pixel的图像熵和94.09%的SSIM。
-
TIEF算法:基于目标信息增强的融合网络,在定量评估指标和下游图像分割任务中展现优势。
-
基于多级引导滤波的方法:自适应图像分解方法,在多模态医学图像融合任务的关键指标上表现优异,计算效率高,适用于实时医疗场景。
-
基于像素显著性和边缘保持处理的方法:在多种定量评估指标中排名第一,计算时间显著低于其他方法。
-
基于深度证据理论的融合框架:用于多模态医学图像分割任务,在PET-CT淋巴瘤和多模态MRI脑肿瘤分割任务中Dice分数提升,不确定性量化指标优于其他方法 。
1、BSAFusion:A Bidirectional Stepwise Feature Alignment Network for Unaligned Medical Image Fusion
https://arxiv.org/abs/2412.08050
https://github.com/slrl123/BSAFusion
论文提出了一种名为BSAFusion 的方法,用于处理未对齐的多模态医学图像的融合问题。这种方法通过将图像配 准 (registration) 和融合 (fusion) 任务集成到一个统一的框架中,实现了在单阶段内同时完成图像对齐和融合。 这种方法的核心优势在于减少了模型复杂性,并提高了融合结果的质量。
在多个数据集的实验中,BSAFusion 方法在多模态医学图像融合的五个常用评估指标 (QAB/F、QCV、QSSIM、
QVIF、QS) 上均取得了最佳性能,尤其是在MRI-PET 和MRI-SPECT 数据集上,其QSSIM 指标分别达到了1.0549和 1.0661,显著优于其他方法,展现了其在特征对齐和融合质量上的显著优势。
2、WatMIF:Multimodal Medical Image Fusion-Based Watermarking for Telehealth Applications
https:/link.springer.com/content/pdf/10.1007/s12559-022-10040-4.pdf
确实涉及了多模态医学图像融合 (Multimodal Medical Image Fusion),但它的主要研究重点是基于多模态医学图 像融合的水印技术,用于远程医疗应用中的图像安全和版权保护。
在该研究中,提出的 WatMIF 算法在鲁棒性方面相较于现有算法提升了20.14%,并且在嵌入融合标记后,加密 图像的 PSNR(峰值信噪比)最高可达49.1845 dB,SSIM (结构相似性)值保持为1, NC (归一化相关性)值
高达0.9999,表明其在不可见性、鲁棒性和安全性方面均表现出色。
3、Enhanced multimodal medical image fusion via modified DWT with arithmetic optimization algorithm
确实讲述了多模态医学图像融合 (Multimodal Medical Image Fusion,MMIF)。它提出了一种基于改进离散小波变 换 (Modified DWT) 和算术优化算法 (Arithmetic Optimization Algorithm,AOA) 的新型多模态医学图像融合方法 (MMIF-MDWTAOA), 旨在通过融合不同模态的医学图像(如CT、MRI、PET等)来提高诊断的准确 性和可靠性。
该研究提出的多模态医学图像融合方法 (MMIF-MDWTAOA) 在MRI 与CT 图像融合中,实现了高达7.568
bits/pixel 的图像熵和94 .09%的结构相似性指数 (SSIM), 显著优于现有方法,表明其在特征融合和图像质量
方面具有卓越性能。
4、Multimodal Medical Image Fusion Network Based on Target Information Enhancement
https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=10534767
文章讲述的是多模态医学图像融合 (Multimodal Medical Image Fusion)。文章提出了一种基于目标信息增强的多 模态医学图像融合网络 (TIEF,Target Information Enhanced Image Fusion Network),旨在通过融合不同模态的医学图像来提高诊断的准确性和效率。
在多模态医学图像融合任务中,TIEF 算法在信息熵、空间频率、平均梯度等定量评估指标上展现出最优或接近最优 的性能,并在下游图像分割任务中取得了最佳的Dice相似系数和Hausdorff距离95%指标,验证了其在融合图像质 量和诊断效果上的显著优势。
5、Advancing multimodal medical image fusion:an adaptive image decomposition approach based on multilevel Guided filtering
https://royalsocietypublishing.org/doi/pdf/10.1098/rsos.231762
https://github.com/S-M-Cloud/Advancing-multimodal-medical-image-fusion
文章讲述的是多模态医学图像融合 (Multimodal Medical Image Fusion)。文章提出了一种基于多级引导滤波
(Multilevel Guided Edge-Preserving Filtering,MLGEPF) 的自适应图像分解方法,用于融合多种模态的医学图 像,以提高诊断的准确性和视觉效果。
在多模态医学图像融合任务中,该方法在特征互信息 (FMI)、 差异相关性总和 (SCD)、Qabf 和 Qy 等关键指标上 取得了显著优于其他方法的高分,表明其在信息保留和结构传递方面具有卓越性能,同时计算效率较高,适用于实 时医疗场景。
6、Multimodality Medical Image Fusion Based on Pixel Significance with Edge-Preserving Processing for Clinical Applications
https://cdn.techscience.cn/files/cmc/2024/TSP_CMC-78-3/TSP_CMC_47256/TSP_CMC_47256.pdf
文章讲述的是多模态医学图像融合 (Multimodal Medical Image Fusion)。文章的核心内容是提出了一种基于像素
显著性 (pixel significance) 和边缘保持处理 (edge-preserving processing) 的多模态医学图像融合方法,旨在通过融合不同模态的医学图像(如CT 和MRI) 来提高图像质量,保留更多重要信息,从而辅助临床诊
断。
在实验中,该方法在所有图像对的多种定量评估指标(如空间频率、平均梯度、互信息、融合对称性等)中均排名 第一,且计算时间显著低于其他方法,展现出卓越的融合性能和效率。
7、Deep evidential fusion with uncertainty quantification and reliability learning for multimodal medical image segmentation
https://arxiv.org/pdf/2309.05919
https://github.com/iWeisskohl/Deep-evidential-fusion
文章确实讲的是多模态医学图像融合 (Multimodal Medical Image Fusion)。文章的核心内容是提出了一个基于深 度证据理论 (Dempster-Shafer Theory,DST) 的融合框架,用于多模态医学图像的分割任务。该框架结合了深度神经网络和证据理论,通过量化不确定性并学习不同模态图像的可靠性,来提高分割的准确性和可靠 性。
在PET-CT 淋巴瘤分割任务中,该方法的Dice分数达到0.811,相比基线模型UNet 提升了4 . 1%;在多模态MRI 脑肿 瘤分割任务中,使用nnFormer 作为特征提取器时, Dice分数达到0.893,相比基线模型提升了1.5%,同时在不确 定性量化指标 (ECE 、Brier分数和NLL) 上均优于其他方法。
8、Discrete Wavelet Transformation based Multimodal Medical Image Fusion for Disease Identification
https://powertechjournal.com/index.php/journal/article/download/319/259
文章提出了一种基于**离散小波变换 (Discrete Wavelet Transform,DWT)**的多模态医学图像融合方法。文章的 核心内容是关于多模态医学图像融合,特别是通过离散小波变换技术将MRI 和PET 图像进行融合,以 提高图像质量和诊断准确性。
该研究通过离散小波变换 (DWT) 融合MRI 和PET 图像,实现了90-95%的诊断准确率,并显著减少了颜色失真,同时保留了解剖和功能信息。
9、On the use of UDWT and fuzzy sets for medical image fusion
https://www.researchgate.net/profile/Dr-Vijaya-
Kishore/publication/374418008_On_the_use of UDWT_and_fuzzy_sets_for_medical_mage_fusion/links/66016 3ced3a08551424d91f8/On-the-use-of-UDWT-and-fuzzy-sets-for-medical-image-fusion.pdf
文章的核心内容是。它提出了一种基于**未抽取离散小波变换 (Undecimated
Discrete Wavelet Transform,UDWT) 和模糊集 (Fuzzy Sets)**的混合方法,用于改善医学图像融合的质量,减
少模糊效应,并增强图像的对比度和边缘信息。
该研究提出的多模态医学图像融合方法在多种模态图像对(如CT-MRI、MRI-PET 等)上实现了显著的
性能提升,例如在MRI-MRA图像对上,融合图像的熵值达到6.99 bits/pixel, 空间频率达到29.0034 cycles/millimeter,边缘信息传递指标QAB/F 达到0.94,均优于现有方法。
10、FusionMamba:dynamic feature enhancement for multimodal image fusion with Mamba
https://arxiv.org/abs/240409498
https://github.com/millieXie/FusionMamba
文章主要研究的是多模态医学图像融合 (Multimodal Medical Image Fusion,MIF),同时也涉及了其他多模态图像 融合任务,例如红外与可见光图像融合 (IR-VIS fusion) 和生物医学图像融合(如GFP-PC 融合)。不 过,多模态医学图像融合是其重点应用领域之一。
在多模态医学图像融合任务中, FusionMamba 在CT-MRI 融合任务中取得了VIF (视觉信息保真度)0.5750、 SCD
(结构内容差异)1.5884、QAB/F (梯度保持指标)0.6429、MS-SSIM (多尺度结构相似性)0.9462和FMI (特征 互信息)0.8624的优异表现,各项指标均优于其他方法,展现出卓越的融合性能。
11、Simultaneous tri-modal medical image fusion and super-resolution using conditional diffusion model
https://arxiv.org/pdf/2404.17357
https://github.com/xylonxu01/tfs-diff
论文讲述的是多模态医学图像融合,具体来说是三模态医学图像融合与超分辨率的研究。论文的核心是三模态医学 图像融合与超分辨率,旨在通过深度学习方法解决多模态图像融合和超分辨率的问题,以提高医学图像的质量和诊断价值。
在哈佛医学图像数据集上,TFS-Diff模型在×8放大倍率下实现了16.50 dB 的峰值信噪比 (PSNR) 和0.980的结构相
似性指数 (SSIM), 显著优于现有最先进方法。
12、Medical image fusion based on machine learning for health diagnosis and monitoring of colorectal cancer
https:/link.springer.com/content/pdf/10.1186/s12880-024-01207-6.pdf












