医学图像分割新方法：超越自注意力: 用于医学图像分割的可变形大核注意力

深碍√TFBOYSˉ_ 2024-03-08 06:37 80阅读 0赞

--------------------

## 前言 ##

本文提出可变形大核注意力(D-LKA Net)，即采用大卷积核来充分理解体素上下文的简化注意力机制，在学分割数据集(Synapse、NIH 胰腺和皮肤病变)上证明了其卓越的性能  
医学图像分割通过 Transformer 模型得到了显著改进，该模型在掌握深远的上下文和全局上下文信息方面表现出色。 然而，这些模型不断增长的计算需求 (与平方token数量成正比) 限制了它们的深度和分辨率能力。当前大多数方法逐片处理 D 体图像数据 (称为伪 3D)，缺少关键的片间信息，从而降低模型的整体性能。为了解决这些挑战，我们引入了Deformable LargeKernel Attention (D-LKA Attention》的概念，这是一种采用大卷积核来充分理解体积上下文的简化注意力机制。 这种机制在类似于自注意力的感受野中运行，同时避免了计算开销。此外，我们提出的注意力机制受益于可变形卷积来灵活地扭曲采样网格，使模型能够适当地适应不同的数据模式。 我们设计了 D-LKA Attention 的 2D 和 3D 改编，后者在跨深度数据理解方面表现出色。这些组件共同塑造了我们新颖的分层 Vision Transformer 架构，即 D-LKA Net。 我们的模型针对流行的医学分割数据集 (Synapse、 NIH 胰腺和皮肤病变)上的领先方法进行的评估证明了其卓越的性能。

--------------------

![在这里插入图片描述][71197f83426046079c096fd4eb7805cf.jpeg]

![在这里插入图片描述][1c42cff0ccc3461cb5eae45fe04597bf.jpeg]  
![在这里插入图片描述][370aab4234704a19ad470e3d9927317d.jpeg]  
![在这里插入图片描述][821585f82c24412b8f3351bf74f5b57b.jpeg]  
![在这里插入图片描述][3d4a031b81c44ccd945a4220afefdb30.jpeg]

![在这里插入图片描述][22cf587b86e0470eaa0bedf92d477625.jpeg]  
![在这里插入图片描述][adc73bb926be430d95a27f3d94a2478f.jpeg]  
![在这里插入图片描述][7a505b0e34e34bb08844891e3abbaae3.jpeg]  
![在这里插入图片描述][9a2d1db639ae4b8d9c5dd9cd6f0d7df6.jpeg]

论文地址：https://arxiv.org/abs/2309.00121  
代码地址：https://github.com/mindflow-institue/deformableLKA

## 总结 ##

以上就是今天要讲的内容，  
关注公众号 CV算法小屋 了解更多前沿AIGC技术，帮助你更好的创业，发论文，找工作  
校招找工作没有亮眼的项目怎么办  
加技术交流群：加我微信 Lh1141755859

[71197f83426046079c096fd4eb7805cf.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/08/653b733bf5f2402086b21b4afd0b6067.png
[1c42cff0ccc3461cb5eae45fe04597bf.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/08/febc3cd61caa4f679164916f056f2d18.png
[370aab4234704a19ad470e3d9927317d.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/08/b1dc2a6d1e8e4c00a24d53b54b0a122a.png
[821585f82c24412b8f3351bf74f5b57b.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/08/613410ee9eb44745a984b74b8895f03b.png
[3d4a031b81c44ccd945a4220afefdb30.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/08/569248a1b21842c3a51dd52341dd68d0.png
[22cf587b86e0470eaa0bedf92d477625.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/08/307061c986c547b6b1ea1a4ee1e7a881.png
[adc73bb926be430d95a27f3d94a2478f.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/08/dc5af6cb49d14d0c9ee793b03884d031.png
[7a505b0e34e34bb08844891e3abbaae3.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/08/1a2d1cece43941f58167c9a0fe2fec93.png
[9a2d1db639ae4b8d9c5dd9cd6f0d7df6.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/08/57b7b8b82eda4afe8fe1f1d09163f792.png