西北工业大学硕士生翁乐安在顶刊TGRS发表高水平研究成果
-
阅读： 2024/1/24 15:34:07
近日，西北工业大学航空学院硕士翁乐安以第一作者在中科院一区顶级期刊《IEEE Transactions on Geoscience and Remote Sensing》（IF=8.2）发表了题为 “MDINet: Multi-Domain Incremental Network for Change Detection”的研究论文。介绍了一种名为MDINet的多域增量框架，先进行参数化的特征分解，再通过分层知识蒸馏进一步降低灾难遗忘水平，有效解决传统增量学习方法在变化检测领域造成的“知识混淆”(Knowledge Confusion)问题。
图 1 域增量变化检测与其他视觉任务之间的差异和挑战。(a) 面向标签：在常见视觉任务的增量 过程中，利用蒸馏损失来保留类别特定信息，可以视为面向标签。(b) 面向特征：在变化检测的增量过程中，如果仅使用蒸馏来处理域偏移，则会因标签空间的一致性而导致知识混乱。在步骤 t，旧特征（例如蓝色）可能会变成背景（不变），而特征（例如绿色）可能在当前的标签中被标记为已更改。
传统变化检测网络无法应对增量学习（Incremental Learning）的问题，现有的增量学习方法通过人为添加类别并利用旧标签进行学习监督来解决灾难性遗忘的问题。通过对传统知识蒸馏重新审视与实验验证发现现有策略对变化检测任务不适用，本质原因是由于变化检测在增量学习过程中标签空间保持一致而导致不同损失函数在梯度下降时的冲突，使得在优化过程中发生了知识混淆的现象，如图 1所示。
该研究提出了一种名为MDINet的多域增量学习框架，如图 2所示，用于解决变化检测场景下在不同领域数据集之间进行增量学习时出现的知识冲突问题，与传统的增量学习方法相比，MDINet框架采用了更有效的解决方案，通过Change Detection Domain Residual Unit (CD-DRU，如图3) 模块进行对域共享特征和域特有特征进行分解，再通过中间特征分层蒸馏技术，大量实验证明这一框架能够有效解决变化检测在增量场景下发生的知识混淆问题，并大大提高增量学习性能。
图 2多域变化检测框架
图 3 CD-DRU模块的结构
实验结果表明，该研究方法在准确率和召回率等方面都优于其它最先进的网络与增量学习方法。
1.增量性能对比实验：对两个；三个不同顺序的任务序列进行了比较，以和作为评估指标，结果表明MDINet在各种情况下均表现出了优异的稳定性和灵活性。
图 4不同顺序下实验结果
2.消融实验：通过对不同的优化策略、可扩展模块和超参数进行调整，比较了它们对增量性能的影响。结果表明，初始化共享权重、使用差分优化策略以及选择适当的蒸馏系数都可以提高增量性能。
3.算法效率对比实验：通过对模型参数数量、浮点运算次数和GPU推理时间等指标进行比较，比较了不同算法的效率。结果表明，尽管MDINet具有更高的总参数数量和浮点运算次数，但它仍然能够在较短的时间内完成任务，因为它能够有效地利用共享参数和特定参数来执行计算。
该研究的主要创新点在于对增量变化检测任务进行深入的理论分析，揭示了传统增量学习方法在变化检测任务中发生的知识混淆问题，并提出一个基于增量变化检测模型，有效解决了该问题。这项研究工作为多域变化检测领域的研究提供了新的思路和方法。
随着深度学习技术的发展，多域变化检测领域的研究将会更加深入和广泛。未来的研究可以从以下几个方面展开：（1）结合更多的先验知识，如域之间的相似性和差异性等，以进一步提高模型的性能；（2）探索更有效的知识迁移策略，以便更好地利用已有的知识来指导新领域的学习；
文章链接：L. Weng et al., "MDINet: Multi-Domain Incremental Network for Change Detection," in IEEE Transactions on Geoscience and Remote Sensing, doi: 10.1109/TGRS.2023.3348878. https://doi.org/10.1109/tgrs.2023.3348878
转自：“生态遥感前沿”微信公众号
如有侵权，请联系本站删除！