Skip to content

Test-time Correlation Alignment

grok-3-latest
Score: 0.62
Published: at 13:59

Summary: 本文提出测试时相关性对齐(TCA)范式,通过简单的线性变换实现特征相关性对齐,显著提升测试时适应性能,同时保持高效率和抗遗忘能力。

Keywords: Test-Time Adaptation, Correlation Alignment, Domain Shift, Feature Distribution, Efficiency

Authors: Linjing You, Jiabao Lu, Xiayuan Huang

Institution(s): Institute of Automation, Chinese Academy of Sciences, College of Science, Beijing Forestry University

Problem Background

深度神经网络在训练和测试数据分布不一致(distribution shift)时性能下降,而传统领域适应方法因隐私和资源限制无法访问源数据,难以适用。 现有测试时适应(Test-Time Adaptation, TTA)方法主要关注实例级对齐,忽视特征相关性对齐(correlation alignment),且依赖高成本的反向传播操作,同时面临领域遗忘问题(即适应测试领域后对源领域性能下降)。 本文提出测试时相关性对齐(Test-time Correlation Alignment, TCA),旨在通过相关性对齐提升模型在测试领域的性能,同时降低计算开销并减少领域遗忘。

Method

Experiment

Further Thoughts

伪源相关性构建的思路启发我们在无源数据场景下,利用测试数据自身的统计特性近似源分布,可扩展至其他无监督学习任务; 线性变换的高效性提示在资源受限场景中,简单统计方法可能比复杂深度学习方法更实用; 正向后向迁移现象值得深入研究,可能揭示领域适应中的知识迁移机制,未来可设计实验探索其在不同数据集上的普适性。