Tag: Model Merging

All the papers with the tag "Model Merging".

• CAT Merging: A Training-Free Approach for Resolving Conflicts in Model Merging

  grok-3-latest

  Score: 0.72

  Published:2025年5月11日 at  at 13:24

  #Multi-Task Learning, #Model Merging, #Knowledge Conflict, #Parameter Trimming

  本文提出 Conflict-Aware Task Merging (CAT Merging)，一种无需训练的框架，通过参数特定的修剪策略有效缓解多任务模型合并中的知识冲突，显著提升了合并模型的整体性能。

• AdaR1: From Long-CoT to Hybrid-CoT via Bi-Level Adaptive Reasoning Optimization

  grok-3-latest

  Score: 0.74

  Published:2025年4月30日 at  at 14:01

  #LLM, #Reasoning, #Efficiency Optimization, #Model Merging, #Preference Training

  本文提出 AdaR1 框架，通过模型融合和双层偏好训练实现自适应推理，显著降低大型语言模型推理成本（平均长度减少超 50%）同时保持高性能。