跳到正文
arXiv 隐私论文· Di Wu·· 1 天前AI 评分22

GRAM:基于子空间对齐的分组秩感知模型合并

GRAM: Group-wise Rank-Aware Model Merging via Subspace Alignment

AI 导读

针对多任务部署中模型合并的子空间干扰问题,研究者提出分组秩感知模型合并方法 GRAM,利用任务向量的主角度几何关系决定哪些任务应合并在一起,再在每组内执行标准 SVD 合并,合并时仅需微调权重。

来源:arXiv 隐私论文 · arxiv.org