研究者提出分组秩感知模型合并方法GRAM

Di Wu 等人提出分组秩感知模型合并方法 GRAM，用任务向量的主角度几何关系判断哪些任务应合并在一起，再在每组内执行标准 SVD 合并；合并时只需微调权重。 据该论文称，仅增加一个模型（K=2）时，GRAM 即显著缓解子空间干扰，并在 Flan-T5 的 GLUE 语言理解、8 任务 CLIP 视觉以及 Qwen2-7B-Instruct 搭配四个中英文医疗 LoRA 的医疗指令微调中，持续优于此前的合并方法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。