多任务微调里，最危险的不是任务多，而是比例随意
在很多多任务微调项目中，任务比例往往是这样定下来的：
- 这个任务数据多，就多一点
- 这个任务重要，就多一点
- 实在不知道，就先平均
当时大家心里想的是：
“反正模型会自己学平衡。”
但等模型训完，你往往会发现一些奇怪的变化：
- 某些任务表现异常好
- 某些任务明显退化
- 模型的整体行为风格，发生了变化
这时候你才意识到一个问题：
任务比例不是“数据权重”，
而是模型行为偏好的塑造器。
一个必须先摆出来的结论（非常重要）
在正式拆之前，我先把这篇文章的核心判断写出来：
在多任务微调中，
任务比例决定的不是“模型学多少”，
而是“模型更愿意成为什么样子”。
如果你还把任务比例理解成“样本多少”，
那后面几乎每一步都会踩坑。
第一层误解：把任务比例当成“公平分配”
很多人第一次做多任务微调时，会有一种朴素的公平感：
“每个任务都很重要，那就 1:1:1 吧。”
从直觉上看，这似乎很合理。
但在模型眼里，这个“公平”完全不是你想的那样。
一个非常现实的事实
不同任务，对模型的“梯度强度”是完全不同的。
即使：
- 样本数一样
- loss 函数形式一样
由于任务本身的差异：
- 输出空间不同
- 约束强度不同
- 容错程度不同
模型在反向传播时，
接收到的“行为指引力度”并不对等。
于是：
1:1:1 的比例，
并不意味着 1:1:1 的行为影响。
第二层：任务比例如何“悄悄决定主任务”
在很多多任务项目中，嘴上说的是“多任务”，
但模型最后一定会表现得像：
- 某一个任务是“主任务”
- 其他任务像是“附加条件”
问题是：
这个“主任务”，往往不是你嘴上说的那个。
它更可能是：
- 梯度更稳定的
- loss 更容易下降的
- 数据分布更集中的
而任务比例，正是放大这种倾向的关键因素。
当某个任务在比例上稍微占优时，模型就会更频繁地：
- 在这个任务的语境下更新参数
- 调整输出分布
- 固化相应的行为模式
久而久之：
模型开始“以这个任务的视角理解世界”。
主任务吸附效应示意图
第三层：任务比例如何影响模型的“风险偏好”
这是一个非常少被讨论、但极其重要的点。
不同任务，往往隐含着不同的风险取向：
- 有的任务鼓励确定回答
- 有的任务鼓励保守拒答
- 有的任务鼓励多角度解释
当你调整任务比例时，
你其实在做一件事：
决定模型在不确定情况下，更倾向于哪一种行为。
举个非常真实的例子：
问答任务比例高
- 模型更爱“直接给结论”
安全/合规任务比例高
- 模型更爱“模糊表达、兜圈子”
这不是 bug，
而是模型在学习你提供的行为偏好统计。
第四层：为什么次要任务总是“悄悄退化”
这是几乎所有多任务项目都会遇到的现象。
你会发现：
- 主任务效果很好
- 某些任务“好像也还行”
- 但单独拉出来一测，就明显不行
原因在于：
任务比例不仅影响学习强度，
还影响“遗忘速度”。
在训练过程中：
- 高比例任务不断被强化
- 低比例任务的梯度更新间隔变长
于是模型会：
- 更快适应主任务
- 对次要任务逐渐“失去敏感度”
这就是所谓的：
隐性灾难性遗忘。
第五层：任务比例如何改变“模型的语言风格”
这是一个非常直观、但经常被忽略的影响。
你可能会发现：
- 模型语气变得更像客服
- 或更像百科
- 或更像对话助理
哪怕你并没有显式训练“风格”。
原因很简单：
语言风格，本身就是任务统计的副产物。
如果某一类任务：
- 句式固定
- 语气一致
- 输出长度稳定
而它在比例上占优，
模型就会：
把这种风格，当成“默认说话方式”。
第六层：代码层面，任务比例到底是怎么生效的
我们用一段极简伪代码，把机制说清楚。
# 多任务训练的一个极简示意
tasks = {
"task_a": dataset_a,
"task_b": dataset_b,
"task_c": dataset_c,
}
task_weights = {
"task_a": 0.6,
"task_b": 0.3,
"task_c": 0.1,
}
def sample_task():
return random.choices(
population=list(tasks.keys()),
weights=list(task_weights.values())
)[0]
for step in training_steps:
task = sample_task()
batch = sample_batch(tasks[task])
loss = compute_loss(model, batch)
loss.backward()
optimizer.step()
注意这里的关键点：
- 每一步，模型只为一个任务服务
比例决定的是：
哪一类行为被更频繁地强化
而不是：
- 模型“记住了多少样本”
第七层：为什么“后期调比例”，效果特别明显
很多人会发现：
“模型快训完的时候，
稍微调一下任务比例，
行为变化特别大。”
这是因为：
- 后期模型已经形成稳定行为模式
- 梯度更新更多是在“微调边界”
这时候哪怕是：
- 10% 的比例变化
- 都可能导致行为偏好发生明显迁移
于是你会看到：
任务比例，
在训练后期变成了“性格旋钮”。
训练阶段 × 任务比例 敏感度变化
第八层：为什么平均比例，往往是最危险的选择
这是一个反直觉结论。
“平均”看起来最公平，
但在多任务微调中，它往往意味着：
- 没有明确主线
- 行为约束相互拉扯
- 模型学会“折中表达”
结果是：
- 每个任务都“还行”
- 但没有一个任务真的稳
工程上，这通常是最难用的状态。
一个非常真实的任务比例演化路径
一开始：平均分配，求稳
中期：主任务拉高比例
后期：靠比例修行为
最后：模型像被“拽”来拽去
注意：
问题不是“调比例”，
而是“用比例解决本该由系统解决的问题”。
一个非常实用的自检问题（强烈建议）
在你准备再调一次任务比例之前，可以问自己一句话：
我现在希望模型在“不确定时”，
更像哪一个任务？
- 如果答得很清楚 → 比例调整有意义
- 如果答不上来 → 调了也只会更乱
很多团队在多任务微调中反复调整任务比例，却很难解释模型行为变化的来源。用LLaMA-Factory online对不同任务比例下的模型版本进行并行对照，更容易看清：行为偏好是如何随着比例变化被逐步塑造的，而不是凭感觉试错。
总结：任务比例不是参数，是价值选择
我用一句话，把这篇文章彻底收住：
在多任务微调中，
你调的从来不是“训练配比”，
而是模型在世界面前，
更愿意扮演哪一种角色。
当你开始：
- 把任务比例当成行为偏好
- 而不是数据比例
- 把“像谁”放在“准不准”之前
你才真正开始工程化地做多任务微调。
