Multi-task learning 中的Loss设计

核心问题：

在Multi-task learning的一个核心的问题是loss的设计：
1、如何控制各子任务loss的权重？
2、起始训练时各子任务loss的数量级不同会对收敛造成哪些影响？
这两个问题归结起来是Gradient Balancing(梯度平衡)的问题，不同任务的loss的梯度相差过大，导致梯度小的loss在训练过程中被梯度大的loss所带走。

解决方式：

1.分阶段训练。比如 task A 训练的收敛后，再把 A 和 B join 到一起训练。具体实现上可以看成手动调 loss weight，一开始让 task B 的权重变成一个极小值，比如 10e-6。先训练哪个task，给多少 loss weight，可以根据单各个 task 的收敛曲线来调（预先了解下各个 task 在什么情况下才能收敛到最好）。
2.Grid search。

PS:

Multi-task learning 核心的问题通常是可简单分为两类：
How to share: 这里主要涉及到基于 multi-task learning 的网络设计。
Share how much: 如何平衡多任务的相关性使得每个任务都能有比 single-task training 取得更好的结果。