向量对向量求导链式法则：
标量对向量求导链式法则：
标量对多个向量求导链式法则（以最小二乘法求导为例）：
标量对多个矩阵求导链式法则（这里没有给出基于矩阵整体的链式求导法则，矩阵对矩阵求导过于复杂，这里没有涉及）：
有用的结论（机器学习尤其深度学习中经常用到）：
以上结论证明如下：
总结：优先先考虑链式求导法则，尤其是以上四个结论，其次考虑微分法，最后通过定义法保底
该文参考刘建平老师的博客：
相关文章：