矩阵对向量求导

矩阵、向量求导法则 （1）行向量对元素求导 设 [ ]nT yy 1=y 是 n 维行向量，x 是元素，则     ∂ ∂ ∂ ∂ = ∂ ∂ x y x y x n T  1y 。 （2）列向量对元素求导 设           = my y  1 y 是 m 维列向量， x 是元素，则               ∂ ∂ ∂ ∂ = ∂ ∂ x y x y x m  1 y 。 （3）矩阵对元素求导 设           = mnm n yy yy Y    1 111 是 nm× 矩阵， x 是元素，则               ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ = ∂ ∂ x y x y x y x y x Y mnm n    1 111 。 （4）元素对行向量求导 设 y 是元素， ][ 1 q T xx =x 是 q 维行向量，则         ∂ ∂ ∂ ∂ = ∂ ∂ q T x y x yy  1x 。 （5）元素对列向量求导 设 y 是元素，           = px x  1 x 是 p 维列向量，则               ∂ ∂ ∂ ∂ = ∂ ∂ px y x y y  1 x 。 （6）元素对矩阵求导 设 y 是元素，           = pqp q yx xx X    1 111 是 qp× 矩阵，则               ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ = ∂ ∂ pqp q x y x y x y x y X y    1 111 。 1 （7）行向量对列向量求导 设 [ ]nT yy 1=y 是 n 维行向量，           = px x  1 x 是 p 维列向量，则               ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ = ∂ ∂ p n p n T x y x y x y x y    1 11 1 x y 。 （8）列向量对行向量求导 设           = my y  1 y 是 m 维列向量， ][ 1 q T xx =x 是 q 维行向量，则               ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ = ∂ ∂ q mm q T x y x y x y x y    1 1 1 1 x y 。 （9）行向量对行向量求导 设 [ ]nT yy 1=y 是 n 维行向量， ][ 1 qT xx =x 是 q 维行向量，则         ∂ ∂ ∂ ∂ = ∂ ∂ q TT T T xx yy x y  1 。 （10）列向量对列向量求导 设           = my y  1 y 是 m 维列向量，           = px x  1 x 是 p 维列向量，则               ∂ ∂ ∂ ∂ = ∂ ∂ x x x y my y  1 。 （11）矩阵对行向量求导 设           = mnm n yy yy Y    1 111 是 nm× 矩阵， ][ 1 q T xx =x 是 q 维行向量，则 2         ∂ ∂ ∂ ∂ = ∂ ∂ q T x Y x YY  1x 。 （12）矩阵对列向量求导 设           = mnm n yy yy Y    1 111 是 nm× 矩阵，           = px x  1 x 是 p 维列向量，则               ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ = ∂ ∂ xx xx x mnm n yy yy Y    1 111 。 （13）行向量对矩阵求导 设 [ ]nT yy 1=y 是 n 维行向量，           = pqp q yx xx X    1 111 是 qp× 矩阵，则                 ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ = ∂ ∂ pq T p T q TT T xx xx X yy yy y    1 111 。 （14）列向量对矩阵求导 设           = my y  1 y 是 m 维列向量，           = pqp q yx xx X    1 111 是 qp× 矩阵，则               ∂ ∂ ∂ ∂ = ∂ ∂ X y X y X m  1 y 。 （15）矩阵对矩阵求导 设           = mnm n yy yy Y    1 111           = T m T y y  1 是 nm× 矩阵，           = pqp q yx xx X    1 111 ][ 1 qxx = 是 qp× 矩阵，则 3                 ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ =               ∂ ∂ ∂ ∂ =         ∂ ∂ ∂ ∂ = ∂ ∂ q T m T m q TT T m T q X XYY X Y x y x y x y x y y y xx     1 1 1 11 1 。 例 设       = ∂ ∂ xxyx yyxy X A 2 2 2 2 ，       = y x X ，根据（12）矩阵对列向量求导 法则，有             ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ = ∂ ∂ X x X xy X x X y X y X xy X A )2()( )()2( 2 2 2 2             = 020 122 122 002 x yx yx y 。 例 设       = fed cba Y ，           = zw yv xu X ，根据（15）矩阵对矩阵求导法则，有 [ ] [ ] [ ] [ ]                                   ∂ ∂           ∂ ∂           ∂ ∂           ∂ ∂ = ∂ ∂ z y x fed w v u fed z y x cba w v u cba X Y                                 ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ = z f z e z d w f w e w d y f y e y d v f v e v d x f x e x d u f u e u d z c z b z a w c w b w a y c y b y a v c v b v a x c x b x a u c u b u a 。 4