李老师-向量求导法则

李老师-向量求导法则 ,,我们总是习惯用等表示列向量～而表示行向量xy,xy, 矩阵、向量求导法则 李启才――很多来自网络 (1)行向量对元素求导 T,y,y,y，，Tn1设 是 维行向量， 是元素，则 。 ,,y,y？ynx,？1n,,,x,x,x，， 排列方式:仍排成行 (2)列向量对元素求导 ,y，，1y，，,,1,x,y,,,,,？y设 是 维列向量， 是元素，则 。 mx？,,,,,,x,ym,,y,,m，，,x,,，， 排列方式:仍排成列 (3)矩阵对元素求导 y？y，，111n,,Y,？？设 是 矩阵， 是元素，则 m，nx,, ,,y？ym1mn，， ,y,y，，1n11？,,,x,x,Y,, 。 ,？,,,x,y,ym1mn,,？,,,x,x，，排列方式:仍排成矩阵 公式: dAtBt，dAtBt，，，，，，，，，，，，dddd,，AtBt,,，,AtBtAtBt, ，，，，，，，，，，，，dtdtdtdtdtdt以上向量(矩阵)对标量(即元素)求导，即向量(矩阵)各元素分别对标量求导，求导后 排列方式不变 (4)元素对行向量求导 ，，,y,,yyTx,[x？x],设 是元素， 是 维行向量，则 ？ 。 yq,,1qT,x,x,x,,1q，， 排列方式:仍排成行 (5)元素对列向量求导 ,y，， ,,，，x1,x1,y,,,,设 是元素， 是 维列向量，则 。 ypx,？,？,,,,x,,y,,,,xp，，,,,xp，， 排列方式:仍排成列 (6)元素对矩阵求导 ，，x？x111q,,设 是元素， 是 矩阵，则 X,？？yp，q,, ,,x？yp1pq，， yy,,，，？,,,x,x111q,,y,？, 。 ,,X,yy,,,,？,,,x,xp1pq，，排列方式:仍排成p*q矩阵 以上三种标量对向量或矩阵求导，将标量分别对向量或矩阵元素求导，求导后排列方式与向 量或矩阵一致。 (7)行向量对列向量求导 ，，x1,,T设 ,, 是 维行向量， 是 维列向量，则 y,y？ynpx,？1n,, ,,xp，， ，，y,y,n1？,,,x,xT11,,,y？, 。 ,,,xy,y,,,n1？,,,x,xpp，，排列方式:将y的元素分别对x求导，按y排列方式排列(向量对标量求导)，然后，展开 对x的每个分量求导，按x的排列方式排列(标量对向量求导)。 (8)列向量对行向量求导 y，，1,,Tx,[x？x],？ym 设 是 维列向量， 是 维行向量，则 q1q,, ,,ym，， ,y,y，，11？,,,x,x1q,,y,,？ 。 ,,Tx,,,yy,,mm？,,,x,x1q，，排列方式:规则与(7)一致。 (9)行向量对行向量求导 TTx,[x？x]设 是 维行向量， 是 维行向量，则 ,,y,y？ynq1q1n TTT，，,,,yyy 。 ,？,,T,x,x,x,,1q，，(10)列向量对列向量求导 ,y，，1y,,，，，，x11,x,y,,,,,,,？y设 是 维列向量， 是 维列向量，则 。 mpx,？,？,,,,,,,xy,m,,,,,,yxm，，p，，,,,x，， (11)矩阵对行向量求导 y？y，，111n,,Tx,[x？x]Y,？？设 是 矩阵， 是 维行向量，则 m，nq1q,, ,,y？ym1mn，， ，，,,,YYY 。 ,？,,T,x,x,x,,1q，，(12)矩阵对列向量求导 y？y，，，，x111n1,,,,Y,？？m，n设 是 矩阵， 是 维列向量，则 px,？,,,, ,,,,y？yxm1mn，，p，， ,,yy，，1n11？,,,x,x,Y,, 。 ,？？,,,x,y,y,,m1mn？,,,x,x，，(13)行向量对矩阵求导 ，，x？x111q,,T,,y,y？ynX,？？设 是 维行向量， 是 矩阵，则 p，q1n,, ,,x？yp1pq，， TT，，,y,y？,,,x,xT111q,,,y 。 ,？,,,XTT,,,y,y？,,,x,x,,p1pq，，(14)列向量对矩阵求导 y，，x？x，，1111q,,,,,？设y 是 维列向量， 是 矩阵，则 mX,？？p，q,,,, ,,,,yx？ymp1pq，，，， ,y，，1,,,X,y,, 。 ？,,,,X,ym,, ,,,X，，(15)矩阵对矩阵求导 Ty？y，，，，x？xy，，111n111q1,,,,,,Y,？？ 是 矩阵， 设m，nX,？？,？,,,,,,T,,,,,,y？yyx？ym1mn，，p1pqm，，，， ,[x？x] 是 矩阵，则 p，q1q TTT，，,,yy，，,y111？,,,,,,xx,X1q,,，，,,,,,YYY 。 ,,,？？？？,,,,,,T,,,XxxTT,,1q,,,y，，,,,,yymmm？,,,,,X,x,x,,1q，，，， 这是超级矩阵。 x，，22，，例 AX,,xyxyxy;,,，，y，， 2，，x2xyyy，，,A, 则 ，X, ，根据(12)矩阵对列向量求导 ,,,,2,Xyx2xyx，，，， 法则，有 22y00，，，，,(2xy),(y),y,,,,22x2y1,A,X,X,X,,,,,, 。 22,,,(x),(2xy),x2x2y1,X,,,,,,,X,X,X02x0，，，， ux，，abc，，,,例 设 ， ，根据(15)矩阵对矩阵求导法则，有 X,vyY,,,,,def，，,,wz，， ,a,b,c,a,b,c，， ,,,u,u,u,x,x,x,abc,abc,,,,，，,,,a,b,c,a,b,c,,,,ux，，，，,,,v,v,v,y,y,y,,,,,,,v,y,,,,,a,b,c,a,b,c,,,,,,,,,,,,wz,Y，，，，,w,w,w,z,z,z,, 。 ,,,,,d,e,f,d,e,f,,,,,def,def,,,X,,,,ux,u,u,u,x,x,x,,，，，，,,,d,e,f,d,e,f,,,,,,,v,y,,,,,,,,,v,v,v,y,y,y,,,,,,,,wz，，，，，，,d,e,f,d,e,f,, ,,,w,w,w,z,z,z，， 常用的一些性质(公式): ,y,y,,yaxxaax,,,,(1)设，是列向量，(是标量)，则而。 ax,a,,a,ii,,x,x ,,y,y,(2)设(列向量),，而 yAx,,A,A,,x,x q,,ax,1ii,,,,,,？aax11111q,,,,,,,,证明: yAx,,,？？？？ppqq11,,,,,,q,,,,？aaxppqq1,,,,,,ax,pii,,1,, qqq,,,,,,axax,,11iiii,,,ax,1ii,,11,,1,,,,xx,,,,aa1q,,x111q,,,y,,,,,,，同理易证2式 ？,,,,A,,,,,,,,xqqq,,,,aa,,ppq1,,,,,axaxax,,,,,piipiipii,,111,,,,,,,,,,xxx,,1q,, ,,xAx,(3) ,xx,A ,,trXtrAXB，，，，,,,,IAB,(4)， ,,XX ,A,trAX,，，, ,,,,,AAdiagaaifXX，,,？，，,X11nn, ,,,xAx,xAx,(5)，特别的，A是对称阵，则 ,，()AAx,2Ax,x,x 下面是截屏的证明，注意符号表示不完全一致。