線性代數之矩陣論：如何完成矩陣的求導？

專欄限時打折中

函數f(x)關於向量x的梯度

函數f(x)關於向量X^T的梯度

m維行向量函數f(x)=(f1(x),...,fm(x))關於向量x的梯度

f(A)關於m*n矩陣A的的梯度

對向量的偏導數

XTAy可以看成內積，那麼對x求偏導就是Ay

y^TAx可以看成內積,進而可以變為

X^TAX可以堪稱內積,由於兩個邊都有，當對左邊求偏導結果是Ax，此時變為

跡函數的梯度矩陣

對於一個n階方陣A的跡被定義為方陣A的主對角線的元素之和，通常對方陣的求跡操作寫成trA,於是我們有

常用的矩陣跡的微分：

常用的跡函數的梯度矩陣舉例：

如上所示跡是對角線上的元素和，所以對A求偏導，此時矩陣A的非對角線上的元素為0，對角線上的元素為1

如上所示跡AB對A求偏導數，對Apl的結果為Blp,那麼也就是B矩陣的轉置了

閱讀更多 幻風的AI之路 的文章

關鍵字: 內積 函數 關於