天天看點

凸優化與對偶(1)

凸優化與對偶(1)

課程目錄 

凸優化與對偶(1)

AI問題和程式的類比

優化問題的表示方法 

凸優化與對偶(1)

需要做到閉着眼睛也能寫XD 

凸優化與對偶(1)
凸優化與對偶(1)
凸優化與對偶(1)
凸優化與對偶(1)

預訓練(例如ImageNet pretrainning, word2vector等)是為了找到更好的初始化點,因為初始化對local optimal影響很大。

凸優化與對偶(1)

非凸函數->凸函數

凸優化與對偶(1)
凸優化與對偶(1)
凸優化與對偶(1)

凸集定義

凸優化與對偶(1)
凸優化與對偶(1)

凸集性質 

凸優化與對偶(1)

凸函數定義

凸優化與對偶(1)
凸優化與對偶(1)

範數公式

凸優化與對偶(1)

判斷凸函數

凸優化與對偶(1)

常用方法

凸優化與對偶(1)

凸函數證明

凸優化與對偶(1)
凸優化與對偶(1)

矩陣有關必看The Matrix Cookbook

範數凸性證明

凸優化與對偶(1)

邏輯回歸目标函數為凸函數證明

凸優化與對偶(1)

矩陣半正定含義

經典優化問題

凸優化與對偶(1)
凸優化與對偶(1)
凸優化與對偶(1)
凸優化與對偶(1)
凸優化與對偶(1)
凸優化與對偶(1)
凸優化與對偶(1)

繼續閱讀