0 與傳統機器學習差別
1 遷移學習概念
利用資料、任務、或模型之間的相似性，将在舊領域學習過的知識，應用于新領域的一種學習過程。
2 相似性與度量
相似性：找到新問題和原問題之間的相似性是遷移學習的核心，無相似不遷移。
度量：重要手段
"度量"目标一：是很好地度量兩個領域的相似性，不僅定性地告訴我們它們是否相似，更定量地給出相似程度。
"度量"目标二：以度量為準則，通過我們所要采用的學習手段，增大兩個領域之間的相似性，進而完成遷移學習。
3 遷移學習的必要性
4 遷移學習定義與相關符号描述
公式比較難打，上手寫筆記(盡管字迹不咋地，看看還是能夠的，争取後面寫的耐看些)。
5 遷移學習分類
5.1.基于源/目标域，源/目标學習任務的不同情況。
5.2.遷移學習研究的主要問題：what（内容）/how（算法）/when（是否應該） to transfer？
基于“what to transfer”分類
5.21 基于執行個體的遷移學習（資料層面）
重新對源域中的一些資料進行重權重，以便在目标域中使用。
5.22 基于特征表示的遷移學習（特征層面）
基于特征的遷移方法：是指将通過特征變換的方式互相遷移 ，減少源域和目标域之間的差距；或者将源域和目标域的資料特征變換到統一特征空間中。
5.23 基于參數的遷移學習（模型參數層面）
從源域和目标域中找到他們之間共享的參數和先驗知識。
5.24 基于關系的知識遷移（關系層面）
在源域和目标域建立相關的知識映射，兩個域是相關域（研究較少）。
6 深度遷移學習：神經網絡深度自适應
6.1 深度網絡可遷移性
淺層：通用特征
深層：偏向于特定特征
中間：中間幾層的特征變換存在很強的依賴性（脆弱的耦合特征）
協同學習，拆開效果不好；
通用特征到專用特征變換的關鍵位置。
（遷移位置的選擇很關鍵）
6.2關鍵性（了解這裡非常非常重要）
**基本準則：**決定自适應層，然後在這些層加入自适應度量，最後對網絡進行 finetune。
7 遷移學習 VS 網絡自适應
領域自适應問題是遷移學習的研究内容之一，它側重于解決特征空間一緻、類别空間一緻，僅特征分布不一緻的問題。而遷移學習也可以解決上述内容不一緻的情況。
8 絕大多數内容來自
- Pan, S. J. and Yang, Q. (2010). A survey on transfer learning. IEEE TKDE, 22(10):1345–1359.
- 王晉東老師：遷移學習簡明手冊
我隻是知識的搬運工，外加一丢丢小了解！！！