Layer Normalization

深入理解深度学习中的Normalization操作一、深度学习的Normalization具体做什么？二、为什么深度学习中需要Normalization？三、Normalization 的通用框架与基本思想四、主流 Normalization 方法梳理五、Normalization 为什么会有效？六、对Batch Normalization的实践及分析参考文献
深度学习 batch normalization Layer Normalization Weight Normalization Cosine Normalization
04-12