Tensorflow 性能優化策略算法

1. 加入動量，momentum，對梯度更新的方向進行修正

2. dropout，隨機取消一些反向傳播更新的權重

3. 設置步長——動態改變學習率

4. 過擬合——正則化

總結：

這些實際都是數學理論得出的優化方法，即算法。然後纔有相應的實現，總結：框架只是一個工具，更重要的是，我們對算法本身的理解，這纔是算法開發者最重要的能力。