梯度下降、牛顿法、拟牛顿法详细介绍

本文转载自：https://blog.csdn.net/qy20115549/article/details/79771480

本文作者：合肥工业大学 管理学院 钱洋 email：1563178220@qq.com 内容可能有不到之处，欢迎交流。

未经本人允许禁止转载。 最近，在看论文的时候，优化方法使用的是L-BFGS算法，所以我花了几天时间，看了梯度下降、牛顿法和逆牛顿法的原理及相关源码。以下我个人笔记，仅供大家参考。 #内容