我们想要的是全局最优解，
但是非凸函数往往求得的是局部最优解。所以η学习率我们就不能设置的太小，太小的话就容易掉到局部最优解内。
η大一点就可能跳出局部最优解找到全局最优解。
不过即便是局部最优解我们也可以接受，只要求得的模型是堪用的，能满足需求，也是OK的。
机器学习中损失函数往往是凸函数
深度学习中损失函数是非凸函数，所以不用担心这一点。
版权声明：本文为h2728677716原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
我们想要的是全局最优解，
但是非凸函数往往求得的是局部最优解。所以η学习率我们就不能设置的太小，太小的话就容易掉到局部最优解内。
η大一点就可能跳出局部最优解找到全局最优解。
不过即便是局部最优解我们也可以接受，只要求得的模型是堪用的，能满足需求，也是OK的。
机器学习中损失函数往往是凸函数
深度学习中损失函数是非凸函数，所以不用担心这一点。