博客

最近学习吴恩达的机器学习课程。

看到了线性回归的梯度下降算法。课程中将了一个非常简单的线性回归：

比如给出一些房子的size和对应的price，我们可以建立一个模型（在此模型就是线性回归），

希望之后在给出任意一个房子的size，可以比较准确的预测到房子的价格。

课程中的假设函数、参数、代价函数如下：

然后下节视频讲到梯度下降算法，希望通过不断迭代使找到θ0,θ1使代价函数值最小。

在 xOy 平面内，当动点由 P(x0,y0) 沿不同方向变化时，函数 f(x,y) 的变化快慢一般说来是不同的，

因此就需要研究 f(x,y) 在 (x0,y0) 点处沿不同方向的变化率。

从一个（θ0，θ1）到一个新的点，需要求偏导数，课程中直接给出θ0和θ1的偏导。

作为一个有强迫症的人，好像不亲自求一下，总感觉中间缺了点什么，所以自己手算了一下偏导。

同时也可以让数学不好的同学知道这两个偏导数是怎么来的。

作为一个多元函数，必须未知数有x,y,z……,如果想要对x求偏导，那么只需将其他未知数当作常数，

对x求导即可。

x^a 的倒数是  a*x^(a-1)

a*x 的倒数是  a

常数的倒数是0

则针对代价函数，对θ0,θ1求偏导的过程如下。