视频地址：

 

机器学习课程的所有讲义及课后作业：http://pan.baidu.com/s/1i3xcljJ

 

视频前半部分讲了梯度下降算法的迭代过程求的局部最小值，后半部分介绍了利用数学方法给出参数向量的解析表达式，从而求出参数的值，也就是一种无需迭代的方法。

由于PC上编辑不太方便，以下推导过程我会尽可能详细地呈现在草稿纸上，其实视频中AndrewNg已经讲解的很详细了，其实我也只是在看了推导过程之后，自己完全独立地推导了一遍，毕竟自己亲自有动笔了，印象自然深刻。如有不对之处，请指正。

我觉得，当我们表示出J(θ)的表达式后，就已经可以把问题转化为多元函数的极值问题了，因此，也就出现了下面中要求偏导数，以及要设偏导数为0的步骤。而这里之所以会涉及到线代的知识，是因为线代可以用来简化运算，矩阵的表示的优雅。

1、定义新符号；

2、给出5个定理；

3、把问题转化为数学计算；

 

 

说明：m代表数据量（即有多少行数据）；n代表特征个数（从x0~xn，其中x0恒等于1）

1、定义新符号：

2、给出5个定理；

3、把问题转化为数学计算；

 

 

 noIteration.java(导入jama包)

1 package noIteration; 2  3 import java.io.IOException; 4 import java.util.List; 5  6 import Jama.Matrix; 7  8 public class noIteration{ 9     10     public static List DS;11     public static int m;12     13     public static double[][] initX(){14         double[][] x =new double[m][2];15         int m=DS.size();16         for(int i=0;i

 

 

 

总结：这个算式，简直美丽极了！