机器学习笔记

        在客观世界中，变量之间通常都存在关系，例如：房屋面积越大，价格通常也越高；普通人的身高越高，体重也就越大。回归问题就是在研究这些变量之间的关系，并从已经采集到的样本中得出这些变量的数学模型，并对未知的变量尝试做估计。例如，我们根据采集到的样本数据绘制图形如下：

        显然这一个元线性函数，我们希望对这些样本做线性回归，并得到它的函数方程：

        假设我们已经得到了这个线性函数的具体参数值k和b，于是我们就可以根据这个函数来对x来估计它的y值。假设我们已经得到了k和b的值：

        对于x值为7.6那么它的值即可通过这个线性函数来计算：

        根据已经训练样本来计算出k和b值的过程就是我们的回归过程，这一类问题也就是机器学习中的回归问题。回归问题通常分为很多种，比如一元线性回归，多元线性回归，或多元曲线回归等等。在本章我们只学习线性回归问题。