想远离欠拟合OR过拟合?正则化最有效!( 六 )

案例

为了测试正则化 , 可以用公式收集一些数据集:

y=sin(x)?x

在XY图上绘制训练数据如下所示:

训练数据

我们现在将使用线性回归来找到最能模拟函数的函数 。 从训练数据中可以很明显地看出来 , 直线不会很好地模仿函数 。 因此 , 我将不得不使用更高阶的多项式 。 为此 , 我将给予线性回归算法的输入功能从仅仅为[X
更改为以下一组功能:

这实质上意味着线性回归将找到能够适应训练数据的15度多项式 。 这应该为算法留出足够的空间来模拟正弦函数的变化 , 但也让我们开放过度拟合解决方案的算法 。

首先 , 我们尝试在不使用正则化的情况下训练算法并绘制结果函数 。

推荐阅读