想远离欠拟合OR过拟合?正则化最有效!( 七 )

不正则化 – λ = 0

没有正则化 , 我们可以看到我们发现了能够完美适应训练数据的算法 , 但是这类算法不能很好地概括解决方案 。 对于任何没有存在于训练集中的数据而言 , 这会给我们完全错误的结果 。

此时 , 我们可以尝试从训练集中手动删除输入要素以获得更好的结果 , 或者我们可以使用正则化以使正则化算法将不需要的要素影响最小化 。 在我们的例子中 , 我们尝试应用正则化 。

考虑到这一点 , 我们尝试将λ设置为5并重新运行训练 。

运用正则化 – λ=5

将λ设置为5 , 我们可以看到所得函数在开过解决方案方面要好得多 。 对于0 <x <3 , 它给出了正弦函数的非常好的近似值 , 但这仍然不完美 。 因此 , 我们尝试将λ增加一点 。 给出以下结果:

运用正则化 – λ=13

推荐阅读