究竟为啥haole15无法com显示了

    机器学习模型被互联网行业广泛應用如排序(参见:)、推荐、反作弊、定位(参见:)等。一般做机器学习应用的时候大部分时间是花费在特征处理上其中很关键嘚一步就是对特征数据进行归一化,为什么要归一化呢很多同学并未搞清楚,维基百科给出的解释:1)归一化后加快了梯度下降求最优解的速度;2)归一化有可能提高精度下面我简单扩展解释下这两点。

1 归一化为什么能提高梯度下降法求解最优解的速度

      如下图所示,藍色的圈圈图代表的是两个特征的等高线其中左图两个特征X1和X2的区间相差非常大,X1区间是[0,2000]X2区间是[1,5],其所形成的等高线非常尖当使用梯度下降法寻求最优解时,很有可能走“之字型”路线(垂直等高线走)从而导致需要迭代很多次才能收敛;

      而右图对两个原始特征进荇了归一化,其对应的等高线显得很圆在梯度下降进行求解时能较快的收敛。

      因此如果机器学习模型使用梯度下降法求最优解时归一囮往往非常有必要,否则很难收敛甚至不能收敛

2 归一化有可能提高精度

     一些分类器需要计算样本之间的距离(如欧氏距离),例如KNN如果一个特征值域范围非常大,那么距离计算就主要取决于这个特征从而与实际情况相悖(比如这时实际情况是值域范围小的特征更重要)。

      这种归一化方法比较适用在数值比较集中的情况这种方法有个缺陷,如果max和min不稳定很容易使得归一化结果不稳定,使得后续使用效果也不稳定实际使用中可以用经验常量值来替代max和min。

  经过处理的数据符合标准正态分布即均值为0,标准差为1其转化函数为:

  其中μ为所有样本数据的均值,σ为所有样本数据的标准差。

     经常用在数据分化比较大的场景有些数值很大,有些很小通过一些数學函数,将原始值进行映射该方法包括 log、指数,正切等需要根据数据分布的情况,决定非线性函数的曲线比如log(V, 2)还是log(V, 10)等。

}

我要回帖

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信