86篇文章 · 9367字 · 8人关注
-
总结
线性回归，用线去拟合数据，预测连续值逻辑回归（对数几率回归，简称对率回归），用来解决分类问题正则化，解决过拟合问题神经网络模型评估，偏差，方差类...
-
-
映射化简和数据并行（Map-reduce and data parallelism）所谓map reduce技术，就是利用我们计算的算法中含加法的部分拆分成几个部分，分别由几台计算机完成计算，最后送到中心计算机中完成最后的求和。...
-
在线学习（Online learning）在线学习算法，获取连续的数据，当我们训练完后，便丢弃了，不再使用。 点击率CTR（Click through rate）： 和随机梯度下降算法很...
-
随机梯度下降收敛（Stochastic gradient descent convergence）我们需要确保随机梯度下降是收敛的，我们需要选取合适的α。 我们需要每多少个样本，计算一次代价函数平均值，然后看它是否收敛。我们可以通过此来调整学...
-
小批量梯度下降（Mini-Batch gradient descent）小批量梯度下降（介于批量梯度下降和随机梯度下降之间）。b称为小批量大小，一次训练b个样本，然后一直下去。训练一次，就更新了一次参数值。 小批量梯...
-
随机梯度下降（Stochastic gradient descent）以线性回归为例：我们之前的批量梯度下降，当数据量很大的时候，需要频繁读取数据并计算微分，开销很大，占用内存大。 随机梯度下降和批量梯度下降对比：...
-
大型数据集的学习（Learning with large datasets）如何处理这些大数据集，有两种方法：第一种称为随机梯度下降；第二种称为图的减少。
-
实施细节：均值归一化（Implementational detail: Mean normalization）对未知的用户预测是电影评分的均值：
文集作者
