机器学习 第3页

fendouai 发布于 2020-03-04

1.10. 决策树 决策树 (DTs) 是一种用于分类和回归的非参监督学习方法。其目的是通过从数据特征中学习出简单的决策规则，来创建一个用于预测目标变量值的模型。 例如，在下面的示例中，决策树从数据中学习使用一组if-then-else决策规则来近似正弦曲线。决策树越深，决策规则...

阅读(1158)赞 (0)

fendouai 发布于 2020-03-04

1.16. 概率校准(Probability calibration) 在进行分类时，我们不仅想要预测出类的标签，而且还要获得对应标签的概率。这个概率给了我们一些关于预测的信心。有些模型可以给出类的概率估计，有些甚至不支持概率预测(probability prediction)。...

阅读(986)赞 (0)

fendouai 发布于 2020-03-04

1.5. 随机梯度下降(Stochastic Gradient Descent) 随机梯度下降法（SGD）是一种简单但非常有效的方法，主要用于凸损失函数下线性分类器的判别式学习（例如（线性）支持向量机和Logistic回归）。尽管SGD在机器学习社区中已经存在很长时间了，但最近在...

阅读(607)赞 (0)

fendouai 发布于 2020-03-04

1.11. 集成学习方法(Ensemble methods) 集成方法的目标是把使用多个给定学习算法构建的基本估计器的预测结果结合起来，从而获得比单个基本估计器更好的泛化能力/鲁棒性。 集成学习方法分通常分为两种： 在平均方法(averaging methods)中，驱动原则是首...

阅读(916)赞 (0)

fendouai 发布于 2020-03-04

1.1. 线性模型 以下是一组用于回归的方法，其中目标值被认为是输入变量的线性组合。用数学符号表示，假设 \hat{y} 是预测值，则有 \hat{y}(w, x) = w_0 + w_1 x_1 + … + w_p x_p 在整个模块中，我们把向量w=(w1，...

阅读(999)赞 (0)