正确选择ML算法
本文教你如何选择合适自己的机器学习算法。 分类 逻辑斯蒂回归（Logistic regression） 属于判别式模型，有很多正则化模型的方法（L0，L1，L2，etc），而且你不必像在用朴素贝叶斯那样担心你的特征是否相关。与决策树与SVM机相比，你还会得到一个不错的概率解释，你甚至可以轻松地利用新数据来更新模型（使用在线梯度下降算法，onlinegradientdescent）。如果你需要一个概率架构（比如，简单地调节分类阈值，指明不确定性，或者是要获得置信区间），或者你希望以后将更多的训练数据快速整合到模型中去，那么使用它吧。 优点 实现简单，广泛的应用于工业问题上； 分类时计算量非常小，速度很快，存储资源低； 便利的观测样本概率分数； 对逻辑回归而言，多重共线性并不是问题，它可以结合L2正则化来解决该问题； 表现最好：当特征没有相关性，最终分类结果是线性的，且特征维度远小于数据量的时候效果好。 缺点 当特征空间很大时，逻辑回归的性能不是很好； 容易欠拟合，一般准确度不太高 不能很好地处理大量多类特征或变量； 只能处理两分类问题（在此基础上衍生出来的softmax可以用于多分类），且必须线性可分； 对于非线性特征，需要进行转换； 表现最差：当特征相关性比较强时，表现会很差。 链接 机器学习之良/恶性乳腺癌肿瘤预测 机器学习算法集锦：从贝叶斯到深度学习及各自优缺点 朴素贝叶斯