机器学习周志华

算法组 注册 登录 机器学习经典书籍 机器学习 machine-learning 书单 1 / 7 sys 14年12月 6 前面有一篇 机器学习经典论文/survey合集 784 。本文总结了 机器学习 100 的经典书籍，包括数学基础和算法理论的书籍。本文会保持更新，欢迎推荐。 入门书单 《数学之美》 PDF 2.2K 作者吴军大家都很熟悉。以极为通俗的语言讲述了数学在机器学习和自然语言处理等领域的应用。 《Programming Collective Intelligence》（《集体智慧编程》） PDF 1.2K 作者Toby Segaran也是《BeautifulData : The Stories Behind Elegant Data Solutions》（《数据之美：解密优雅数据解决方案背后的故事》）的作者。这本书最大的优势就是里面没有理论推导和复杂的数学公式，是很不错的入门书。目前中文版已经脱销，对于有志于这个领域的人来说，英文的pdf是个不错的选择，因为后面有很多经典书的翻译都较差，只能看英文版，不如从这个入手。还有，这本书适合于快速看完，因为据评论，看完一些经典的带有数学推导的书后会发现这本书什么都没讲，只是举了很多例子而已。 《Algorithms of the Intelligent Web》（《智能web算法》） PDF 459 作者Haralambos

普通程序员如何转向AI方向 https://www.cnblogs.com/subconscious/p/6240151.html 　　眼下，人工智能已经成为越来越火的一个方向。普通程序员，如何转向人工智能方向，是知乎上的一个 问题 。本文是我对此问题的一个回答的归档版。相比 原回答 有所内容增加。 　　 一. 目的 　　本文的目的是给出一个简单的，平滑的，易于实现的学习方法，帮助 “普通” 程序员踏入AI领域这个门。这里，我对普通程序员的定义是：拥有大学本科知识；平时工作较忙；自己能获取的数据有限。因此，本文更像是一篇 “from the scratch” 的AI入门教程。 二. AI领域简介 　　AI，也就是人工智能，并不仅仅包括机器学习。曾经，符号与逻辑被认为是人工智能实现的关键，而如今则是基于统计的机器学习占据了主导地位。最近火热的深度学习正是机器学习中的一个子项。目前可以说，学习AI主要的是学习机器学习。但是，人工智能并不等同于机器学习，这点在进入这个领域时一定要认识清楚。关于AI领域的发展历史介绍推荐看周老师写的《机器学习简介》。下面一个问题是：AI的门好跨么？其实很不好跨。我们以机器学习为例。在学习过程中，你会面对大量复杂的公式，在实际项目中会面对数据的缺乏，以及艰辛的调参等。如果仅仅是因为觉得这个方向未来会“火”的话，那么这些困难会容易让人放弃

引言 　　可能你对这个名字叫“机器学习”的家伙不是特别的了解，但是相信用过iPhone的同学都知道iPhone的语音助手Siri，它能帮你打电话，查看天气等等；相信大家尤其是美女童鞋都用过美颜相机，它能自动化的给我们拍出更漂亮的照片；逛京东淘宝的时候，细心的童鞋应该也会发现它们会有一个栏目“猜你喜欢”；最近异军突起的新闻客户端软件今日头条，它们就是会根据分析你的日常喜好给每个人推荐不同的新闻……没错，这些功能背后的核心就是今天要介绍的主题：机器学习。 什么是机器学习 　　对于这个问题的解释，说实话我很有压力，因为在分享篇文章之前就有朋友告诉我，这个百度上一搜一大片，还需要你讲吗？但是，我觉得并非如此。正如同一千个读者眼里有一千个林黛玉一样，我解释的当然是我个人自从读研到工作这么多年对机器学习的学习到应用过程的独特见解。 　　首先我们看下图了解一下机器学习在AI（Artificial Intelligence 人工智能）领域的地位。在图中，我们可以看到，机器学习是人工智能的一个子领域。而现在火的不要不要的 深度学习 其实是机器学习的一个子分支。 机器学习在人工智能中的地位 那么到底什么才是真正的机器学习呢？在这里我将对比我和学术界大神的解释： 大神的解释 　　机器学习研究的是计算机怎样模拟人类的学习行为，以获取新的知识或技能，并重新组织已有的知识结构使之不断改善自身。简单一点说

下面的每个资源都是我亲身学过的，且是网上公开公认最优质的资源。 下面的每个学习步骤也是我一步步走过来的。 希望大家以我为参考，少走弯路。 请大家不要浪费时间找非常多的资料，只看最精华的！ 综述， 机器学习 的自学简单来说分为三个步骤 前期：知识储备包括数学知识，机器学习经典算法知识，编程技术（python）的掌握 中期：算法的代码实现 后期：实战水平提升 机器学习路径规划图 一、数学基础 很多人看到数学知识的时候就望而却步，数学是需要的，但是作为入门水平，对数学的要求没有那么的高。假设你上过大学的数学课（忘了也没事），需要的数学知识啃一啃还是基本能理解下来的。 1.1、数学内容 线性代数：矩阵/张量乘法、求逆，奇异值分解/特征值分解，行列式，范数等 统计与概率：概率分布，独立性与贝叶斯，最大似然(MLE)和最大后验估计(MAP)等 优化：线性优化，非线性优化(凸优化/非凸优化)以及其衍生的求解方法如梯度下降、牛顿法、基因算法和模拟退火等 微积分：偏微分，链式法则，矩阵求导等 信息论、数值理论等 上面的看不太懂没事，不是特别难，学习一下就能理解了。 1.2、数学资源 网上有很多人会列举大量大量的课程资源，这是非常不负责任的事，学完那些我头发都得白了。实际上，我们只需要学习其中的一部分就够了。 1.2.1、吴恩达的斯坦福大学机器学习王牌课程CS229，课后就有对学生数学知识的要求和补充

西瓜书 课后习题4.3 基于信息熵决策树，连续和离散属性，并验证模型： https://blog.csdn.net/weixin_41056428/article/details/84025131 机器学习(周志华西瓜书)参考答案总目录 ：https://blog.csdn.net/icefire_tyh/article/details/52064910 机器学习_周志华》PDF高清完整版-免费下载 ：https://www.jianshu.com/p/a50aca402ca6 来源： https://www.cnblogs.com/fcfc940503/p/11837782.html

1.有道 自然语言翻译 http://ai.youdao.com/anli.s#education 2. 码农场博主，HanLP作者何晗新书《 自然语言处理入门 》，跟着这本书，实现NLP的基础模块，这大概是最好的入门方式之一，具体可参考：《 人人都可以看懂的NLP入门书 》。 《 自然语言处理综论 》，目前第二版翻译版本已经出版，我当年的入门书，不过看得是第一版翻译版本，英文名《 Speech and Language Processing 》, 第三版据说很快就要出版，有条件的同学建议直接看英文版。 《 统计自然语言处理基础 》，另一本入门书籍，这本书的英文版貌似没有更新，但是中文版貌似也不再发售了，当然，优先推荐读英文版。 《 Python自然语言处理 》，NLTK配套丛书，有了上面两本书的介绍，再加上一些Python基础，通过这本书进行相关的文本挖掘实战，很不错的一个路径。 《Python深度学习》 ，近期读过的一本深度学习好书，隆重推荐。本书由Keras之父、现任Google人工智能研究员的弗朗索瓦•肖莱（François Chollet）执笔，详尽介绍了用Python和Keras进行深度学习的探索实践，涉及计算机视觉、自然语言处理、生成式模型等应用。书中包含30多个代码示例，步骤讲解详细透彻。由于本书立足于人工智能的可达性和大众化

（第一次写博客，如有什么地方写得不对的，或者意见相左的，还请见谅！） 工作了一段时间，又重新回来读书（本科计算机专业，第一个研究生是商科，现读回了计算机专业）了，最开始想着走APP研发路线的，但是最终回来读书之后却恰好碰上了so-called人工智能，所以就决定将专业设定为数据分析（Data Analytics），主要学习的课程方向是数据可视化分析，机器学习和深度学习等课程。刚回来读书那会，太多不适应，特别是要重新捡回很多编程的知识和技能是一件挺艰辛的事。当初辞职那会准备相关的编程技能主要事针对网站和APP的开发，比较前端，所以辞职到正式入学的时候大部分时间都在学习前端的东西，这导致了我入学之后选择AI相关的课程碰到了编程的另外一个问题，从而不得不边学边做课程项目和实验。 重点来了：所以写下这篇文章，给出一些想学习机器学习相关的建议，希望能帮助想入门的人。文章会主要从三方面来给出建议： 书籍的推荐 视频及课程推荐 其他资源，如论文等 我在边学边做项目着实走了不少弯路，有时候浪费了不少时间，做了很多无用功，所以从以上方面选取一些方面我觉得综合运用能帮助到希望入门机器学习的人。 一、 书籍推荐 一本好的书能很好的帮助你快速的学会一些基本的知识及应用，以下书籍是我入门机器学习觉得比较有用的。 1.1 Python编程 从入门到实践 对于那些学过python的人并且是大牛

1. 决策树学习算法包括哪几个部分？常用的算法有哪些？ 2. 决策树的根节点、内部节点和叶节点分别表示什么？ 3. 特征选择的准则有哪些（如何选择最优划分属性）？ 4. 决策树如何防止过拟合？ 5. 连续值和缺失值如何处理？ 转载请标明出处: 机器学习之决策树――《机器学习》周志华著 文章来源: https://blog.csdn.net/weixin_41566127/article/details/92378710

机器学习所研究的内容：是关于在计算机上通过数据产生“模型”的算法，即为“学习算法”（learning algorithm）。 “模型”指的就是学习所得的结果。 从数据中学得模型的过程称为“学习”或“训练”。 预测的若为离散值，此类学习任务称为“分类”（classification）若为连续值，此类学习任务称之为“回归”（regression）。涉及到两个类别的“二分类”（binary classification）任务，其中一个为“正类”（posive class）,另一个为“反类”（negative class）。 根据训练数据是否拥有标记信息，学习任务分为：“监督学习”（supervise learning）和“无监督学习”（unsupervised learning）。分类回归是前者的代表，聚类（clustering）是后者的代表。 学得的模型适用于新样本的能力，称为“泛化”（generalization）能力。 归纳（induction）和演绎（deduction）。 归纳是从特殊到一般的泛化过程，即为从具体的事实中总结出一般的规律。演绎是从一般到特殊的“特化”（specialization）过程，即从基础原理推演出具体状况。 归纳学习有广义和狭义之分，广义的归纳学习相当于从样例中学习，而狭义的归纳学习则要求从训练数据中学得概念，又称为“概念学习”或“概念形成”。

Python 数据分析学习路线 相关资料 概述 数据分析： 数据分析是指用适当利用统计分析方法对收集来的大量数据进行分析，提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。 分析数据，得到结果 学习路线 基础部分： 数学知识 Python基础知识 Python数据分析包使用 进阶部分： 网页爬虫 机器学习和深度学习 大数据 基础部分 数学 需要的知识主要为 《概率论与数理统计》 Python基础知识 由于只需要掌握计算部分的知识，Python 的基础知识需要了解以下内容： 基本语法 数据类型和变量 条件语句和循环语句 函数和模块的概念 Python数据分析包 主要掌握 Python 相关数据分析包的使用，三剑客： numpy pandas matplotlib 参考的书为《利用 Python 进行数据分析》 进阶部分 网页爬虫 《Python3网络爬虫开发实战》崔庆才 机器学习和深度学习 学习SQL，这是数据分析最基础的能力 大体上掌握各类算法原理以及如何利用机器学习包 理论书籍： 《机器学习》, 周志华 《统计学习方法》, 李航 机器学习包： scikit-learn 是一个机器学习库，可以对数据进行分类，回归，无监督，数据降维，数据预处理等等，包含了常见的大部分机器学习方法。 深度学习就是各种神经网络如何解算的问题。 大数据 Hadoop 权威指南 来源： https