机器学习

毋庸置疑，Python越来越被认可为程序员新时代的风口语言，Python的应用能力是成为一代码农大神的必要项。 首先告诉你的是，零基础学习开始系统学习Python肯定难，Python的专业程度本身就不简单，学习这事本来就是一件非常煎熬的事情，人都不愿意学习，可是没办法，为了生存掌握一个技能，你必须学，如果你认真的对待，你就找不到高薪水的工作，所以首先学习Python意志，坚持非常重要，很多人放弃的原因根本就是缺乏这些素质。 零基础学习Python必须明确的几点： 1.明确你将来是做什么工作的，需要掌握哪些技能，很多人连这个就不知道就盲目的学，首先选择一套专业系统的Python学习教程，学习编程千万不要东凑西凑，一定要系统的学，整个课程最好都是一个老师讲解的。你要清楚，现在公司需要什么人才，你应该奔着什么目标努力。Python的学习方向有很多，主要还是web。代码一定要规范，这本身就是一个非常好的习惯，如果开始不养好好的代码规划，以后会很痛苦。 2.系统的学习规划，规划好你每天学习的新知识和每天做的作业和练习，很多人想自学Python，很重要的一点，一定要动手写代码，一定要多写项目，勤加练习写代码，要明白操作才是真理。不然就是浪费时间。什么都不管，操作又跟不上，那能找到工作吗？老板又不傻，现在学习Python想找到工作，没有4-6个月的根本不行，所以规划是一定要有的

本 文采用Kaggle上面的Boston HousePrice数据集展示了如何建立机器学习模型的通常过程 ，包括以下几个阶段： 数据获取 数据清洗 探索性数据分析 特征工程 模型建立 模型集成 标签变量（房价） 采取了对数转换，使其符合正太分布，最后从12个备选模型中选出预测效果最好的6个模型Lasso，Ridge，SVR，KernelRidge，ElasticNet，BayesianRidge分别进行加权平均集成和Stacking集成，最后发现Stacking集成效果更好，创新之处在于将Stacking集成后的数据加入原训练集中再次训练Stacking集成模型，使得模型性能再次得到改善，作为最后的预测模型，预测结果提交kaggle上后表现不错。另外受限于训练时间，超参数搜索空间小，有待改善。 数据获取 Kaggle官网提供了大量的机器学习数据集，本文从其中选择了Boston HousePrice数据集，下载地址为https://www.kaggle.com/c/house-prices-advanced-regression-techniques/data，下载后的数据集包括train.csv，test.csv，data_description.txt，sample_submission.csv四个文件，顾名思义train.csv为训练数据集，用于训练模型，test

↑ 关注 + 星标 ， 后台回复【 大礼包 】送你Python自学大礼包 Python绿色通道 推荐搜索 Python Pandas 数据分析 可视化 很多粉丝强烈呼吁，写一篇数据分析师的幸福生活，不然感觉真的要被劝退了。 今天就响应群众号召来一篇。 其实需要陈老师来写这篇，就说明大家对数据解读的还不够啊。 因为数据分析师的幸福生活，早已藏在大家的分析报告里，只是大家太过关注冷冰冰的数字，而不是数字后的含义，所以没有解读出来。 为什么这么说？是因为“收入”是个可量化的名词，收入高低只要看个数就好了。但“幸福”是个不可量化形容词，意味着丫是对比出来的。要谈数据分析师是怎么幸福的，就得对比下其他部门是怎么个苦逼法。要想人前显贵，必须人后受罪。大家在做业务部门绩效分析， ROI 分析，活动分析的时候，其实已经暗含了其他部门苦逼的线索。 一提销售，大家最容易联想到奖金，喝酒，洗脚城。先把客户灌醉，洗脚城睡小妹，订单忽悠到手，奖金拿到手累。多好啊，看着舒服吧。自己去做一下试试吧。 第一天，没开单 第二天，没开单 第三天，没开单 …… 月底一看工资单：基本工资 1350+ 绩效 250 做过销售队伍业绩分析的同学，如果认真研究过业绩分布，就会发现销售队伍不是 20/80 法则，而是 2/80 法则。特别在 B2B 企业，少数 Ace 销售吃大部分业绩，大量的销售都是苦逼兮兮地拿最低工资

距离的探讨 欧拉距离 第一行是普通的两点间两个维度上的距离的公式，第二行推广到三个维度 第三多个维度 维度也就是特征 最后简写成上面这个公式，在机器学习算法书中比较常见 曼哈顿距离 距离在数学公式上具有形式一致性 下面推导欧氏距离和曼哈顿距离 最后可以得出一个超参数——p 通过改变p可以改变距离的计算方法 p取1或2时的明氏距离是最为常用的， p=2即为欧氏距离，而p=1时则为曼哈顿距离 。 明氏距离不足之处： 主要表现在两个方面：第一，它与各指标的量纲有关； 第二，它没有考虑指标之间的相关性。 更多距离的定义 来源： oschina 链接： https://my.oschina.net/u/4356644/blog/4769293

K近邻算法 大致思路：算法的思路是通过特征建立建立一个坐标图，然后计算预测点与每一个已知点的距离，选取距离最小的K个已知点，然后分别确定这K个点的出现概率，选取出现概率最高的那个已知点的结果作为预测点的结果。 若是二维的特征，就如下图所示，计算已知点与预测点距离，然后就把距离最小的已知点与这个预测点归为一类。 距离计算公式： 于是，对于n维的两个点（X11,X12,X13.......X1n）与（X21,X22,X23......X2n）的距离为 KNN的py代码实现 实现的算法（计算距离） 思路：训练集所有项目特征[[x11,x12,x13...],[x21,x22,x23...],[x31,x32,x33...]....]方程这样一行，然后测试的项目[[xn1,xn2,xn3...],[xn1,xn2,xn3...],[xn1,xn2,xn3...]....]弄成这样一排相同的，然后与训练集求差，在求平方和，选出K个。 def classify0(inX, dataSet, labels, k): """ inX为测试集 dataSet为训练集 labels为训练集的标签 k为KNN算法的参数K """ dataSetSize = dataSet.shape[0] #第一步，读取训练集的行数，使用np.shape[0],为了将测试集构造出与他一样大的测试集计算差 diffMat

k 近邻法（K-nearest neighbor）是一种基本的分类方法 基本思路： 给定一个训练数据集，对于新的输入实例，在训练数据集中找到与该实例最邻近的k个实例，这k个实例多数属于某个类别，就把输入实例分为这个类。 算法： 输入：训练数据集 $T={(x_{1},y_{1}),(x_{2},y_{2}),...,(x_{n},y_{n})}$ 其中 $x_{i}$ 是训练集实例的特征向量（features vectors），$y_{i}$ 是训练集实例的类别，$i=1,2,3,\cdot\cdot\cdot,N$ (N 代表的是训练集实例的数量) 输出：训练数据集实例的列别$y$ 模型： 三个基本要素：距离度量（欧几里得距离），k值的选择，分类决策规则（多数表决 ) 距离度量：首先特征向量是$n$维，$x_{i}$是训练数据集中的特征向量，$x_{j}$是输入实例的特征向量。 其中$x_{i}=(x_{i}^{(1)},x_{i}^{(2)},...,x_{i}^{(n)}), x_{j}=(x_{j}^{(1)},x_{j}^{(2)},...,x_{j}^{(n)})$. 两者之间的距离定义为：$L_{p}(x_{i},x_{j})=(\sum_{t=1}^{n}{|x_{i}^{(t)}-x_{j}^{(t)}|^{p}})^{1/p}$. 在这里$p\geq1$, 当

↑公众号关注 “Graph-AI” 专注于 图机器学习 WWW2020 图相关论文集 “ WWW（International World Wide Web Conferences，国际万维网大会），由国际万维网会议指导委员会主办，是CCF A类会议。 “ 全部收录论文列表：https://dblp.uni-trier.de/db/conf/www/www2020.html 01 Full Paper 图卷积 Unsupervised Domain Adaptive Graph Convolutional Networks A Generic Edge-Empowered Graph Convolutional Network via Node-Edge Mutual Enhancement 异构图 Task-Oriented Genetic Activation for Large-Scale Complex Heterogeneous Graph Embedding MAGNN: Metapath Aggregated Graph Neural Network for Heterogeneous Graph Embedding 图注意力模型 Towards Fine-grained Flow Forecasting: A Graph Attention Approach for

原创 Linuxer Linux阅码场 2017-11-11 Linuxer已经从一个单纯的读者服务公众号转变为一个为广大用户解决linux学习，工作以及职业生涯实际问题的平台。用户参与，才能让这个平台更加实用，有效。Linuxer平台号召各路大虾一起来建设这个平台，“Linuxer”是广大linuxer的“Linuxer”。 第4个月稿件录取和赠书名单如下： 作者 赠送书 作品 明鑫 奔跑吧Linux内核》 吴锦华/明鑫: 用户态文件系统(FUSE)框架分析和实战 吴锦华 《奔跑吧linux内核》 吴锦华/明鑫: 用户态文件系统(FUSE)框架分析和实战 王玉成 《Deep Learning 深度学习》 王玉成： Android Things 第3个月稿件录取和赠书名单如下： 作者 赠送书 作品 魏永明 《微信小程序开发实战》 魏永明： MiniGUI的涅槃重生之路 郭健 《奔跑吧linux内核》 郭健： Linux内存逆向映射（reverse mapping）技术的前世今生 谢宝友 《奔跑吧linux内核》 谢宝友： 深入理解Linux RCU之一——从硬件说起 谢宝友：深入理解Linux RCU：从硬件说起之内存屏障 黄伟亮 《机器人爱好者（第4辑）》 黄伟亮： 探秘Linux的块设备和根 宋牧春 《奔跑吧linux内核》 宋牧春： Linux设备树文件结构与解析深度分析(1

风控决策引擎主要是一些风险控制规则的组合，通过不同的业务规则和不同的组合方式进行计算。既然是组合，那么不同的优先级会得到不同的效果，同时会消耗不同的资源，因此，优先级便非常重要。 风控系统的作用在于识别绝对风控和标识相对风险，绝对风控意味着整套风控的审核结果是“拒绝”，既然结果是拒绝，就不需要运行完所有规则，只要有一条规则是拒绝就可以停止运行了，由此得出规则优先级需要注意的重点如下： （1）自有规则优先于外部规则 简单说明：自有的本地黑名单库优先于外部的黑名单先运行，如有触发，直接拒绝，既节约了成本，又准确和快速。 （2） 无成本或低成本的规则优先于高成本的规则运行 举例说明：借款用户的身份特定不符合风控要求的，如低于18岁用户，则可优先运行。而一些通过对接外部三方征信的风控规则，需支出相关查询费用的，则靠后运行。此外，在外部三方征信的规则中，命中式收费的风控规则（如黑名单与反欺诈）又可以优先于每次查询式收费的风控规则（如征信报告）运行 （3）消耗低性能的规则优先于高性能消耗的规则运行 简单说明：如不需要加工的属性规则数据先运行，需要再加工的消耗机器资源成本的数据后运行 （4）可调整 解释说明：规则的条件是可以灵活设置区间的，当用户满足某个区间进行作用 由于风控的最终结果还是通过数据“喂出来的”结果，风控的本质就是数据，当样本不断变化后，风控的规则也要进行变化，因此

实战是学习一门技术最好的方式，也是深入了解一门技术唯一的方式。因此，NLP专栏计划推出一个实战专栏，让有兴趣的同学在看文章之余也可以自己动手试一试。 本篇介绍自然语言处理中一种非常重要的任务：命名实体识别。因为最常见的是Bilstm+CRF模型进行实体识别，本文介绍介绍另外一种有效的模型，Dilated-CNN+CRF模型，但是两种模型的代码都会给出。 作者&编辑 | 小Dream哥 1 命名实体识别任务介绍 笔者在这篇文章中，曾经系统的介绍过命名实体识别任务的相关 概念 和 语料 标注方式 ，不了解的同学可以先阅读这篇文章： 【NLP-NER】什么是命名实体识别？ 关于Bilstm和Dilated-CNN两个模型 理论 方面的内容，笔者在这篇文章中做了详细的介绍，不了解的同学可以先阅读这篇文章： 【NLP-NER】命名实体识别中最常用的两种深度学习模型 话不多说，既然是实战篇，我们就赶紧开始吧。 2 数据预处理 1) 查看数据格式 先了解一下数据格式，方便后面进行处理。如下图所示，语料为标准的BIO标注方式， 每个字和标记之间用空格隔开，语料之间用一个空行隔开 。 2）读取训练数据 def load_sentences(path, lower, zeros): """ 加载训练，测试，验证数据的函数 """ sentences = [] sentence = [] num = 0