贝叶斯

1. 前言 我们在学习人工智能的时候，不管是机器学习还是深度学习都需要经历一个调参的过程，参数的好坏直接影响这模型效果的好坏。今天我们介绍下在深度学习中，调参的技巧主要分为哪些。 2. 深度学习中的主要参数 学习率（learning rate）：学习率的取值一般是1、0.1、0.01、0.001等，我的建议是学习率从大到小，因为大的学习率运算的快，验证错误的速度快。并且我们的学习的过程一般通过Adam进行动态调整，基本问题不大。 网络层数：先从1层开始。 每层结点数：16，32，128，超过1000的情况比较少见。 batch size: 128左右开始 。batch取太大会陷入局部最小值，batch取太小会抖动厉害，因此要选择一个合适的batch size。 梯度裁剪: 限制最大梯度，如果梯度超过了阈值就进行截断。 dropout：在训练的时候可以设置一定的dropout，提升网络的健壮性，也能提升网络的计算速度。 词向量embedding大小：embedding的大小一般是128和256。 正负样本比例： 这个是非常忽视，但是在很多分类问题上，又非常重要的参数。很多人往往习惯使用训练数据中默认的正负类别比例，当训练数据非常不平衡的时候，模型很有可能会偏向数目较大的类别，从而影响最终训练结果。除了尝试训练数据默认的正负类别比例之外，建议对数目较小的样本做过采样，例如进行复制

来源：量化投资与机器学习 本文约11500字，建议阅读25分钟本文介绍了在过去50年内最重要的8个统计思想。 近日，图灵奖得主、“贝叶斯网络之父”Judea Pearl在Twitter上分享了一篇新论文“What are the most important statistical ideas of the past 50 years?”（过去50年中最重要的统计思想是什么？） 这篇论文由哥伦比亚大学统计学教授Andrew Gelman和阿尔托大学计算机科学系副教授Aki Vehtari所著，他们根据自己的研究和文献阅读经验总结出了 过去半个世纪以来最重要的8个统计思想， 并表示： “它们是独立的概念，涵盖了统计方面不同的发展。这些思想都在1970年前的理论统计文献和各个应用领域的实践中就已经出现。但是在过去的五十年中，它们各自已经发展到足以成为新事物的程度。” 他们认为，过去半个世纪中最重要的统计思想是： 反事实因果推理，基于bootstrapping（自助抽样法）和基于模拟的推理，超参数化模型和正则化，多层模型，泛型计算算法（generic computation algorithms），自适应决策分析，鲁棒推理和探索性数据分析 （未按时间顺序，排序不分先后）。 在这篇论文中， 他们将讨论这些思想的共同特征、它们与现代计算和大数据的关系以及在未来几十年中如何发展。

四大会计师事务所之一的普华永道（PwC）发布了多份解读机器学习基础的图表，其中介绍了机器学习的基本概念、原理、历史、未来趋势和一些常见的算法。为便于读者阅读，机器之心对这些图表进行了编译和拆分，分三大部分对这些内容进行了呈现，希望能帮助你进一步扩展阅读。 一、机器学习概览 1. 什么是机器学习？ 机器通过分析大量数据来进行学习。比如说，不需要通过编程来识别猫或人脸，它们可以通过使用图片来进行训练，从而归纳和识别特定的目标。 2. 机器学习和人工智能的关系 机器学习是一种重在寻找数据中的模式并使用这些模式来做出预测的研究和算法的门类。机器学习是人工智能领域的一部分，并且和知识发现与数据挖掘有所交集。 3. 机器学习的工作方式 ①选择数据：将你的数据分成三组：训练数据、验证数据和测试数据 ②模型数据：使用训练数据来构建使用相关特征的模型 ③验证模型：使用你的验证数据接入你的模型 ④测试模型：使用你的测试数据检查被验证的模型的表现 ⑤使用模型：使用完全训练好的模型在新数据上做预测 ⑥调优模型：使用更多数据、不同的特征或调整过的参数来提升算法的性能表现 4. 机器学习所处的位置 ①传统编程：软件工程师编写程序来解决问题。首先存在一些数据→为了解决一个问题，软件工程师编写一个流程来告诉机器应该怎样做→计算机遵照这一流程执行，然后得出结果 ②统计学：分析师比较变量之间的关系 ③机器学习

该系列文章是讲解Python OpenCV图像处理知识，前期主要讲解图像入门、OpenCV基础用法，中期讲解图像处理的各种算法，包括图像锐化算子、图像增强技术、图像分割等，后期结合深度学习研究图像识别、图像分类应用。希望文章对您有所帮助，如果有不足之处，还请海涵~ 前面一篇文章介绍了OpenCV图像处理入门知识、算数逻辑运算与图像融合。这篇文章将介绍图像几何变换，包括：图像平移变换、图像缩放变换、图像旋转变换、图像镜像变换、图像仿射变换和图像透视变换，万字长文整理，希望对您有所帮助。 同时，该部分知识均为作者查阅资料撰写总结，并且开设成了收费专栏，为小宝赚点奶粉钱，感谢您的抬爱。当然如果您是在读学生或经济拮据，可以私聊我给你每篇文章开白名单，或者转发原文给你，更希望您能进步，一起加油喔~ https://github.com/eastmountyxz/ImageProcessing-Python 文章目录 一.图像几何变换概述 二.图像平移变换 三.图像缩放变换 四.图像旋转变换 五.图像镜像变换 六.图像仿射变换 七.图像透视变换 八.总结 前文参考： [Python图像处理] 一.图像处理基础知识及OpenCV入门函数 [Python图像处理] 二.OpenCV+Numpy库读取与修改像素 [Python图像处理] 三.获取图像属性、兴趣ROI区域及通道处理

文章内容来源：https://blog.csdn.net/ZXQHBD/article/details/69389019 　　多传感器数据融合是一个新兴的研究领域，是针对一个系统使用多种传感器这一特定问题而展开的一种关于数据处理的研究。多传感器数据融合技术是近几年来发展起来的一门实践性较强的应用技术，是多学科交叉的新技术，涉及到信号处理、概率统计、信息论、模式识别、人工智能、模糊数学等理论。 　　近年来，多传感器数据融合技术无论在军事还是民事领域的应用都极为广泛。多传感器融合技术已成为军事、工业和高技术开发等多方面关心的问题。这一技术广泛应用于C3I系统、复杂工业过程控制、机器人、自动目标识别、交通管制、惯性导航、海洋监视和管理、农业、遥感、医疗诊断、图像处理、模式识别等领域。实践证明：与单传感器系统相比，运用多传感器数据融合技术在解决探测、跟踪和目标识别等问题方面，能够增强系统生存能力，提高整个系统的可靠性和鲁棒性，增强数据的可信度，并提高精度，扩展整个系统的时间、空间覆盖率，增加系统的实时性和信息利用率等。 1 基本概念及融合原理 1.1多传感器数据融合概念 　　数据融合又称作信息融合或多传感器数据融合，对数据融合还很难给出一个统一、全面的定义。随着数据融合和计算机应用技术的发展，根据国内外研究成果，多传感器数据融合比较确切的定义可概括为

点击上方 “ AI算法与图像处理 ”，选择加"星标"或“置顶” 重磅干货，第一时间送达 来源：计算机视觉研究院专栏 作者：Edison_G 有兴趣的同学请学会面试答题！祝大家都可以拿到心仪的Offer！ 1、请详细说说支持向量机（support vector machine，SVM）的原理 支持向量机，因其英文名为support vector machine，故一般简称SVM，通俗来讲，它是一种二类分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器，其学习策略便是间隔最大化，最终可转化为一个凸二次规划问题的求解。 2、哪些机器学习算法不需要做归一化处理？ 在实际应用中，需要归一化的模型： 1.基于距离计算的模型：KNN。 2.通过梯度下降法求解的模型：线性回归、逻辑回归、支持向量机、神经网络。 但树形模型不需要归一化，因为它们不关心变量的值，而是关心变量的分布和变量之间的条件概率，如决策树、随机森林(Random Forest)。 3、树形结构为什么不需要归一化？ 因为数值缩放不影响分裂点位置，对树模型的结构不造成影响。 按照特征值进行排序的，排序的顺序不变，那么所属的分支以及分裂点就不会有不同。而且，树模型是不能进行梯度下降的，因为构建树模型（回归树）寻找最优点时是通过寻找最优分裂点完成的，因此树模型是阶跃的，阶跃点是不可导的，并且求导没意义，也就不需要归一化。 4、在k

点击上方“AI公园”，关注公众号，选择加“星标“或“置顶” 作 者： Prateek Joshi 编译： ronghuaiyang 导读 昨天给大家介绍了CRF的基本概念，今天我们聊一聊为什么需要这么个东西。 这是一个分为两部分的讨论。在这篇博文中，我们将讨论条件随机场的需求。在下一篇文章中，我们将讨论它们到底是什么以及如何使用它们。在计算机视觉、生物信息学、计算语言学和语音识别等诸多领域，都出现了为一组观测序列分配标签的任务。例如，考虑自然语言处理任务，即在句子中使用相应的词性标记标记单词。在这个任务中，每个单词都有一个标记，表示其适当的词性，从而产生带标注的文本。再举一个例子，考虑根据所观察到的行为给一个视频贴上一个人的心理状态标签的任务。你必须分析用户的面部表情，确定用户是否高兴、生气、悲伤等等。我们经常希望预测大量相互依赖的变量以及其他观察到的变量。如何实现这些任务？我们应该使用什么模型？ 为什么要用条件随机场？ 在许多应用中，我们希望能够预测相互依赖的多个变量。例如，一个运动队的表现取决于该队每个队员的健康状况。每个成员的健康可能会受到团队旅行计划的影响。比赛的结果可能会影响全队的士气。反过来，士气可能会影响健康。正如你所看到的，有多个变量错综复杂地相互依赖。条件随机场(CRFs)对这些问题的建模非常有用。与此类似的应用有很多，比如对图像的区域进行分类

作者：Matthew Ward 翻译：陈之炎 校对：陈丹 本文 约5000字 ，建议阅读 10+ 分钟 本文为你带来贝叶斯统计的基础示例及全面解释。 图：Unsplash，Chris Liverani 贝叶斯统计这个术语最近被广泛使用。它常用于社交场合、游戏和日常生活中，如棒球、扑克、天气预报、总统选举投票等。 在许多科学领域，可以用贝叶斯统计来确定粒子物理和药物有效性实验的结果，它还可用于机器学习和人工智能，以预测你想看什么新闻故事或观看什么Netflix节目。 不管是否对它有充分的理解，贝叶斯统计已融入了我们的日常生活当中，为此，笔者想通过本文对贝叶斯统计做全面的解读，通过一个详尽的例子来展示这个术语的含义。一旦你理解了这个例子，那么便基本上理解了贝叶斯统计。 首先，在读本文之前，假设读者事先对Bayes定理有所熟悉，愿意把公式当成一个黑匣子的读者，也不成问题。如果需要复习一下贝叶斯定理的话，可以到 Medium resources（https://towardsdatascience.com/bayes-theorem-the-holy-grail-of-data-science-55d93315defb）中查找相关资源。 示例和原始观察 这是教科书中经常用到的一个经典例子，我是十多年前在John Kruschke的《DoingBayesian Data Analysis:

全世界只有 3.14 % 的人关注了 爆炸吧知识 运伟大之思者 必行伟大之迷途 如果可以穿越到过去，你最想成为下面的哪个人？ 1 公元前3世纪，希腊，亚历山大城。 有一个年轻人，千里迢迢地从雅典来到了这座城市，满脸疲惫，内心却激动万分：他的理想有机会实现了！ 此前，他已经积累了非常多前人留下的几何知识，但大多数零碎而松散，公式和公式之间更没有什么联系，他想：为什么我不把它们整合在一起呢？ 他在新兴的亚历山大城吸收着新知识，同时整理前人的旧知识， 在无数个日日夜夜里，偶尔伏案疾书，偶尔陷入思索，终于完成了十三卷的著作《几何原本》。 2 1665年，英国，伦敦。 伦敦发生历史一遇的大瘟疫，剑桥大学因此关闭。 有个学生因为无法回到学校，只能待在家中，在足不出户的两年里，他渐渐地开始思考前人从未思考过的问题。 接着，如同受到上帝的点拨，他连续提出了一系列发现： 万有引力定律、光的构成、色的种类、流数术..... 1666年10月，他将前两年的数学研究成果整理成一篇总结性论文，名为《流数简论》。 3 1854年，英国，剑桥。 一个刚从剑桥毕业的小伙子，偶然机会下读到了法拉第的《电学实验研究》,他立刻被书中新颖的实验和见解吸引住了。 1865年，他毅然辞去教职，决意将法拉第的天才思想以数学的形式表达出来。 凭借高深的数学造诣和数十年的努力，他终于将法拉第的电磁场理论转化为简洁、对称的数学公式

由于近些年深度学习技术的飞速发展，大力加速推动了AI在互联网以及传统各个行业的商业化落地，其中， 推荐系统 、计算广告等领域彰显的尤为明显。由于推荐系统与提升用户量以及商业化变现有着密不可分的联系，各大公司都放出了众多推荐系统相关职位，且薪水不菲，目前发展势头很猛。 但是，这里存在几个问题，很多欲从事推荐系统的同学大多数学习的方式是自学，1、往往是学了很多的推荐算法模型，了解些推荐里常用的算法，如：协同过滤、FM、deepFM等， 但是却不清楚这些模型在工业界推荐系统中是如何串联、如何配合、有哪些坑，哪些trick的，导致无论面试还是真正去业界做推荐系统，都会被推荐领域的”老枪老炮“们一眼识别出小白属性 。2、对于算法原理理解不深刻，这就会导致实际应用时不能很好地将模型的性能发挥出来，另外面试时对于大厂面试官的刨根问底，只能是眼睁睁的丢掉offer。 CF、FM、DSSM、DeepFM等这些推荐业界明星模型，你真的清楚他们的内部运行原理以及使用场景吗？真的了解FM模型与SVM有什么相似之处吗？FM固然可以用作为打分模型，但它可以用来做matching吗，如果可以，如何做？item2Vec模型在业界是如何缓解冷启动的问题的？双塔模型优势在哪？深度模型到底是如何做matching的，是离线计算好结果还是实时的对网络进行前向计算？DeepFM具体实现时