贝叶斯

谷歌用算力爆了一篇论文,解答有关无限宽度网络的一切

谁说我不能喝 提交于 2020-08-19 13:30:50
  选自arXiv    作者:Jaehoon Lee等    编辑:Panda    无限宽度神经网络是近来一个重要的研究课题,但要通过实证实验来探索它们的性质,必需大规模的计算能力才行。近日,谷歌大脑公布的一篇论文介绍了他们在有限和无限神经网络方面的系统性探索成果。该研究通过大规模对比实验得到了 12 条重要的实验结论并在此过程中找到了一些新的改进方法。该文作者之一 Jascha Sohl-Dickstein 表示:「这篇论文包含你想知道的但没有足够的计算能力探求的有关无限宽度网络的一切!」      近日,谷歌大脑的研究者通过大规模实证研究探讨了 宽神经网络与核(kernel)方法之间的对应关系 。在此过程中,研究者解决了一系列与无限宽度神经网络研究相关的问题,并总结得到了 12 项实验结果。   此外,实验还额外为权重衰减找到了一种改进版逐层扩展方法,可以提升有限宽度网络的泛化能力。   最后,他们还为使用 NNGP(神经网络高斯过程)和 NT(神经正切)核的预测任务找到了一种改进版的最佳实践,其中包括一种全新的集成(ensembling)技术。这些最佳实践技术让实验中每种架构对应的核在 CIFAR-10 分类任务上均取得了当前最佳的成绩。      论文链接:https://arxiv.org/pdf/2007.15801v1.pdf  

不会做菜?你需要能理解菜谱的烹饪机器人

和自甴很熟 提交于 2020-08-18 11:54:24
   作者:张雨嘉    编辑:Joni    本文主要介绍与用户和厨房交互的烹饪机器人:多模态的烹饪辅助、自学习菜谱的系统以及以人为反馈的优化烹饪方法。   在人们对未来生活的幻想中,「自动化」占据非常大的比重。除了已经有的家居自动化、办公自动化外,烹饪自动化可以说是 90 后、00 后的一个福音。   烹饪机器人的研究,多数以日本的研究者为主,比如日本的 Ogura 等人 [1] 开发了一个机器人系统,可以用多种方式切菜。Kormushev 等人 [2] 在 2010 年 IEEE 上的 Robot Motor Skill Coordination with EM-based Reinforcement Learning 论文中提出了一种向机器人传授翻转煎饼的方法,并通过强化学习来改善动作准确率。   作为一个整合的系统,Yamaguchi 总结了烹饪机器人在不同部分的难点和挑战:一是如何正确操作可形变物体(如敲鸡蛋、剥香蕉等),这需要对物体建立具有鲁棒性的动力学模型;二是为了使用多种烹饪技能,机器人必须具备一个灵巧的机械手并会像人类学习;最后我们的目的是制作美味的食物,所以机器人也得具备强大的触觉、味觉或特殊用途传感器,以优化烹饪过程。   但该文没有提到的是,通过我们的日常经验可以知道,烹饪不同于利用机械臂装配,它并不是一种标准化的过程。不同的人有不同的烹饪技巧和烹饪风格

从赌博中的概率到AI中的概率

半城伤御伤魂 提交于 2020-08-18 04:20:10
不确定的世界 我们生活的这个世界里面普遍具有不确定性,除了很少一部分事件具有确定性,其它大部分事件都是不确定的。而这些不确定事件我们就需要概率来描述,目前概率论已经渗透进各个学科,可以说它是人类知识体系中非常重要的部分。概率论是科学的,科学理论也需要概率论去支撑。 关于概率 如果有人跟你说明天太阳从东边升起来,那么你会觉得这是确定的,因为在人类可以预见的未来都会是这样,这种事我们会说它的概率是100%。但如果有个卖保险的人向你推荐保险,对于有概率思维的你也许很快就会用各种理论去计算看哪款产品更优。从简单的掷骰子到复杂宏观的天气预测、股市经济预测,微观的量子力学等等都需要概率来描述。 概率下的游戏 概率论的最早起源可以追溯到公元前的埃及人,他们就已经跟现代人一样开始用骰子来玩游戏了。与现代人不一样的是,他们玩骰子是因为当时饥荒很严重而玩骰子,这样他们就能忘记饥饿了,而现代人是因为吃太饱闲得慌去玩骰子赌博。 到十七世纪欧洲贵族盛行赌博,通过使用各种随机游戏来进行赌博。其中有些人就开始对随机游戏进行思考,哪种情况的可能性较大呢?一直到1654年,费尔马和帕斯卡两位数学家对于“分赌注问题”的通信讨论被公认为是概率论诞生的标志,他们两与惠更斯被称为早期概率论的创立者。 可以说,概率论的起源是赌博和游戏,后面才开始跳出赌博游戏而发展的。 概率论后期发展 后面概率论的发展已经跟赌博关系不大

概率机器学习绽放光彩,Uber首席科学家Zoubin获英国皇家学会奖项

こ雲淡風輕ζ 提交于 2020-08-17 17:56:01
  机器之心报道    编辑:魔王    Zoubin Ghahramani 曾在一次演讲中表示:在深度学习革命之后,下一个前进的方向会是概率机器学习。   近日,英国皇家学会颁发 2021 年米尔纳奖(Royal Society Milner Award and Lecture),剑桥大学信息工程学教授 Zoubin Ghahramani 因其对概率机器学习的基础贡献获得此奖项。      该奖项以计算机科学家罗宾 · 米尔纳(Robin Milner)的名字命名,由微软研究院支持,旨在奖励欧洲地区对计算机科学做出卓越贡献的个人,以支持欧洲研究者和研究机构的发展。   获奖后,Zoubin Ghahramani 在社交媒体上表达了自己的心情和对合作者的感谢:       Zoubin Ghahramani 其人      个人主页:http://mlg.eng.cam.ac.uk/zoubin/   Zoubin Ghahramani 是机器学习领域中的领军学者,尤其对概率机器学习和贝叶斯非参数方法,以及用于可扩展学习的近似变分推断算法的发展做出了基础性贡献。他还是半监督学习方法、主动学习算法和稀疏高斯过程的提倡者之一。他提出的新型无穷维非参数模型(如无穷潜在特征模型)对机器学习领域产生了极大影响。   他是剑桥大学信息工程学教授、伦敦 Gatsby 计算神经科学中心的创始人员

第19天:NLP实战(三)——用CNN实现微博谣言检测

谁说我不能喝 提交于 2020-08-17 15:09:35
  接着上次的项目,主要是为了熟悉我们对NLP知识的实际应用,接着上次对深度学习中的DNN的简单应用相信大家对深度学习的相关知识以及相应的实现流程有了一个初步的了解,今天接着上次的 项目 ,通过用CNN对微博谣言检测进行实现。很明显这是个二分类的问题,因此,我们可以用到朴素贝叶斯或者逻辑回归以及支持向量机都可以解决这个问题,另外在深度学习中,我们可以用CNN-Text或者RNN以及LSTM等模型最好,之所以本次用到CNN就是通过本次项目介绍让大家对CNN有一个更深层次的了解。接下来,我们详细给大家介绍项目。 任务介绍   人们常说“流言止于智者”,要想不被网上的流言和谣言盅惑、伤害,首先需要对其进行科学甄别,而时下人工智能正在尝试担任这一角色。那么,在打假一线AI技术如何做到去伪存真?传统的谣言检测模型一般根据谣言的内容、用户属性、传播方式人工地构造特征,而人工构建特征存在考虑片面、浪费人力等现象。本次实践使用基于卷积神经网络(CNN)的谣言检测模型,将文本中的谣言事件向量化,通过循环神经网络的学习训练来挖掘表示文本深层的特征,避免了特征构建的问题,并能发现那些不容易被人发现的特征,从而产生更好的效果。 数据集介绍   本次实践所使用的 数据 [验证码:u0is]是从新浪微博不实信息举报平台抓取的中文谣言数据,数据集中共包含1538条谣言和1849条非谣言。如下图所示

快速目标跟踪方法总结

 ̄綄美尐妖づ 提交于 2020-08-17 11:58:36
转自: https://blog.csdn.net/study_all/article/details/102543500 一、简介 二、目标跟踪基本流程与框架 三、快速目标跟踪方法 模板匹配 TLD 光流法(Lucas-Kannade) 四、快速目标跟踪方式的应用效果 一、简介 目标跟踪是计算机视觉研究领域的热点之一,有着非常广泛的应用,如:相机的跟踪对焦、无人机的自动目标跟踪等都需要用到目标跟踪技术。此外,还有特定物体的跟踪,比如人体跟踪,交通监控系统中的车辆跟踪,人脸跟踪和智能交互系统中的手势跟踪等。 过去的几十年来,目标跟踪技术取得了长足的进步。特别是近几年,随着深度学习的目标跟踪方法的出现,获得了令人满意的效果,也涌现了越来越多的方法,这都使得目标跟踪技术取得了突破性的进展。 本文 主要内容 包括:目标跟踪的基本流程与框架,快速目标跟踪相关方法及其应用效果。 希望通过本文能帮助读者对目标跟踪领域有一个较为全面的认识,对其中涉及到的方法及原理有进一步的了解。 二、目标跟踪基本流程与框架 目标(单目标)跟踪任务就是在给定某视频序列初始帧的目标大小与位置的情况下,预测后续帧中该目标的大小与位置。 此基本任务 大致流程 可以根据框架进行如下划分: 输入初始化目标框(初始帧),在下一帧中产生众多候选框(Motion Model),提取这些候选框的特征(Feature

白话贝叶斯理论及在足球比赛结果预测中的应用和C#实现

谁都会走 提交于 2020-08-17 07:52:54
  离去年“ 马尔可夫链进行彩票预测 ”已经一年了,同时我也计划了一个彩票数据框架的搭建,分析和预测的框架,会在今年逐步发表,拟定了一个目录,大家有什么样的意见和和问题,可以看看,留言我会在后面的文章中逐步改善: 彩票数据框架与分析预测总目录 。同时这篇文章也是“ 【彩票】彩票预测算法(一):离散型马尔可夫链模型C#实现 ”的兄弟篇。所以这篇文章还有一个标题,应该是: 【彩票】彩票预测算法(二):朴素贝叶斯分类器在足球胜平负预测中的应用及C#实现 。    以前了解比较多的是SVM,RF,特征选择和聚类分析,实际也做过一些分类预测的任务。在近1年多的时间中,开始接触足球赛事的预测,刚开始也想使用SVM,Rf来进行预测,一方面效果太差,二是其理论也的确不满足我自己想法的要求。所以也一直在看很多机器学习,数据挖掘的文章。直到看到了贝叶斯的相关文章,在这2个多月的研究中,也积累了很多经验,同时也在使用C#来完成自己的想法,在这个过程中,夹杂很多的知识要点,我自己也很乱,所以趁假期总结一下,由于写太多的公式大家也不一定能耐心看,也不易于理解,所以我把这篇文章叫做“大话贝叶斯”,目的就是尽量通过自己的简单语言和描述(当然如果确实需要学习贝叶斯来解决问题,有些基本概念,如条件概率,边缘分布,分布函数等等还是需要自己搞清楚)让大家更容易的懂得和理解贝叶斯相关理论及其应用。同时我通过实际的C

数论基础

不羁岁月 提交于 2020-08-17 07:49:48
开个坑先把基础放这儿,过两天来更新一些奇妙的知识 1 同余 若 \(a,b\) 为两个整数,且它们的差 \(a-b\) 能被某个自然数 \(m\) 所整除,则称 \(a\) 就模 \(m\) 来说同余于 \(b\) ,或者说 \(a\) 和 \(b\) 关于模 \(m\) 同余,记为: \(a \equiv b\pmod m\) 。它意味着: \(a-b=m\times k\) ( \(k\) 为某一个整数)。 例如 \(32\equiv 2\pmod 5\) ,此时 \(k\) 为 \(6\) 。 对于整数 \(a,b,c\) 和自然数 \(m,n\) ,对模 \(m\) 同余具有以下一些性质: 自反性: \(a\equiv a\pmod m\) 对称性:若 \(a\equiv b\pmod m\) ,则 \(b\equiv a\pmod m)\) 传递性:若 \(a\equiv b\pmod m,b\equiv c\pmod m\) ,则 \(a\equiv c\pmod m\) 同加性:若 \(a\equiv b\pmod m\) ,则 \(a+c \equiv b+c\pmod m\) 同乘性:若 \(a\equiv b\pmod m\) ,则 \(a*c\equiv b*c\pmod m\) 若 \(a\equiv b\pmod m, c\equiv d\pmod m\)

概率论与数理统计习题——第七讲——全概率公式与贝叶斯公式

你离开我真会死。 提交于 2020-08-17 05:32:37
学习笔记参考: 概率论与数理统计学习笔记——第七讲——全概率公式与贝叶斯公式 https://blog.csdn.net/hpdlzu80100/article/details/102568267 习题: 答案: 1. B 2. C 3. C 4. D 5. D 来源: oschina 链接: https://my.oschina.net/u/4409432/blog/4454615

t分布, 卡方x分布,F分布

耗尽温柔 提交于 2020-08-14 23:00:47
T分布:温良宽厚 本文由“医学统计分析精粹”小编“Hiu”原创完成,文章采用知识共享Attribution-NonCommercial-NoDerivatives 4.0国际许可协议(http://creativecommons.org/licenses/by-nc-nd/4.0/)进行许可,转载署名需附带本号二维码,不可用于商业用途,不允许任何修改,任何谬误建议,请直接反馈给原作者,谢谢合作! 命名与源起 “t”,是伟大的Fisher为之取的名字。Fisher最早将这一分布命名为“Student's distribution”,并以“t”为之标记。 Student,则是William Sealy Gosset(戈塞特)的笔名。他当年在爱尔兰都柏林的一家酒厂工作,设计了一种后来被称为t检验的方法来评价酒的质量。因为行业机密,酒厂不允许他的工作内容外泄,所以当他后来将其发表到至今仍十分著名的一本杂志《Biometrika》时,就署了student的笔名。所以现在很多人知道student,知道t,却不知道Gosset。(相对而言,我们常说的正态分布,在国外更多的被称为高斯分布……高斯~泉下有知的话,说不定会打出V字手势~欧耶!) 看懂概率密度图 这一点对于初学者尤为重要,相信还是有不少人对正态分布或者t分布的曲线没有确切的理解。 首先,我们看一下频率分布直方图,histogram: