深度学习

MyDLNote-Detection: DETR : End-to-End Object Detection with Transformers

喜你入骨 提交于 2020-08-14 08:52:20
End-to-End Object Detection with Transformers [paper] https://arxiv.org/pdf/2005.12872.pdf [github] https://github.com/facebookresearch/detr Abstract We present a new method that views object detection as a direct set prediction problem. 本文做了啥:提出了一种将目标检测看作直接集预测问题的新方法。 Our approach streamlines the detection pipeline, effectively removing the need for many hand-designed components like a non-maximum suppression procedure or anchor generation that explicitly encode our prior knowledge about the task. 本文工作的亮点:简化了检测流程,有效地消除了许多手工设计的组件的需求,比如一个非最大抑制程序或锚的生成,显式地编码了关于任务的先验知识。 The main ingredients of the

Coursera Deep Learning笔记 改善深层神经网络:优化算法

青春壹個敷衍的年華 提交于 2020-08-14 08:49:53
笔记:Andrew Ng's Deeping Learning视频 参考: https://xienaoban.github.io/posts/58457.html 本章介绍了优化算法,让神经网络运行的更快 Mini-batch 梯度下降 将 \(X = [x^{(1)}, x^{(2)}, x^{(3)}, ..., x^{(m)}]\) 矩阵所有 \(m\) 个样本划分为 \(t\) 个 子训练集 每个子训练集称为 \(x^{\{i\}}\) , 每个子训练集内样本个数均相同(若每个子训练集有1000个样本, 则 \(x^{\{1\}} = [x^{(1)}, x^{(2)}, ..., x^{(1000)}]\) ,维度为 \((n_x,1000)\) . 若m不能被子训练集样本数整除, 则最后一个子训练集样本可以小于其他子训练集样本数. \(Y\) 亦然. 训练时, 每次迭代仅对一个子训练集进行梯度下降: \[\begin{aligned} & \text{Repeat} :\\ & \qquad \text{For } i = 1, 2, ..., t: \\ & \qquad \qquad \text{Forward Prop On } X^{\{i\}} \\ & \qquad \qquad \text{Compute Cost } J^{\{i\}} \\ &

《AI+化学与制药》论坛:有AI就不搬砖,化学逆合成也可以借鉴AlphaGo的思想

ⅰ亾dé卋堺 提交于 2020-08-14 08:35:27
     作者 | 青暮   编辑 | 陈彩娴   2020年6月29日,未来论坛·青创联线上学术研讨会YOSIA Webinar举办第三期论坛,主题为《AI+化学与制药,人工智能为药物研发和化学研究按下快进键》。本期AI+化学与制药主题研讨会将汇集化学、制药行业代表及人工智能专家学者,一同探讨化学与制药行业的价值、研究路径及未来发展方向。   在论坛中,我们可以看到人工智能经常在化学和制药领域中碰撞出创新的思想之火花。例如,化学逆合成反应借鉴了AlphaGo的思想,小分子可以编码为字符串用NLP技术处理,或者编码为无向连接图用GNN处理,甚至可以用生成模型生成新的化学分子,以及用深度学习来预测化学物质的性质等等。   随着人工智能时代的到来,研究人员需要在无穷变化的化学反应条件下手工设计出化学合成路线的“劳动密集型”将成过去,未来化学领域的人工智能应用能够掌握和消化海量合成方法、合成路线、材料结构和性能等,辅助化学家描绘出合成过程的“蓝图”,从繁重的手工劳动中解放出来。   在AI技术助力化学研究与新药研发的进程下,化学科研仍需大量创新和跳跃性思维,为人工智能提供创新策略,推进人工智能系统不断优化,后者再反过来推动化学研究人员进行更深入的研究。   论坛邀请由麻省理工学院生物系副教授翁经科主持,邀请了来自合成化学、药物设计、化学化工、制药行业的人工智能专家,分别是:

AI研习丨针对长尾数据分布的深度视觉识别

☆樱花仙子☆ 提交于 2020-08-14 06:44:06
      摘 要   本文介绍了目前国内外关于长尾数据分布下深度视觉识别的研究进展,主要从常用数据集及应用、经典机器学习解决方案和深度学习解决方案三个维度进行梳理和分析,并针对长尾数据分布的深度视觉识别的未来方向进行了探讨。    关 键 字   长尾数据分布;深度学习;机器学习;视觉识别;计算机视觉    0 前言   在机器学习及其在视觉识别的应用中,我们处理的标准数据通常都有一个基本假设,即该数据集各类别对应的样本数量是近似服从均匀分布的,即类别平衡。但现实生活中的数据往往呈现较极端的不平衡现象,如日常生活经常看到云朵和狗等物体,却鲜见概念车甚至传说中的“外星生物”,这样的自然规律使得真实数据的分布通常呈现出“长尾”分布的形态,如图1所示。可以看到常见(但少量)的物体类别在视觉识别的图像中出现的频次占主导地位,而罕见(却大 量)的物体类别出现的频次占比微乎其微。在机器学习和视觉识别的实际应用过程中,长尾分布在某种程度上可以说是比正态分布更加广泛存在的一种自然分布,现实中主要表现在少量个体做出大量贡献(少量类别的样本数占据大量样本比例),人们经常提到的“二八定律”(Pareto法则)就是长尾分布的形象概括。      图 1 长尾数据分布示意图   长尾分布数据的极度不平衡,给机器学习和视觉识别带来了巨大挑战。类别的极度不平衡导致模型学习非常容易被“头部”类别主导而产生过拟合

数字化孪生服务平台构建详情分析

心已入冬 提交于 2020-08-14 05:44:44
数字孪生(DigitalTwin)最开始由美国国防部明确提出,用以航天航空飞行器的健康维护保养与保障。其核心内容为根据数学原理创建系统软件中核心部件、重要数据流分析相对路径和每个检测点传感器等元器件的数学模型,并将数学模型依据系统软件逻辑性展开连接转化成数字化模拟仿真模型,根据外界传感器收集真正系统软件载荷量根据有线或无线数据传输将数据信号引入模拟仿真模型,驱动模拟仿真模型与真正系统软件同时工作,进而运维管理工作人员能够在数字模拟仿真模型中很形象化的查看到真正系统软件无法精确测量或无法精确测量的实时监测数据信息。 数字孪生的产生很大程度的便捷了系统软件检测工作人员的经营成本,且能够迅速发觉与找到运作难题,有效预测分析器件使用期限,节约成本提高工作效率。伴随着电子信息技术发展与物联网的升级,数字孪生被推广到以航天航空、路轨车辆、自动化生产等领域主导的各类工业与生产制造中,如何对于不同领域的器件展开合理化等效并转化成数字样品,如何提高数字孪生的模拟仿真速度与精度,这些全是数字孪生急需解决的关键问题。 一、基于ANSYS平台的数字孪生完成方式 做为一家以有限元模拟仿真而知名的美国ANSYS公司,早在两年前其提出了以有限元模拟仿真为基础,系统级模拟仿真为终极目标的数字孪生模拟仿真计划方案。计划方案中选用有限元、有限体积法等数值分析方式,ROM、LTi、SVD、ECE等模型降阶方式 和SML

体系结构如何加速人工智能?图灵奖得主David Patterson为你解惑

99封情书 提交于 2020-08-14 04:22:08
  2020 WAIC·开发者日将于7月10日-11日线上举办。在主论坛上,图灵奖得主David Patterson将带来宗师课《体系结构创新加速人工智能》。   人工智能已经成为新一轮产业变革的核心驱动力,正在对世界经济、社会进步和人类生活产生极其深刻的影响。    2020 世界人工智能大会云端峰会是由上海市政府打造的国际顶级人工智能会议,大会将于 7 月 9-11 日举行 。      世界人工智能大会开发者日(以下简称为 WAIC 开发者日)云端峰会作为大会主题论坛及特色活动,是 WAIC 期间唯一面向 AI 开发者的专业活动,将成为人工智能领域年度最高规格、最专业、最具影响力的开发者盛会之一。本届开发者日包含 1 场主论坛、多场分论坛、高峰对话、黑客松、Demoday、公开课等活动,为业界呈现最丰盛的人工智能技术分享盛宴。在活动期间,大会也将进行上海白玉兰开源开放研究院揭牌、发布《人工智能开源开放报告》、WAIC 云帆奖。   在今年的开发日主论坛上,机器之心联合上海交通大学人工智能研究院特邀请到了多位重磅嘉宾,其中就包括 2017 年图灵奖得主、计算机体系结构宗师 David Patterson 。   届时,他将带来主题演讲《体系结构创新加速人工智能》(Architecture Innovation Accelerates Artificial

中科院计算所沈华伟:图神经网络表达能力的回顾和前沿

五迷三道 提交于 2020-08-14 04:19:11
     作者 | 蒋宝尚   编辑 | 丛末   6月23日,中科院计算所的研究员、智源研究院的智源青年科学家沈华伟老师在第二届北京智源大会上做了《图神经网络的表达能力》的报告。   在报告中,沈华伟老师提到: 这几年,虽然图神经网络在其他领域大量应用,但“内核”仍然停滞不前 , 目前设计新图神经网络(GNN)的两种常用方式都在面临理论上的瓶颈。   沈华伟老师还对近几年图神经网络表达能力的相关研究进行了梳理,他说:“GNN出现的早期,大家对它表达能力的认识是基于其在半监督学习,尤其是节点分类任务上的优秀表现,一些应用向的研究也只是对图神经网络表达能力经验上的证明”。   基于这个认知,在介绍完图神经网络的基本知识之后,沈华伟老师对图神经网络的表达能力给予了理论上的介绍。   以下是演讲全文,AI科技评论做了不改变原意的整理。 此文经过沈老师修改。      图神经网络过去几年炙手可热,也取得了一系列的突破,但是这两年发展进入了相对停滞的状态。   当前更多的研究员是把图神经网络当做一个工具,也即把图神经网络泛化到其他领域进行应用方向的研究。例如早期图神经网络在节点分类、链路预测以及图分类上取得了一些进展之后,很快就用在了其他领域,包括推荐领域、自然语言处理领域等等。      其实,图神经网络“内核”仍然停滞不前 。为什么呢?因为在设计新GNN的时候通常有两种方式

移卡旗下全新餐饮SaaS产品米粒餐收银发布 科技驱动零售餐饮业态场景创新

隐身守侯 提交于 2020-08-14 03:31:10
7月23日,移卡旗下全新餐饮SaaS产品米粒餐收银战略发布会于长沙圣爵菲斯大酒店隆重举办。会上,移卡旗下全新餐饮SaaS产品米粒餐收银重磅发布。 餐饮市场进入后疫情时代 中小商户亟需数字化转型 根据国家统计局发布数据,2020年5月餐饮行业总收入为3013亿元,降幅较上月收窄12.2个百分点,进入后疫情时代,餐饮行业呈现回暖趋势。 疫情期间,越来越多消费者习惯了方便快捷的外卖点餐形式,可提供线上服务的餐饮企业背后都离不开数字化解决方案的支撑。作为商家数字化整体解决方案提供者,米粒餐致力于帮助餐饮门店完成数字化改造。 凭借移卡在商户服务领域深耕的多年经验,米粒餐收银建立了完善的培训及服务体系,能够理解和服务处于不同阶段的餐饮企业,并利用自身认知、技术、经验等多维度的优势,帮助餐饮企业实现数字化转型,抢占未来先机。 移卡全新餐饮SaaS品牌,米粒餐四大优势重磅发布 移卡消费云副总裁朱洪伟致活动开场词 据悉,米粒餐收银母公司深圳市移卡科技有限公司是以支付为基础的领先科技平台,主要为商户及消费者提供支付及商业服务。公司依靠提供支付服务获取客户,并向他们提供科技赋能商业服务。公司于2014年获得中国人民银行支付业务许可证,提供全国银行卡收单及移动电话支付业务。据Oliver Wyman的数据,按2019年日均交易笔数计,移卡为中国第二大非银行独立二维码支付服务提供商。 应当下市场的发展

初入CV行业得海尔青睐,云通讯独角兽容联发力视觉智能产业

懵懂的女人 提交于 2020-08-14 01:47:33
近几年CV(计算机视觉)一直是AI最火的技术领域之一。经过几年的攻城略地,国内市场已经形成了旷视、依图、商汤、云从这「CV四小龙」盘踞的格局。 但目前CV应用仍然局限在人脸识别领域,应用范围有限并且容易看见天花板。随着人脸识别算法的普及,企业很难做出有竞争力的差异化产品。 国内的云通讯巨头容联云通讯(简称容联)从2018年起开始涉足CV产业应用,将AI视觉技术带入产业,通过分析监控视频为企业、项目的生产和运营提供指导。 容联的实践无疑为已成红海的CV行业指出了一条新的路子。 撰文 | 徐丹 坐落于合肥的海尔滚筒洗衣机工厂中,工作人员正紧张有序的进行洗衣机生产。生产线的另一边,一台机器通过摄像头密切记录着生产情况。 当一台生产好的洗衣机进入传送带时,机器迅速发出警报,因洗衣机表面出现略微凹陷。 这台机器便是容联的智能视觉分析平台「慧眼」,2019年落地海尔智慧工厂,通过监控分析来识别违规生产动作、产品瑕疵和安全隐患,自动识别违规操作并记录,大大降低次品率和赔付成本。 海尔工厂的需求并不是特例,在常见的人脸识别等监控类安防外,越来越多的企业需要一种操作系统,可以「读懂」监控内容为生产提供指导。 这种操作系统可以称之为垂直于行业的CV产品,目前这个赛道还未完全成型,专注于此的大多数是在某一个行业深耕的创业公司,难见行业巨头。 容联是国内云通讯市场「老大哥」,2018年开始推出行业CV产品

github上DQN代码的环境搭建,及运行(Human-Level Control through Deep Reinforcement Learning)conda配置

杀马特。学长 韩版系。学妹 提交于 2020-08-14 01:21:41
最近师弟在做DQN的实验,由于是强化学习方面的东西,正好和我现在的研究方向一样于是我便帮忙跑了跑实验,于是就有了今天的这个内容。 首先在github上进行搜寻,如下图: 发现第一个星数最多,而且远高于其它的项目,于是拉取这个链接: https://github.com/devsisters/DQN-tensorflow 本篇博客主要是讲解一下该代码运行环境的如何搭建,采用 conda 配置。 首先看下 README 上的内容, 主要是requirement最重要: 考虑到运行的兼容性,于是决定使用python2.7版本环境运行,下面开始 conda 的配置: 搜寻python2.7版本,并采用最小自版本号 conda search python=2.7 选择 python2.7.3版本, 为环境命名 dqn_2 : conda create -n dqn_2 python=2.7.3 进入新建环境,并确认版本: conda activate dqn_2 安装 numpy scipy conda install numpy scipy 安装 tqdm (进度条模块) pip install tqdm==4.30 安装 gym (oepnai 的 游戏环境交互模块) 可选安装: pip install gym==0.1.0 必选安装: pip install gym[Atari]==0