深度学习

云栖号资讯：【 点击查看更多行业资讯 】 在这里您可以找到不同行业的第一手的上云资讯，还在等什么，快来！ 时至今日，工业、农业、居民用电量迅速增多，风力发电、水力发电等也成为了电力供应的主要方式。除了保障电力的稳定输送外，对电力进行巡检和抢修也考验着电力服务商的经营智慧。 在传统电力运维模式已不能适应智能电网快速发展需求的大背景下，借助智能机器人、巡检无人机、智能摄像头等智能装备来监测区域电力输送状况，并及时解决输电线路搭建、输电设备停运等问题已经成为电力行业发展的重要趋势。而将机器人技术与电力技术相融合，通过智能机器人实现无人化电力运检已经成为智能电网的一大特点。 据国家电网有限公司消息，日前第四代人工智能配网带电作业机器人在天津市滨海新区完成首次作业后，全面投入配网运行。至此，国网公司已成功完成单臂人机协同、单臂辅助自主、双臂自主3种人工智能配网带电作业机器人研发，在有力保障电网安全稳定运行的同时，有效防范了作业中人身安全风险。 人工智能配网带电作业机器人4.0版，运用采用了视觉识别、运动控制、三维环境重建等核心科技，首创应用于线缆识别定位的多传感器融合技术，首次提出基于深度学习的双臂机器人带电接引流线作业的路径规划算法，自主研发出适用于带电作业机器人的末端执行工具，让机器人可以高效完成自主识别引线位置、抓取引线、剥线、穿线等任务，这可以降低工人劳动强度、提升电力作业安全性。

​​2020 年，人工智能商业化落地全面加速。百度，作为国内人工智能领军企业，围绕最早开源的自研 AI 框架 飞桨 ，在人工智能开发领域有着长期高强度的投入。 今年 5 月份的「WAVE SUMMIT 2020」深度学习开发者峰会上，百度 飞桨 发布包括端到端图像分类开发套件 Paddle Clas 在内的 7 项开源新品、23 项重要升级，全面助力开发者进行人工智能开发。 除了全新发布，面向中小企业， 飞桨 企业版 EasyDL 全新升级，预置丰富网络和模型，提供零门槛、便捷高效的开发。对企业开发者而言，EasyDL 可谓是一站式开发利器。 在 EasyDL 开发平台之外，2017 年百度 AI 开发者大会上也曾发布对话系统定制平台 UNIT，搭载了业界领先的对话理解与对话管理技术，可以帮助开发者赋予产品智能对话的交互能力。2019 年，UNIT 升级到 3.0 版本，提供强大的智能对话解决方案。 纵深布局人工智能技术十数年，开发者一直是百度极为重视的力量。当前百度 飞桨 累积开发者数量已超过 190 万，服务企业数量达到 84000 家，发布模型数量已超过 23 万个。 为了更好的服务广大开发者，帮助大家快速学习掌握人工智能技术。在今年 WAIC 开发者日期间，机器之心将联合百度组织「开发者日百度公开课」，为广大开发者提供 3 小时极致学习机会，从 NLP、CV 到零门槛 AI

如今，在金融、零售、电商、互联网等领域的 AI 应用中，表数据都是最为常见且应用广泛的数据格式。将表数据进行准确的分类预测，对业务的提升起着至关重要的作用。 日前，第四范式提出了全新的深度神经网络表数据分类模型——深度稀疏网络（Deep Sparse Network，又名 NON），通过充分捕捉特征域内信息、刻画特征域间潜在相互作用、深度融合特征域交互操作的输出，获得超过 LR、GBDT 等常用算法以及 FFM、Wide&Deep、xDeepFM、AutoInt 等基于深度学习算法的分类效果，提升了表数据的预测准确度。 论文标题： Network On Network for Tabular Data Classificationin Real-world Applications 论文作者： 罗远飞、周浩、涂威威、陈雨强、戴文渊、杨强 论文链接： https://arxiv.org/abs/2005.10114 表数据分类模型的现状 在表格数据中，每行对应一个实例（样本），每列对应一个特征域。表数据分类是根据实例的特征域，将其分到对应的类别中。表数据通常同时具有连续特征域和类别特征域，而类别特征域通常是高维稀疏的。例如在在线广告中，类别特征域“advertiser_id”可能包含数百万个不同的广告主 id。 过往，包括随机森林、GBDT 在内的树模型常用于表数据分类

(原创声明，转载引用需要指明来源) https://study.163.com/course/courseMain.htm?courseId=1006383008&share=2&shareId=400000000398149 （博主录制） 1.python创始人和发展史 Python编程语言创始人是Guido van Rossum，于1989年底在荷兰国家数学和计算机科学研究所设计出来。Python至今已有31年历史，流行全球，适用于初学者作为第一门编程语言学习。Python最显著特点就是简单，有用，强大，之后会详细介绍。 据说Python这个名字的灵感来自于英国喜剧团体 Monty Python。 2 python特征非常强大 Python在全球大流行的原因很多，主要有以下特征： (1) 易于阅读：Python代码量小，结构化突出，语法约束较少，定义清晰，有详细注解说明。阅读一个良好的 Python 程序就感觉像是在读英语一样，python使你能够专注于解决问题而不是去搞明白语言本身。 (2) 易于学习：相比C语言和Java，Python不过于强调语法，结构简单，语法定义明确，学习起来更加简单。 (3) 无编程经验也可学习：python可作为初学者第一门编程语言学习。无编程经验也可快速学会python。 (4) 适用各类人群和职业：无论学生，老师

疫情之下，学校纷纷停课。在学业压力下，大学生对于新冠病毒的反应与普通人有没有区别呢？美国罗切斯特大学的计算机科学家对此进行了研究。 前不久，美国罗切斯特大学的计算机科学家根据推特舆情分析了 新型冠状病毒大流行带来的社会影响 ，探究了使用「中国病毒」、「武汉肺炎」这类歧视性词汇和使用「新冠病毒」这类中立词汇的两类人群在年龄、性别、政治倾向、地理位置以及更深层的心理层面上的差别。疫情之下，学校纷纷停课，学术会议也纷纷转为线上举行。在此情况下，那些停课的大学生对于新冠病毒有何反应？与普通人的反应有何区别？该团队对此展开了调查。 论文链接： https:// arxiv.org/abs/2004.0996 8 截至 4 月 13 日，COVID-19 已经在全球范围内确诊 1,812,734 例，死亡 113,675 例。病毒不仅对老年人或者有健康问题的人群造成巨大影响，年轻健康的人群也受到了不同程度的波及。随着世界范围的强制社交隔离，那些将大部分时间花在工作场所或者教育机构的人们极易遭受此类设施关闭带来的负面作用，超过 192 个国家的 17 亿学生受到影响。 作为拥有最多确诊人数的美国（确诊病例达 579,005 例，死亡病例达 22,252 例），总统 Donald Trump 采取了社交隔离措施，这也是自 1918 年大流感以来第一次全国范围内的强制社交隔离

阿里云ECS云服务器通用型g6和g5的区别以及选择建议 阿里云ECS云服务器通用型g6和通用型g5实例有什么区别?通用型g5和g6都是用于性能均衡场景，CPU内存比都是1:4，本文来说说通用型g6和通用型g5的区别以及选择方法：官方文档： 云服务器ECS共享标准型S6实例 ECS云服务器通用型g6和通用型g5有什么区别? 顾名思义，通用型g6是通用型g5的升级版，ECS云服务器通用型g6是第六代云服务器，性能全面提升的同时价格有所下调，如何选择?建议选择 通用型g6实例 。 通用型g6云服务器是阿里云的第六代云服务器，第六代云服务器是基于第二代Intel至强可扩展处理器，睿频从上一代2.7Ghz提升到3.2Ghz，E2E计算性能有3-15%的提升;支持vnni指令集,对于深度学习的推理场景有2-4倍性能提升;虚拟化优化性能抖动，ping flood延时超过1ms的报文数<1/100万。 通用型g6和通用型g5区别对比表 综上，阿里云ECS云服务器通用型g6是通用型g5的升级版，性能有所提升，如何选择?新手站长网还是建议性价比放在第一位，虽然通用型g6是g5的升级版，但是通用型g5的性能也不差，如果通用型g5拥有更优惠的折扣，通用型g5也是可以选择的。 来源： oschina 链接： https://my.oschina.net/u/4283640/blog/4281666

2020 年无疑是特殊的一年，AI 在开年的这场“战疫”中表现出惊人的力量。站在“新十年”的起点上，CSDN发起【百万人学AI】评选活动。我们继续聚焦AI的技术落地，关注开源和新生的力量。 作为CSDN第三届AI评选活动，本次活动受到数百家企业的关注和参与，经过严格的初选和专家评审环节，我们最终评出「AI开源贡献奖Top 5」、「AI新锐公司奖Top 10」、「AI优秀案例奖Top 30」三大榜单。 在 AI 开发者大会（AI ProCon 2020）上，CSDN 正式揭晓以上三大榜单。我们相信，榜样的力量将成为促进AI行业不断发展的重要基石，CSDN将与这些榜样一起，携手共创AI应用新纪元！ AI开源贡献奖Top 5 百度 ：飞桨深度学习平台 飞桨是百度自主研发的产业级深度学习平台。它于2016年正式开源，具有开发便捷的核心框架、支持超大规模深度学习模型训练、多端多平台部署的高性能推理引擎和产业级开源模型库等领先技术。 华为：MindSpore深度学习框架 MindSpore是华为开源的一款面向端边云全场景的全新深度学习训练/推理框架，旨在降低开发者学习成本，提高数据科学家的研发效率，以及通过提供一套统一框架加速面向全场景的AI新应用落地。 旷视科技：天元MegEngine深度学习框架 MegEngine是旷视完全自主研发的深度学习框架，中文名为“天元”

【说在前面】本人博客新手一枚，象牙塔的老白，职业场的小白。以下内容仅为个人见解，欢迎批评指正，不喜勿喷！[握手][握手] 【再啰嗦一下】本文衔接上两个随笔： 人工智能中小样本问题相关的系列模型演变及学习笔记（一）：元学习、小样本学习 【再啰嗦一下】本文衔接上两个随笔： 人工智能中小样本问题相关的系列模型演变及学习笔记（二）：生成对抗网络 GAN 【再啰嗦一下】本文衔接上两个随笔： 人工智能中小样本问题相关的系列模型演变及学习笔记（三）：迁移学习 一、知识蒸馏综述 知识蒸馏被广泛的用于模型压缩和迁移学习当中。 本文主要参考：模型压缩中知识蒸馏技术原理及其发展现状和展望 1. 基本概念 知识蒸馏可以将一个网络的知识转移到另一个网络，两个网络可以是同构或者异构。做法是先训练一个teacher网络，然后使用这个teacher网络的输出和数据的真实标签去训练student网络。 可以用来将网络从大网络转化成一个小网络，并保留接近于大网络的性能。 可以将多个网络的学到的知识转移到一个网络中，使得单个网络的性能接近emsemble的结果。 2. 知识蒸馏的主要算法 知识蒸馏是对模型的能力进行迁移，根据迁移的方法不同可以简单分为基于目标驱动的算法、基于特征匹配的算法两个大的方向。 2.1 知识蒸馏基本框架 Hinton最早在文章“Distilling the knowledge in a

　　 CCAI 2020年8月29日-30日 　　2020年中国人工智能大会（Chinese Congress on Artificial Intelligence 2020，简称“CCAI 2020”）将于8月29日-30日在南京召开。CCAI 2020以“智周万物”为主题，探讨人工智能作为引领未来的战略性技术，如何以周知万物的学术境界赋能未来，带动时代发展，实现互联世界的远大理想。 　　 微软亚洲研究院副院长周明将出席本次大会作主题演讲。 　　 周明： 国际计算语言学会前任会长，中国多所大学博士生导师，首都劳动奖章获得者。曾获得2010年华尔街日报亚洲创新奖、2012年微软CEO Ability Award以及2019年中国乌镇互联网大会世界互联网领先科技奖。中国第一个中英机器翻译系统和日本最著名的中日机器翻译的产品研究者。长期领导微软亚洲研究院的NLP研究。主编《机器翻译》、《智能问答》等技术专著。CCF-NLPCC、语言与智能高峰论坛的策划组织者之一，ACL亚洲分部创建人。 　　 　　人工智能主要是用来模拟和实现人类的智能，而人类对自身的智能认知还不甚完善，只能大致分为如下几个层次： 　　 第一是运算智能， 记忆、计算的能力，在这方面机器已经超过人类； 　　 第二是感知智能， 包括听觉、视觉、触觉；近年随着深度学习的引入，大幅度提高了语音识别和图像识别的识别率

随着端侧算力日益增长，以及模型小型化方案日趋成熟，使得高精度的深度学习模型在移动端、嵌入式等终端设备上流畅运行成为可能。然而将深度学习融合到终端设备上依旧面临平衡复杂神经网络结构的精度和设备性能约束的挑战，往往需要模型开发者在深入理解模型结构的基础上，各种调参并进行细致全面的优化才能达到理想的效果。 下载安装命令 ## CPU版本安装命令 pip install -f https://paddlepaddle.org.cn/pip/oschina/cpu paddlepaddle ## GPU版本安装命令 pip install -f https://paddlepaddle.org.cn/pip/oschina/gpu paddlepaddle-gpu ​近期 Paddle Detection推出了一系列针对端侧设备的紧致高效模型，覆盖单阶段及两阶段等主流网络结构，在速度、精度上均取得了不错的表现。这里将模型迭代过程中的设计思路及用到的技巧做一个总结，供感兴趣的同学参考。 为方便大家快速练手，这里提供了一个基于MobileNetv3-YOLOv3的模型优化项目，使用了剪裁、蒸馏的优化策略，所有代码均可以在AI Studio跑通，大家也可以通过AI Studio在线调试。 https:// aistudio.baidu.com/aist udio/projectdetail