深度学习

作者|FAIZAN SHAIKH 编译|VK 来源|Analytics Vidhya 介绍 深入学习中最具争议的话题之一是如何解释和理解一个经过训练的模型——特别是在医疗等高风险行业的背景下。“黑匣子”一词经常与深度学习算法联系在一起。如果我们不能解释模型是如何工作的，我们怎么能相信模型的结果呢？这是个合理的问题。 以一个为检测癌症而训练的深度学习模型为例。这个模型告诉你，它99%确定它已经检测到癌症，但它并没有告诉你为什么或者如何做出这个决定。 在核磁共振扫描中找到了重要线索吗？或者只是扫描上的污点被错误地检测为肿瘤？这是病人生死攸关的问题，医生犯了大错后果很严重。 在本文中，我们将探讨如何可视化卷积神经网络（CNN），这是一种深入学习的体系结构，特别用于最先进的基于图像的应用程序。我们将了解可视化CNN模型的重要性，以及可视化它们的方法。我们还将看一个用例，它将帮助你更好地理解这个概念。 目录 CNN模型可视化的重要性 可视化方法 基本方法 绘制模型架构 可视化滤波器 基于激活的方法 最大激活 图像遮挡 基于梯度的方法 显著图 基于梯度的类激活图 CNN模型可视化的重要性 正如我们在上面的癌症肿瘤例子中所看到的，我们知道我们的模型在做什么，以及它如何对预测做出决定，这是绝对重要的。通常，下面列出的原因是一个深度学习实践者要记住的最重要的一点： 了解模型的工作原理 超参数调整

这篇文章主要是基于我自己的经验，侧重于计算机视觉学习资源的介绍，如果大家按照这个路线去学，相信这将在很大程度上促进提高你的计算机视觉知识水平。 在开始学习计算机视觉之前，我们先来了解有关机器学习和python基础知识。 框架（Frameworks） 虽然你不必从一开始就去考虑选择何种框架，但是实践应用新的知识是必要的。 对应框架并没有太多选择，主要为： pytorch 或 keras （TensorFlow）。Pytorch可能需要编写更多代码，但在返回方面具有很大的灵活性，因此我们可以先学习如何使用pytorch。此外，大多数深度学习研究人员也普遍使用pytoch。 Albumentation (图像增强库)和 catalyst (框架，pytorch顶部的高级API)在我们学习计算机视觉的过长中也是很常用的工具，我们也可以先学习和使用它们，尤其是第一个。 硬件 Nvidia GPU 10xx +：（$ 300 +） Kaggle内核（免费） ：每周仅30个小时 （ https://www.kaggle.com/kernels） Google Colab（免费）：12小时的会话限制，每周限制的使用时长不定 （ https://colab.research.google.com/notebooks/intro.ipynb#recent=true） 理论与实践 在线课程

目录 一、前言 二、OpenCV介绍 1、介绍 2、OpenCV版本简介 3、OpenCV4.3.0下载 三、OpenCV安装与配置 1、安装 2、环境变量配置 四、配置VS2015 1、包含目录与库目录 2、链接器配置 五、测试及效果 一、前言 OpenCV已经出到4.3.0版本，自问世以来，受到广大好友的喜爱。 其实我之前已经写了OpenCV3.1.0的教程，但那个时候，其实对OpenCV了解不系统，对于OpenCV没有一个整体的认识。这次，我会写更全面的内容，章节分类也更加具体。 如果你目前只是想快速入门opencv，推荐你看： 【 opencv学习之路 】 ：https://blog.csdn.net/shuiyixin/article/details/85648310 这里会告诉你学习历程、以及opencv3.1.0教程，涵盖了绝大多数opencv操作。当你想再深入了解OpenCV，请再次回到OpenCV3.4.0系列，这里讲解更加系统，更加全面，同时也增添了深度学习模块等。你能在这里看到一个不一样的OpenCV。 有人问我：你OpenCV为何一直用C++编写？python它不香嘛？ 其实我主要是依据如下两个方面考虑： 第一个方面是OpenCV本身主要就是C++写的，当然其中含混有一些C的函数，虽然它封装了python的接口，但是，从我感觉，还是C++更正统一些。

文 | 曾响铃 来源 | 科技向令说（xiangling0815） 新基建越往深处走，技术落地的重要性就越高，而这方面往往少不了政府和巨头企业的身影。最近几天由中共无锡市委、无锡市人民政府主办的2020太湖人才峰会就是如此。 这场全球20余位院士、700多个高校院所、世界500强企业的专家、高管代表参与的会议上，新基建自然而然成为重要话题，而诸如百度CTO王海峰“AI新基建加速产业智能化”此类演讲，又把新基建聚焦到了一个个垂直领域上。 毫无疑问，AI新基建面临比其他新基建更复杂的技术研发与产业落地匹配的挑战，而王海峰在演讲中展示百度打造的包括百度大脑、飞桨、智能云、芯片、数据中心等在内的新型AI技术基础设施，以及百度智能云推动各行各业智能化转型升级的最新成果，则事实上勾勒出一幅真正“产业化”的AI新基建图景。 一、产业化横亘AI新基建大时代，这不只是技术难题 当AI新基建在短短半年时间内成为炽手可热的行业话题，我们看到的，有一直以AI立身的百度在蛰伏多年后，终于等来可能会让它实现突破式、超越式发展的契机，而除此之外，更有大量巨头级企业强化AI布局，试图“分一杯羹”。 不过，百度，在已有的技术和产业布局基础上，只要进一步深化就承接了AI新基建的机遇，而对其他缺乏深度产业布局的巨头平台而言，此时“跟进”，则还面临技术创新和布局的积累。 由此，在AI新基建领域，出现一种奇特的分野：

Xavier初始化 : 条件：正向传播时，激活值的方差保持不变；反向传播时，关于状态值的梯度的方差保持不变。 初始化方法： 假设激活函数关于0对称，且主要针对于全连接神经网络。适用于tanh和softsign 论文地址： Understanding the difficulty of training deep feedforward neural networks 参考资料： 深度学习之参数初始化（一）——Xavier初始化 He初始化 ： 论文地址： Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet Classification 参考资料： 深度学习之参数初始化（二）——Kaiming初始化 He初始化论文阅读笔记与实现 来源： oschina 链接： https://my.oschina.net/u/4416751/blog/4467662

Apache Spark+PyTorch 案例实战 随着数据量和复杂性的不断增长，深度学习是提供大数据预测分析解决方案的理想方法，需要增加计算处理能力和更先进的图形处理器。通过深度学习，能够利用非结构化数据（例如图像、文本和语音），应用到图像识别、自动翻译、自然语言处理等领域。图像分类：识别和分类图像，便于排序和更准确的搜索。目标检测：快速的目标检测使自动驾驶汽车和人脸识别成为现实。自然语言处理：准确理解口语，为语音到文本和智能家居提供动力。 深度学习面临的挑战：虽然大数据和人工智能提供了大量的潜力，但从大数据中提取可操作的洞察力并不是一项普通的任务。隐藏在非结构化数据（图像、声音、文本等）中的大量快速增长的信息，需要先进技术的发展和跨学科团队（数据工程、数据科学和业务）的密切合作。 基于Databricks云平台能够轻松构建、训练和部署深度学习应用程序。 Databricks云平台集群提供一个交互式环境，可以轻松地使用深度学习的框架，如Tensorflow、Keras、Pytorch、Mxnet、Caffe、Cntk和Theano。 Databricks提供处理数据准备、模型训练和大规模预测的云集群平台。 Spark分布式计算进行性能优化，可以在强大的GPU硬件上大规模运行。 交互式数据科学。Databricks云平台支持多种编程语言，支持实时数据集的深度学习模型训练。 目录

作者|Renu Khandelwal 编译|VK 来源|Towards Data Science 在本文中，你将了解： 为什么我们需要seq2seq模型的注意力机制？ Bahdanua的注意力机制是如何运作的？ Luong的注意力机制是如何运作的？ 什么是局部和全局注意力？ Bahdanua和Luong注意力机制的关键区别 什么是注意力，为什么我们需要seq2seq模型的注意力机制 让我们考虑两个场景，场景一，你正在阅读与当前新闻相关的文章。第二个场景是你正在阅读准备考试。两种情况下的注意力水平是相同还是不同？ 与新闻文章相比，你在准备考试时会相当注意阅读。在准备测试的时候，你会更加关注关键词来帮助你记住一个简单或复杂的概念。这也意味着我们要专注于某一特定领域的任何深度学习任务。 序列到序列(Seq2Seq)模型使用编码器-解码器架构 。 seq2seq的几个场景 神经机器翻译(NMT) 图像字幕 聊天机器人 文本摘要等 Seq2Seq模型将源序列映射到目标序列。在神经机器翻译的情况下，源序列可以是英语，目标序列可以是印地语。 我们将英语源语句传递给编码器；编码器将源序列的完整信息编码为单个实值向量，也称为上下文向量。然后，这个上下文向量被传递到解码器上，以生成目标语言(如印地语)中的输出序列。上下文向量负责将整个输入序列汇总为单个向量。 如果输入的句子很长

全世界只有 3.14 % 的人关注了 爆炸吧知识 转自：机器之心 参与：蛋酱 要是收藏 夹里没几个独家沙雕表情包，当代网民都无法在朋友圈立足。 但有一些「妙不可言」的图片，也许是 AI 生成的结果。 一般人很难读出「meme」这个词，它通常译为「模因」，起源于 1976 年，本意为「模仿传递行为」。 但读音和来源或许没那么重要，重要的是每个网上冲浪的人都见过它，甚至沉迷于它。在中文里，它大概被称为「网络梗图」、「沙雕图片」、「表情包」等等…… 比如这个： 还有这个： 这个金发蓝衣的快乐男孩，你难道不眼熟吗？ 作为机器学习研究者，你可能还偷偷在收藏夹里保存了这些： 这是一张在深度学习社区流传很广的图，表达的是新的预训练方法如何比之前的 SOTA 方法更优越。当然，新 SOTA 方法是层出不穷的，这样的图片收集起来甚至能形成一个完整的系列。 图的创建通常只有两步：选一张时兴的 meme 模版（即图像），然后配上「精妙绝伦」的说明文字，制造出一种别有韵味的幽默感。 . 这种图像、文字和幽默感的奇妙组合，在信息传递方面极具穿透力和感染力，比如当你看到这张图时： 虽然这只是一张静态图片，句子也不成句子，但你的眼前已经浮现出了七人共舞的场景。 当代网友人人都用表情包，甚至还会自制。比如： 然而，表情包除了自制，还可以由 AI 生成。 你可能想不到，某个平平无奇的表情包背后竟然隐藏着「神秘力量」

转自： https://zhuanlan.zhihu.com/p/71128505 我们可能已经了解了很多机器学习和深度学习的算法，但是那似乎离我们心中的 “人工智能” 还很遥远。我们训练的模型，更像是一个具有统计知识的机器，从关联和概率的角度出发，试图在描述世界背后的 “真理”。然而，我们更希望的是，像人一样，具有分析和推理能力的机器智能。如果你问我，哪一种形式最接近我心中的 “人工智能”，我会说：知识图谱。 今天，就让我们来解决一个问题：什么是知识图谱？ 知识图谱 “考古史” 2012 年 5 月 17 日，Google 正式提出了 知识图谱（Knowledge Graph） 的概念，其初衷是为了优化搜索引擎返回的结果，增强用户搜索质量及体验。 假设我们想知道 “王健林的儿子” 是谁，百度或谷歌一下，搜索引擎会准确返回王思聪的信息，说明搜索引擎理解了用户的意图，知道我们要找 “王思聪”，而不是仅仅返回关键词为 “王健林的儿子” 的网页： 编者按：知乎文章《为什么需要知识图谱？什么是知识图谱？——KG的前世今生》是一个很好的入门文章，感兴趣可以进一步阅读： https://zhuanlan.zhihu.com/p/31726910 。《知识图谱的技术与应用（18版）》是一个更为全面和详细的介绍， https://zhuanlan.zhihu.com/p/38056557 。

来源： oschina 链接： https://my.oschina.net/u/4274621/blog/4320817