layer

NAS with RL 2017-ICLR-Neural Architecture Search with Reinforcement Learning Google Brain Quoc V . Le etc GitHub： stars Citation：1499 Abstract we use a recurrent network to generate the model descriptions of neural networks and train this RNN with reinforcement learning to maximize the expected accuracy of the generated architectures on a validation set. 用RNN生成模型描述（边长的字符串），用RL（强化学习）训练RNN，来最大化模型在验证集上的准确率。 Motivation Along with this success is a paradigm shift from feature designing to architecture designing, 深度学习的成功是因为范式的转变：特征设计（SIFT、HOG）到结构设计（AlexNet、VGGNet）。 This paper presents Neural

转载请注明出处： https://www.cnblogs.com/darkknightzh/p/10043864.html 参考网址： 论文： https://arxiv.org/abs/1506.01497 tf的第三方faster rcnn： https://github.com/endernewton/tf-faster-rcnn IOU： https://www.cnblogs.com/darkknightzh/p/9043395.html faster rcnn主要包括两部分：rpn网络和rcnn网络。rpn网络用于保留在图像内部的archors，同时得到这些archors是正样本还是负样本还是不关注。最终训练时通过nms保留最多2000个archors，测试时保留300个archors。另一方面，rpn网络会提供256个archors给rcnn网络，用于rcnn分类及回归坐标位置。 Network为基类，vgg16为派生类，重载了Network中的_image_to_head和_head_to_tail。 下面只针对vgg16进行分析。 faster rcnn网络总体结构如下图所示。 1. 训练阶段： SolverWrapper通过construct_graph创建网络、train_op等。 construct_graph通过Network的create

李熠：前端架构 101（一）：在谈论它们之前我们需要达成的共识 ​ zhuanlan.zhihu.com 李熠：前端架构 101（二）： MVC 初探 ​ zhuanlan.zhihu.com 李熠：前端架构 101（三）：MVC 启示录：模块的职责，作用域和通信 ​ zhuanlan.zhihu.com 李熠：前端架构 101（四）：MVC 的不足与 Flux 的崛起 ​ zhuanlan.zhihu.com 李熠：前端架构 101（五）：从 Flux 进化到 Model-View-Presenter ​ zhuanlan.zhihu.com 整洁架构 如果你对整洁架构（Clean Architecture）有所了解的话，回想一下我们前几篇中描述的内容，你会发现整洁架构对前端，对 MVP 来说也是同样适用的。 关于什么是整洁架构完全可以通过阅读 Uncle Bob 原版图书中文版《整洁架构之道》来了解，或者可以通过阅读他的一个简短版本博客 The Clean Architecture 一探端倪。但我还是推荐阅读图书，图书全面而且浅显易懂，没有和某一门编程语言强行绑定，即使你没有后端背景也能流畅的通读下来。出于篇幅的考虑，在这里我只取一瓢，摘取一个契合于我们前端架构的知识点以做说明，就是 模块间的依赖关系 这篇文章里更多的是告诉你 what（结论），而不是 why（为什么需要这么做

一.迁移学习的概念 什么是迁移学习呢？迁移学习可以由下面的这张图来表示： 这张图最左边表示了迁移学习也就是把已经训练好的模型和权重直接纳入到新的数据集当中进行训练，但是我们只改变之前模型的分类器（全连接层和softmax/sigmoid），这样就可以节省训练的时间的到一个新训练的模型了！ 但是为什么可以这么做呢？ 二.为什么可以使用迁移学习? 一般在图像分类的问题当中，卷积神经网络最前面的层用于识别图像最基本的特征，比如物体的轮廓，颜色，纹理等等，而后面的层才是提取图像抽象特征的关键，因此最好的办法是我们只需要保留卷积神经网络当中底层的权重，对顶层和新的分类器进行训练即可。那么在图像分类问题当中，我们如何使用迁移学习呢？一般使用迁移学习，也就是预训练神经网络的步骤如下; 1.冻结预训练网络的卷积层权重 2.置换旧的全连接层，换上新的全连接层和分类器 3.解冻部分顶部的卷积层，保留底部卷积神经网络的权重 4.同时对卷积层和全连接层的顶层进行联合训练，得到新的网络权重 既然我们知道了迁移学习的基本特点，何不试试看呢？ 三.迁移学习的代码实现 我们使用迁移学习的方法来进行猫狗图像的分类识别，猫猫的图像在我的文件夹里如下图所示： 然后导包： import tensorflow as tf from tensorflow import keras import matplotlib

1.作者可能把scannet数据集分成了训练集和测试集并处理成了.pickle文件。 2.在代码运行过程中，作者从.pickle文件中读出训练集1201个场景的x、y、z坐标和测试集312个场景的x、y、z坐标。 3.考虑把点存到.txt文件中，用cloudcompare可视化一下。 2--地板 3--椅子 8--沙发 20--靠枕 单独存入训练数据到txt文件 ： TRAIN_DATASET = scannet_dataset.ScannetDataset( root=DATA_PATH , npoints=NUM_POINT , split= 'train') for i in range(len(TRAIN_DATASET.scene_points_list)): filename = '' .join([ " TRAIN_DATASET_ " ,str(i+1), ' .txt ' ]) np.savetxt(filename, TRAIN_DATASET.scene_points_list[i],fmt = " %.8f " , delimiter= ' , ' ) 单独存入训练数据的标签到txt文件 ： for i in range(len(TRAIN_DATASET.semantic_labels_list)): filename = '' .join([ "

[论文速览] CVPR 2020 那些有趣的图像超分辨算法（共9篇）（1/2） 关键词： Unpaired; Pseudo-Supervision; Gradient Guidance; Texture Transformer Network; Deep Unfolding Network; Meta-Transfer; Zero-Shot; Super-Resolution 本文以速览形式，带领大家大概了解一下 CVPR2020 那些有趣（重要）的 SR 文章，目的是快速了解 SR 的最新动向（解决什么问题，采用什么模型）。 共分为两期博客分别介绍。这是第一期，第二期的链接： [论文速览] CVPR 2020 那些重要的图像超分辨算法（共9篇）（2/2）【持续更新中】 目录 ———————— 第一期 ———————— [论文速览] CVPR 2020 那些有趣的图像超分辨算法（共9篇）（1/2） Unpaired Image Super-Resolution Using Pseudo-Supervision [pdf] [supp] [bibtex] Abstract Loss Functions Network Architecture Structure-Preserving Super Resolution With Gradient Guidance [pdf]

　　最近在看深度学习的东西，一开始看的吴恩达的UFLDL教程，有中文版就直接看了，后来发现有些地方总是不是很明确，又去看英文版，然后又找了些资料看，才发现，中文版的译者在翻译的时候会对省略的公式推导过程进行补充，但是补充的又是错的，难怪觉得有问题。反向传播法其实是神经网络的基础了，但是很多人在学的时候总是会遇到一些问题，或者看到大篇的公式觉得好像很难就退缩了，其实不难，就是一个链式求导法则反复用。如果不想看公式，可以直接把数值带进去，实际的计算一下，体会一下这个过程之后再来推导公式，这样就会觉得很容易了。 　　说到神经网络，大家看到这个图应该不陌生： 　　这是典型的三层神经网络的基本构成，Layer L1是输入层，Layer L2是隐含层，Layer L3是隐含层，我们现在手里有一堆数据{x1,x2,x3,...,xn},输出也是一堆数据{y1,y2,y3,...,yn},现在要他们在隐含层做某种变换，让你把数据灌进去后得到你期望的输出。如果你希望你的输出和原始输入一样，那么就是最常见的自编码模型（Auto-Encoder）。可能有人会问，为什么要输入输出都一样呢？有什么用啊？其实应用挺广的，在图像识别，文本分类等等都会用到，我会专门再写一篇Auto-Encoder的文章来说明，包括一些变种之类的。如果你的输出和原始输入不一样，那么就是很常见的人工神经网络了

这里跟大家分享下我复习时整理的计算机网络常考知识点。 网络协议 OSI7层模型 物理层：传输物理比特 数据链路层：将比特封装成帧 网络层：将网络地址翻译成物理地址，路由选择。路由器。分组：数据报。IP协议 传输层：将大数据分割传给网络层，流量控制。TCP,UDP协议 会话层：建立应用程序的通讯 表示层：解决不同系统间通信语法问题 应用层：通过应用进程间的交互来完成特定网络应用，报文 TCP/IP4层模型(相比5层少一个物理层) 物理层： 物理层(physical layer)的作用是实现相邻计算机节点之间比特流的透明传送，尽可能屏蔽掉具体传输介质和物理设备的差异。 链路层： 两台主机之间的数据传输，总是在一段一段的链路上传送的，这就需要使用专门的链路层的协议。数据报组装成帧。 网络层： 网络层的任务就是选择合适的网间路由和交换结点， 确保数据及时传送。数据报， IP 传输层： 负责向两台主机进程之间的通信提供通用的数据传输服务，TCP/UDP 应用层： 通过应用进程间的交互来完成特定网络应用，报文，HTTP，DNS，SMTP 三次握手 tcp报文头： Sqquence Number：4字节，报文序号，若当前107带了100字节，则下一次序号207。 Acknowledgment Number：4字节，期望收到下一个报文的下一个字节序好，B发送了201序号300字节的数据

表单 ​ <font color="red">依赖加载模块： form </font> 在一个容器中设定 class="layui-form" 来标识一个表单元素块 <form class="layui-form" action=""> </form> 基本的行区块结构，它提供了响应式的支持。可以换成其他结构，但必须要在外层容器中定义 class="layui-form" ，form模块才能正常工作。 <div class="layui-form-item"> <label class="layui-form-label">标签区域</label> <div class="layui-input-block"> 原始表单元素区域 </div> </div> 输入框 <input type="text" name="title" required lay-verify="required" placeholder="请输入标题" autocomplete="off" class="layui-input" /> required：注册浏览器所规定的必填字段 lay-verify：注册form模块需要验证的类型 class="layui-input"：layui.css提供的通用CSS类 下拉选择框 <select name="city" lay-verify=""> <option

通过理解安全证书来保护你的 Linux 邮件服务。 通常，不管你是通过简单邮件传输协议Simple Mail Transport Protocol（SMTP）或者互联网消息访问协议Internet Message Access Protocol（IMAP）或邮局协议Post Office Protocol（POP）发送或者接受邮件，邮件服务默认都是以无保护的明文来传输数据。近来随着数据加密成为越来越多程序的共识，你需要安全套接层Secure Sockets Layer/传输层安全性Transport Layer Security（SSL/TLS）的安全证书来保护你的邮件服务。 首先，快速回顾一下邮件服务和协议的基本流程。邮件通过 SMTP 从 TCP 端口 25 发出。这个协议依靠 DNS 邮件交换服务器Mail eXchanger（MX）记录的地址信息来传输邮件。当邮件到达邮件服务器后，可以被以下两种服务中的任意一种检索：使用 TCP 端口 143 的 IMAP，或者使用 TCP 端口 110 的 POP3（邮局协议第 3 版）。然而，以上服务都默认使用明文传输邮件和认证信息。这非常的不安全！ 为了保护电子邮件数据和认证，这些服务都增加了一个安全功能，使它们可以利用 SSL/TLS 证书对数据流和通讯进行加密封装。SSL/TLS 是如何加密数据的细节不在本文讨论范围