网络模型

这里写自定义目录标题 概率和统计是一个东西吗？ 概率函数与似然函数 最大似然估计（MLE） 最大后验概率估计 最大后验估计的例子 贝叶斯派观点 VS 频率派观点 贝叶斯定理 朴素贝叶斯分类器 朴素贝叶斯分类器实例 贝叶斯网络 贝叶斯网络的结构形式 因子图 从贝叶斯网络来观察朴素贝叶斯 概率和统计是一个东西吗？ 概率（probabilty）和统计（statistics）看似两个相近的概念，其实研究的问题刚好相反。 概率研究的问题是，已知一个模型和参数，怎么去预测这个模型产生的结果的特性（例如均值，方差，协方差等等）。 举个例子，我想研究怎么养猪（模型是猪），我选好了想养的品种、喂养方式、猪棚的设计等等（选择参数），我想知道我养出来的猪大概能有多肥，肉质怎么样（预测结果）。 统计是，有一堆数据，要利用这堆数据去预测模型和参数。 仍以猪为例。现在我买到了一堆肉，通过观察和判断，我确定这是猪肉（这就确定了模型。在实际研究中，也是通过观察数据推测模型是／像高斯分布的、指数分布的、拉普拉斯分布的等等），然后，可以进一步研究，判定这猪的品种、这是圈养猪还是跑山猪还是网易猪，等等（推测模型参数）。 一句话总结： 概率是已知模型和参数，推数据。统计是已知数据，推模型和参数。 显然， 本文解释的MLE(最大似然估计)和MAP（最大后验估计）都是统计领域的问题。它们都是用来推测参数的方法(不是推测模型

阻塞与非阻塞 　　阻塞就是卡在那儿什么也不做，双方之间也没有信息沟通。 　　非阻塞就是即使对方不能马上完成请求，双方之间也有信息的沟通。 同步与异步 　　同步就是一件事件只由一个过程处理完成，不论阻塞与非阻塞，最后完成这个事情的都是同一个过程 　　异步就是一件事由两个过程完成，前面一个过程通知，后面一个过程接受返回的结果。 异步和事件驱动（multi IO） 　　异步是指数据准备好并且已经拷贝到用户空间，在通知用户来取数据 事件驱动理解为准备好数据了但是没有拷贝到用户空间，这个时候去通知用户，用户再去取数据，经过拷贝过程取得数据。 5种常见的网络I/O模型 blocking I/O -- 阻塞类型的I/O nonblocking I/O -- 非阻塞类型的I/O I/O Multiplexing -- 多路复用型I/O　 Signal-Driven I/O -- 信号驱动型I/O Asynchronous I/O -- 异步I/O　 　　 　 1. blocking I/O -- 阻塞类型的I/O 　　流程图如下： 　　　　 　　linux下socket默认是阻塞的，阻塞模式在准备数据和拷贝数据两个过程都是阻塞的，在这期间客户端一直卡着，双方也没有数据交流。 2.nonblocking I/O -- 非阻塞类型的I/O 　　流程图： 　　　　 　

一、整体框架 1、以太坊介绍 以太坊是一个开放的有智能合约功能的公共区块链平台，通过其专用加密货币以太币（Ether，简称“ETH”）提供以太虚拟机（Ethereum Virtual Machine）来处理去中心化合约应用。 以太虚拟机 以太坊虚拟机(EVM)：可以执行复杂算法的编码的，具备图灵完备的基于栈的虚拟机。 以太坊使用场景 支付系统：用于去中心数字货币交易，价值互换 去中心化应用：黄金和股票的数字化应用、金融衍生品应用、数字认证、追踪溯源、游戏等 以太坊特点 智能合约（smart contract）：存储在区块链上的程序，由各节点运行，需要运行程序的人支付手续费给节点的矿工或权益人。 代币（tokens）：智能合约可以创造代币供分布式应用程序使用。分布式应用程序的代币化让用户、投资者以及管理者的利益一致。代币也可以用来进行首次代币发行。 叔块（uncle block）：将因为速度较慢而未及时被收入母链的较短区块链并入，以提升交易量。 账户系统和世界状态：以太坊不采用UTXO，容易支持更复杂的逻辑 状态通道（state channels）：原理类似比特币的闪雷网络，可提升交易速度、降低区块链的负担，并提高可扩展性。尚未实现，开发团队包括雷电网络（Raiden Network）和移动性网络（Liquidity Network）。 以太坊缺点 性能有待提升

OSI参考模型、TCP/IP生产模型、5层结构学习网络模型。 实际的企业生产中并没有使用OSI标准模型的，TCP/IP模型是实际生产中使用的网络架构，5层网络模型是为方便学习而创建的。 直接上图 OSI(Open System Interconnection)，是国际标准化组织（ISO）制定的一个用于计算机或通信系统间互联的标准体系，一般称为OSI参考模型或七层模型。 由上而下分别为： 应用层： 与其他计算机进行通讯的一个应用，解决最终通信双方数据传输问题，即不同结点上两个对应应用进程之间的通信。 协议有：HTTP FTP TFTP SMTP SNMP DNS TELNET HTTPS POP3 DHCP等。 表示层： 定义数据格式以及加密。（在五层模型里面已经合并到了应用层） 格式有，JPEG、ASCll、DECOIC、加密格式等。 会话层 定义了如何开始、控制和终止一个会话。（在五层模型里面已经合并到了应用层） 对应主机进程，指本地主机与远程主机正在进行的会话。 传输层 定义传输数据的协议端口号，以及流控和差错校验。 协议有：TCP UDP等，数据包一旦离开网卡即进入网络传输层。 网络层 进行逻辑地址寻址，实现不同网络之间的路径选择。（路由选择） 协议有：ICMP IGMP IP（IPV4 IPV6） ARP RARP 数据链路层 建立逻辑连接、进行硬件地址寻址、差错校验

【转自】 http://www.ruijie.com.cn/fa/xw-hlw/61072/ 网络运维新挑战 为了确保业务的高可靠，基于Scale out方式实现的分布式计算和存储应用（Hadoop/ Map reduce/HDFS）得到了大规模使用，不仅摆脱了单服务器的计算、存储性能的限制，同时可提供更灵活的扩展性，能够快速响应业务需求变化，提高系统的可靠性、可用性和存取效率。 然而业务本身在网络中分布是不可控的，因此在实际网络流量模型中不可避免会出现多对一的通信模式，即 Incast模型。下图即典型的Incast通信模型： ▲ TCP Incast通信模型示意图 例如，当一台Master节点向一组Slave节点发起一个计算任务请求时，所有Slave节点几乎会同时返回计算结果数据，对于Master节点来说就产生了一个“微突发流”。对于合理的“微突发流”，可以依靠接入交换机设备内部的报文缓存机制解决微突发丢包问题。 目前，主流交换芯片的片上缓存比较小，一般以Mbyte为单位。下图是对应1G、10G和25G交换机常用芯片的缓存容量。 接口速率 缓存容量 1000Mbps 4MB 10Gbps 16MB 25Gbps 32MB ▲ 带宽提升与缓存提升对比说明 从表中不难看出，网络接口速率从1Gbps发展到25Gbps，服务器的吞吐能力增加25倍，而交换机芯片的缓存容量同比仅增加8倍

A Taxonomy of Deep Convolutional Neural Nets for Computer Vision 基本信息 摘要 1. Introduction 2. Introduction to Convolutional Neural Networks 2.1. Building Blocks of CNNs 2.1.1. Why Convolutions? 2.1.2. Max-Pooling 2.1.3. Non-Linearity 2.2. Depth 2.3. Learning Algorithm 2.3.1. Gradient-Based Optimization 2.3.2. Dropout 2.4. Tricks to Increase Performance 2.5. Putting It All Together: AlexNet 2.6. Using Pre-Trained CNNs 2.6.1. Fine-Tuning 2.6.2. CNN Activations as Features 2.7. Improving AlexNet 3. CNN Flavors 3.1. Region-Based CNNs 3.2. Fully Convolutional Networks 3.3. Multi-Modal Networks 3.4.

OpenCV基于残差网络实现人脸检测 OpenCV3.3版本第一次把深度神经网络(DNN)模块引入到正式发布版本中，最新的OpenCV3.4中DNN模块发布了两个必杀技，一个支持Faster R-CNN的对象检测，比SSD与YOLO这些模型有更好的检测精度与小对象检测能力，另外一个是支持基于SSD+Resnet模型的人脸检测，虽然速度还达不到HAAR级联检测器的实时性，但是准确性与模型泛化能力可以说完爆HAAR级联检测器方式的人脸检测算法。作为OpenCV开发者需要人脸检测功能时候又多了一种更加可靠的选择，这里我们首先简单介绍一下什么是残差网络，然后给出其人脸检测模型在OpenCV基于摄像头实时人脸检测演示。 一：残差网络(Resnet) 最初的CNN网络LeNet与AlexNet卷积层都比较少，VGG通过小的卷积核实现了网络深度的增加取得了显著效果，但是当层数过度增加的时候就发现训练错误与测试错误都在增加，图示如下： 最开始人们以为是因为梯度消失或者梯度爆炸导致的，不过随着大家的努力，认为这个不是一个过拟合问题，而是网络褪化现象，所以针对这种情况，MSRA何凯明团队提出了一种新的网络模型-Residual Networks，其主要思想是使用残差结构来训练网络，一个残差结构如下： 作者认为F(x) = H(x)-x所以得到H(x) = F(x) + x这样的恒等映射

目录 背景 相关工作 主要贡献 核心思想 Embedding和Stacking层 交叉网络(Cross Network) 深度网络(Deep Network) 组合层(Combination Layer) 理论分析 多项式近似 FM的泛化 高效映射 总结及思考 背景 探索具有预测能力的组合特征对提高CTR模型的性能十分重要，这也是大量人工特征工程存在的原因。但是数据高维稀疏(大量离散特征one-hot之后)的性质，对特征探索带来了巨大挑战，进而限制了许多大型系统只能使用线性模型(比如逻辑回归)。线性模型简单易理解并且容易扩展，但是表达能力有限，对模型表达能力有巨大作用的组合特征通常需要人工不断的探索。深度学习的成功激发了大量针对它的表达能力的理论分析，研究显示给定足够多隐藏层或者隐藏单元，DNN能够在特定平滑假设下以任意的精度逼近任意函数。实践中大多数函数并不是任意的，所以DNN能够利用可行的参数量达到很好的效果。DNN凭借Embedding向量以及非线性激活函数能够学习高阶的特征组合，并且残差网络的成功使得我们能够训练很深的网络。 相关工作 由于数据集规模和维度的急剧增加，为了避免针对特定任务的大规模特征工程，涌现了很多方法，这些方法主要是基于Embedding和神经网络技术。 FM将稀疏特征映射到低维稠密向量上，通过向量内积学习特征组合，也就是通过隐向量的内积来建模组合特征。

文章目录 YOLO发展概述 YOLO v1~v3的设计历程 Yolov1 1. 核心思想 2. **网络结构** 3. Loss函数 4. 训练过程 5 .总结 Yolov2 1. 核心思想 2. 网络结构 3. Loss函数 4. 训练过程 5. 数据增强 6. 总结 Yolov3 1. 核心思想 2. 网络结构 3. loss 函数 4. 训练过程 5. Darknet框架 # YOLOv3原理 YOLO发展概述 2015 年，R-CNN 横空出世，目标检测 DL 世代大幕拉开。 各路豪杰快速迭代，陆续有了 SPP，fast，faster 版本，至 R-FCN，速度与精度齐飞，区域推荐类网络大放异彩。 奈何，未达实时检测之，难获工业应用之青睐。 此时，凭速度之长，网格类检测异军突起，先有 YOLO，继而 SSD，更是摘实时检测之桂冠，与区域推荐类二分天下。然却时遭世人诟病。 遂有 JR 一鼓作气，并 coco，推 v2，增加输出类别，成就 9000。此后一年，作者隐遁江湖，逍遥 twitter。偶获灵感，终推 v3，横扫武林！ YOLO不断吸收同化对手，进化自己，提升战斗力：YOLOv1 吸收了 SSD 的长处（加了 BN 层，扩大输入维度，使用了 Anchor，训练的时候数据增强），进化到了 YOLOv2； 吸收 DSSD 和 FPN 的长处，仿 ResNet 的

****目录**** ****一、**** ****网络模型**** 3 ****1.**** ****标准化组织**** 3 ****2.**** ****OSI模型**** 3 ****3.**** ****TCP/IP模型**** 5 ****二、**** ****应用层**** 5 ****1.**** ****常用协议**** 6 ****2.**** ****邮件发送和接收**** 6 ****3.**** ****URL：统一资源定位符**** 6 一、 网络模型**** 1. 标准化组织**** ² ISO：国际标准化组织 ² IEEE：电气与电子工程师协会 ² ITU：国际电信联盟 ² AT&T：美国电话与电报公司 2. O****SI****模型**** 开放系统互联参考模型 3. T****CP/IP****模型**** 传输控制协议、因特网协议模型 二、 应用层**** 为应用软件提供服务 1. 常用协议**** ****协议 ****作用 ****端口号 HTTP 超文本传输协议 80 HTTPS 安全的超文本传输协议 443 FTP 文件传输协议 21 SMTP 简单邮件传输协议 25 POP3 邮局协议 110 IMAP 因特网邮件接收协议 143 SSH 安全远程控制协议 22 Telnet 不安全的远程控制协议 23 DNS 域名解析协议 53