归一化

https://learn2reg.github.io/ https://github.com/learn2reg/tutorials2019 Introduction to Medical Image Registration 什么是医学图像配准？ 建立图像之间的空间关系，也称之为空间归一化 spatial normalisation 。 图像配准关注与寻找到图像空间之间的空间变换或映射 spatial transformation or mapping 为什么需要配准？ 病患的移动（不同时刻的对齐） 病患的变化（治疗前后的对比） 病患的对照（基于atlas的分析） 信息融合（补充方式或时间，计划转移） 运动补偿改进重建 视场放大(拼接) 本地化和视觉伺服 关键的组成 空间变换 模型 spatial transformation model 刚体变换Rigid、仿射变换affine、基于局部基函数、位移场displacement field.等 图像 匹配 驱动Image matching driver 稀疏配对特征Spare paired features。图像 强度 比较image intensity comparisons 正则化 regularisation 空间变化平滑先验spatial transformation smoothness 数据驱动先验data

OpenCV HOGDescriptor 参数图解 原文链接 一、理论 1、 HOG特征描述子的定义 ： locally normalised histogram of gradient orientation in dense overlapping grids，即局部归一化的梯度方向直方图， 是一种对图像局部重叠区域的密集型描述符, 它通过计算局部区域的梯度方向直方图来构成特征。 2、本质： Histogram of Oriented Gradient descriptors provide a dense overlapping description of image regions ，即 统计图像局部区域的梯度方向信息来作为该局部图像区域的表征。 3、OpenCV中的HOG算法来源： Histograms of Oriented Gradients for Human Detection , CVPR 2005。详细的算法可以参考这个文章。这里是 英文 和 中文 的介绍。 4、 检测窗口Win、块Block、单元格Cell的基本信息 (1)大小： A、检测窗口：WinSize=128*64像素，在图像中滑动的步长是8像素(水平和垂直都是) B、块：BlockSize=16*16像素，在检测窗口中滑动的步长是8像素(水平和垂直都是) C、单元格：CellSize=8*8像素

movvar 移动方差 全页折叠 语法 M = movvar(A,k) M = movvar(A,[kb kf]) M = movvar( ___ ,w) M = movvar( ___ ,w,dim) M = movvar( ___ ,nanflag) M = movvar( ___ ,Name,Value) 说明 示例 M = movvar( A , k ) 返回由局部 k 个数据点的 方差 值组成的数组，其中每个方差基于 A 的相邻元素的长度为 k 的移动窗口计算得出。当 k 为奇数时，窗口以当前位置的元素为中心。当 k 为偶数时，窗口以当前元素及其前一个元素为中心。当没有足够的元素填满窗口时，窗口将自动在端点处截断。当窗口被截断时，只根据窗口内的元素计算方差。 M 与 A 的大小相同。 如果 A 是向量， movvar 将沿该向量的长度运算。 如果 A 为多维数组，则 movvar 沿大小不等于 1 的第一个数组维度进行运算。 示例 M = movvar( A , [kb kf] ) 通过长度为 kb+kf+1 的窗口计算方差，其中包括当前位置的元素、后面的 kb 个元素和前面的 kf 个元素。 示例 M = movvar( ___ , w ) 为上述任意语法指定归一化因子。当 w = 0 时（默认值）， M 按 k-1 对 k 进行归一化。当 w = 1 时， M 按 k

文章目录 基础 1. 常见的梯度下降方法及优缺点——优化器 梯度下降的推导 Momentum——优化器 指数加权移动平均 Nesterov动量 Adagrad——优化器 Adadelta——优化器 RMSprop——优化器 Adam——优化器 2. dropout原理以及为什么能用于防止过拟合？ 3. 为什么需要Normalization 4.[Batch Normalization的理解](https://zh.gluon.ai/chapter_convolutional-neural-networks/batch-norm.html) 5. BN的前向传播和反向传播公式 6. BN的使用场景 7. BN和Dropout共同使用时会出现的问题 8. LN的作用 9. [梯度消失与梯度膨胀，以及6种解决措施](https://blog.csdn.net/qq_25737169/article/details/78847691) 10. 为什么神经网络参数不能全部初始化为全0 一、神经网络基础和前馈神经网络 1、激活函数的比较 2、神经网络结构哪几种？各自都有什么特点？ 3、前馈神经网络叫做多层感知机是否合适？ 4、前馈神经网络怎么划分层？ 5、如何理解通用近似定理？ 6、怎么理解前馈神经网络中的反向传播？具体计算流程是怎样的？ 7、在深度学习中，网络层数增多会伴随哪些问题，怎么解决

飞控中使用加速度计，陀螺仪，磁罗盘进行姿态估计算法流程。 step1： 获取陀螺仪，加速度计，磁罗盘的原始数值。 step2： 陀螺仪，加速度计减去固定的偏移后得到校准数值，磁罗盘通过偏移和缩放后得到校准数值。（都是在载体坐标系下的测量值)。 step3： 首先根据上次的飞控姿态四元数计算出载体坐标系在世界坐标系中的旋转矩阵。 公式：从四元数 q ( w , x , y , z ) q(w,x,y,z) q ( w , x , y , z ) 到旋转矩阵 [ 1 − 2 y 2 − 2 z 2 2 x y + 2 w z 2 x z − 2 w y 2 x y − 2 w z 1 − 2 x 2 − 2 z 2 2 y z + 2 w x 2 x z + 2 w y 2 y z − 2 w x 1 − 2 x 2 − 2 y 2 ] \begin{bmatrix} {1 - 2{y^2} - 2{z^2}} & {2xy + 2wz} & {2xz - 2wy} \\ {2xy - 2wz} & {1 - 2{x^2} - 2{z^2}} & {2yz + 2wx} \\ {2xz + 2wy} & {2yz - 2wx} & {1 - 2{x^2} - 2{y^2}} \\ \end{bmatrix} ⎣ ⎡ ​ 1 − 2 y 2 − 2 z 2 2 x y − 2 w z 2

　　2012年，Alex Krizhevsky、Ilya Sutskever在多伦多大学Geoff Hinton的实验室设计出了一个深层的卷积神经网络AlexNet，夺得了2012年ImageNet LSVRC的冠军，且准确率远超第二名（top5错误率为15.3%，第二名为26.2%），引起了很大的轰动。AlexNet可以说是具有历史意义的一个网络结构，在此之前，深度学习已经沉寂了很长时间，自2012年AlexNet诞生之后，后面的ImageNet冠军都是用卷积神经网络（CNN）来做的，并且层次越来越深，使得CNN成为在图像识别分类的核心算法模型，带来了深度学习的大爆发。 　　下面首先学习AlexNet网络的创新点，然后在学习AlexNet的网络结构，最后在用代码实现AlexNet。 1，AlexNet网络的创新点 　　AlexNet将LeNet的思想发扬光大，把CNN的基本原理应用到了很深很宽的网络中。AlexNet主要使用到的新技术点如下： 　　 （1）成功使用ReLU作为CNN的激活函数，并验证其效果在较深的网络超过了Sigmoid，成功解决了Sigmoid在网络较深时的梯度弥散问题。虽然ReLU激活函数在很久之前就被提出了，但直到AlexNet的出现才将其发扬光大。 　　在最初的感知机模型中，输入和输出的关系如下： 　　虽然只是单纯的线性关系，这样的网络结构有很大的局限性

文献名： ComplexBrowser: a tool for identification and quantification of protein complexes in large-scale proteomics datasets（大规模蛋白组学数据集中鉴定和定量蛋白复合物） 期刊名： Mol Cell Proteomics 发表时间： （2019年11月） IF ： 4.828 单位： 南丹麦大学生物化学与分子生物学系和VILLUM生物分析科学中心 物种： 人和小鼠 技术： ComplexBrowser 一、 概述： （用精炼的语言描述文章的整体思路及结果） ComplexBrowser软件在CORUM和EBI两个测试数据集中识别了在人癌症和小鼠T细胞活化过程中已知的受调控的关键蛋白质复合物。找到了给定蛋白质列表中存在的已知蛋白质复合物，并利用定量蛋白质组数据（无标签或等分质量标签）和因子分析来总结整体研究生物条件中每个复合物的表达趋势。通过蛋白质复合物的鉴定而实现的生物学解释与基于原始研究中的GO注释得出的结论一致。该工具还对以前未在分析中考虑的带注释的蛋白质复合物进行研究，增加了新的见解。对这两个先前公布的大规模蛋白质组数据集的重新分析表明，该方法在不同生物环境中深入了解蛋白质复合物的调控具有巨大潜力。 二、 研究背景： （简要介绍研究进展动态、研究目的和意义）

1、到底是选择Adam还是SGD优化器 选Adam的好处 Adam傻瓜式，可以无视学习率 -- 收敛速度快 选SGD的好处 SGD适合要求高的模型 -- 精度高 -- 一般从一个较大的学习率进行训练 最优选择：Adam+SGD -- 可以先用Adam粗调，然后使用SGD精调 2、Momentum优化器也有很大作用 面对小而连续的梯度但是含有很多噪声的时候，最先使用这个 -- Momentum借用了物理中的动量概念，即前几次的梯度也会参与运算，每次迭代有一定的衰减。 -- 最红要参数：动量衰减参数α -- α经常取的值：0.9，0.99，0.7等。 -- α越大，前一迭代的所占比重越大，方向梯度改变越小，越能加速学习 3、根据数据集的特点选择优化器 除了上面这些显而易见的情况，其他情况下优化器的选择，则是根据具体情况具体选择了。不可说，不可说。 4、为什么要批量归一化 最终目的： -- 为了解决sigmoid函数梯度消失的问题 形象理解： -- 将特征数据，挪到梯度集中的区域，就像其他的归一化方法做的事情 -- 但批量归一化多了两个参数来进行还原 -- 一般归一化方法虽然对梯度消失会有一定效果，但难免在修正特征数据后会有负面影响 -- 而批量归一化因为其还原操作，可以减少这种影响 实际流程： -- 批量归一化层也可以当作一个独立的神经网络层

Abstract     论文创新点:分析流行GAN网络结构得知，GAN网络生成得图片在颜色处理与真实摄像机拍摄的照片存在不同，主要表现在两方面。     实验结果：证明了两种线索能够有效区分GAN生成图像和用于训练GAN的真实图像。 1.Introduction     本片论文主要是研究GANs网络生成图片的取证检测，虽然他们用肉眼无法区分，但是GANs生成的图片在重要的一些方面和相机拍摄的图像还是存在差别的。通过研究生成器网络的结构，尤其注意到它是如何形成颜色的，并注意到两者有两个重要的区别：（这也就是摘要中的两个像素) 再某种方式限制饱和像素的频率，对生成器内部值是被规范化（Normalized）的来限制输出的大小。（First, the generator’s internal values are normalized to constrain the outputs, in a way which limits the frequency of saturated pixels.） 生成器的对通道的内部表示类似于彩色RGB三通道像素合成的方式，但是所使用的权重与摄像机的类似光谱灵敏度完全不相同。（Second, the generator’s multi-channel internal representation is collapsed to red,

天线方向图 又叫辐射方向图（radiation pattern）、远场方向图（far-field pattern）。 从方向图上面不能得到天线增益，由方向图得到的是方向系数。 天线 增益=方向系数 * 天线效率。 所以 方向系数 大于 增益 是肯定的。 天线增益主要是通过方向图的测试而表现出来.这里有很多的种测试方向图的测试系统.也就是暗室. 而在暗室的测试出来的结果,也只是一种和理想对称振子比较的的结果.都知道理想对称振子的增益为2.15dB.这样就可以根据测试电平的高低来计算出天线的增益. G=D*N%. 而天线的效率一般情况下是没有百分百的， 所以G <d 。在计算天线的方向系数D是,通常所采用的就是根据方向图上面表现出来的主瓣的波瓣宽度计算,如半功率波瓣宽度,也就是电平下降3dB是的波瓣宽度. 天线 增益： 天线 增益是指：在输入功率相等的条件下，实际天线与理想的辐射单元在空间同一点处所产生的信号的功率密度之比。它定量地描述一个天线把输入功率集中辐射的程度。增益显然与天线方向图有密切的关系，方向图主瓣越窄，副瓣越小，增益越高。天线增益是用来衡量天线朝一个特定方向收发信号的能力，它是选择基站天线最重要的参数之一。一般来说，增益的提高主要依靠减小垂直面向辐射的波瓣宽度，而在水平面上保持全向的辐射性能。天线增益对 移动通信系统 的运行质量极为重要，因为它决定蜂窝边缘的信号电平