归一化

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/millions_02/article/details/91419297 图像识别 面部表情识别（FER） 预处理： 去掉表情无关特征 标定关键坐标，这一步可以减少旋转和面部变形带来的变化，常用IntraFace 人脸特征提取：从经过预处理后的人脸图像中提取出人脸上具有代表性的特征信息，并用计算机语言进行描述。 数据增强 线下数据增强和在线数据增强，通过生成，修改，模拟原图的方式增加训练数据 人脸归一化 1.光照归一化，去掉光照影响，于各向同性扩散归一化（isotropic diffusion-based normalization）、基于离散余弦变换归一化（DCT-based normalization）和高斯差分（DoG）。 2.姿态归一 基于 GAN 的深度模型生成正面人脸 姿态补偿、姿态估计、表情估计 文章来源: https://blog.csdn.net/millions_02/article/details/91419297

1、Batch Normalization的引入 　　在机器学习领域有个很重要的假设：IID独立同分布假设，也就是假设训练数据和测试数据是满足相同分布的，这是通过训练数据获得的模型能够在测试集上获得好的效果的一个基本保障。在深度学习网络中，后一层的输入是受前一层的影响的，而为了方便训练网络，我们一般都是采用Mini-Batch SGD来训练网络的（Mini-Batch SGD的两个优点是：梯度更新方向更准确和并行计算速度快）。 　　我们知道在神经网络训练开始前，都要对输入数据做一个归一化处理，那么具体为什么需要归一化呢？归一化后有什么好处呢？原因在于神经网络学习过程本质就是为了学习数据分布，一旦训练数据与测试数据的分布不同，那么网络的泛化能力也大大降低；另外一方面，一旦每批训练数据的分布各不相同(batch 梯度下降)，那么网络就要在每次迭代都去学习适应不同的分布，这样将会大大降低网络的训练速度，这也正是为什么我们需要对数据都要做一个归一化预处理的原因。 　　对于深度网络的训练是一个复杂的过程，只要网络的前面几层发生微小的改变，那么后面几层就会被累积放大下去。一旦网络某一层的输入数据的分布发生改变，那么这一层网络就需要去适应学习这个新的数据分布，所以如果训练过程中，训练数据的分布一直在发生变化，那么将会影响网络的训练速度。 　　除了输入层的数据外(因为输入层数据

how do you normalize your ged matrix. from 机器学习里的黑色艺术：normalization, standardization, regularization ; 第一部分：大的层面上讲 1. normalization和standardization是差不多的，都是把数据进行前处理，从而使数值都落入到统一的数值范围，从而在建模过程中，各个特征量没差别对待。normalization一般是把数据限定在需要的范围，比如一般都是【0，1】，从而消除了数据量纲对建模的影响。 standardization 一般是指将数据正态化 ，使平均值0方差为1. 因此normalization和standardization 是针对数据而言的，消除一些数值差异带来的特种重要性偏见。经过归一化的数据，能加快训练速度，促进算法的收敛。 2.而regularization是在cost function里面加惩罚项，增加建模的模糊性，从而把捕捉到的趋势从局部细微趋势，调整到整体大概趋势。虽然一定程度上的放宽了建模要求，但是能有效防止over-fitting的问题(如图，来源于网上)，增加模型准确性。因此，regularization是针对模型而言。 这三个term说的是不同的事情。 第二部分：方法 总结下normalization， standardization

通过键盘输入一串小写字母(a~z)组成的字符串。 请编写一个字符串归一化程序，统计字符串中相同字符出现的次数，并按字典序输出字符及其出现次 数。 例如字符串"babcc"归一化后为"a1b2c2" 输入描述: 每个测试用例每行为一个字符串，以’\n’结尾，例如cccddecca 输出描述: 输出压缩后的字符串ac5d2e 示例1 输入 dabcab 输出 a2b2c1d1 import java.io.BufferedReader; import java.io.IOException; import java.io.InputStreamReader; public class Solution{ public static void main(String[] args) throws IOException { InputStreamReader input = new InputStreamReader(System.in); // 字节流转换为字符流 BufferedReader buffer = new BufferedReader(input); // 放入BufferedReader使得读取速度更快 int []count = new int[26]; // 创建一个数组用于计数 char []charArray = buffer.readLine()

kpi_id 139 能力商店上架率（在能力商店上架的能力数）、 kpi_id 1575 数据中台使用度（API调用次数、标签调用次数、数据服务调用次数、框架组件订购量）、 kpi_id 164 划小工单流程处理效率（倒三角划小集团工单平均处理时长、倒三角划小省分工单平均处理时长、倒三角划小市分工单平均处理时长） 来源： https://www.cnblogs.com/huanglei2010/p/11738861.html

视觉SLAM14讲-第五讲笔记 针孔相机模型 不同坐标系 世界坐标系 相机坐标系 以 光心 为原点，相机自身的坐标系。 世界坐标系经相机位姿变化（T作用)变换到相机坐标系。 归一化平面 位于相机前方Z=1处的平面上。 是相机坐标系上点P，最后一维归一化的结果。 物理成像平面 相机坐标系中点经小孔投影到的平面。 焦距：物理成像平面到小孔的距离。 像素平面 物理成像平面上固定着的平面。 对物理成像平面上点的坐标进行采样和良好，得到像素。 像素坐标系：与物理成像平面间相差一个x，y方向缩放（α，β），一个原点平移（cx,cy)。 相机参数 内参数 内参数矩阵：K，表示从相机坐标系到像素坐标系的转换。 对于像素坐标 P u P_u P u ​ ，写成其次坐标形式，会引入一个缩放系数z。 从相机坐标系 P P P 到像素平面 P u P_u P u ​ 可表示为： Z P u = K P Z{P_u}=KP Z P u ​ = K P K对于相机固定，不随使用改变。可通过标定方法确定。 外参数 外参数矩阵：T，表示从世界坐标系到相机坐标系的转换。 外参数所描述的变换，即其位姿：旋转R和平移t。是SLAM任务中待估计的目标。 P = R P w + t = T P w P=R{P_w}+t=T{P_w} P = R P w ​ + t = T P w ​ 此时是三维齐次坐标(4x1)的表示

案例： 相亲约会对象数据，这个样本时男士的数据，三个特征，玩游戏所消耗时间的 百分比、每年获得的飞行常客里程数、每周消费的冰淇淋公升数。然后有一个 所属类别，被女士评价的三个类别，不喜欢didnt、魅力一般small、极具魅力large 也许也就是说飞行里程数对于结算结果或者说相亲结果影响较大， 但是统计的 人觉得这三个特征同等重要。 在此处为什么要进行归一化，归一化说白了就是控制数据在指定的范围内，防止过大数据对结果造成干扰。 这里先使用一个算法k-means算法，该算法后面会详细介绍。 k-means就是同一特征下的两个样本，相减取平方。 对于上图标红的两个样本（从现在开始，表中的行称为样本，列称为特征值），使用k-means时，计算(72993-35948)^2 + (10.141740-6.830792)^2 + (1.032955-1.213192)^2，会发现（72993-35948)^2的值过大，后面两项基本可以忽略不计了，但是案例中有一句话很重要------ “统计的 人觉得这三个特征同等重要”。 所以，就要解决这个情况，可以使用归一化解决。 问题：如果数据中异常点较多，会有什么影响？ 来源： https://www.cnblogs.com/cwj2019/p/11720029.html

1. 数据归一化的好处 （1）提升训练的速度 （2）提升模型的精度 （3）深度模型中能够防止梯度爆炸 2 归一化方法 　　min-max 归一化 　　x = (x - x_min)/(x_max - x_min) 将x 映射到[0,1]之间的一个数 　　z-score 标准化 　　均值为0 ，标准差为1 3 min-max 与z-score 的优缺点 当有新的样本加入时，min-max 计算量小，z-score 需要重新计算均值、方差 当需要计算距离，相似的的时候 z-score 的表现会更好 来源： https://www.cnblogs.com/lzc007/p/11717119.html

本文是对CRF基本原理的一个简明的介绍。当然，“简明”是相对而言中，要想真的弄清楚CRF，免不了要提及一些公式，如果只关心调用的读者，可以直接移到文末。 图示 # 按照之前的思路，我们依旧来对比一下普通的逐帧softmax和CRF的异同。 逐帧softmax # CRF主要用于序列标注问题，可以简单理解为是 给序列中的每一帧都进行分类 ，既然是分类，很自然想到将这个序列用CNN或者RNN进行编码后，接一个全连接层用softmax激活，如下图所示 逐帧softmax并没有直接考虑输出的上下文关联 条件随机场 # 然而，当我们设计标签时，比如用s、b、m、e的4个标签来做字标注法的分词，目标输出序列本身会带有一些上下文关联，比如s后面就不能接m和e，等等。逐标签softmax并没有考虑这种输出层面的上下文关联，所以它意味着把这些关联放到了编码层面，希望模型能自己学到这些内容，但有时候会“强模型所难”。 而CRF则更直接一点，它 将输出层面的关联分离了出来 ，这使得模型在学习上更为“从容”： CRF在输出端显式地考虑了上下文关联 数学 # 当然，如果仅仅是引入输出的关联，还不仅仅是CRF的全部，CRF的真正精巧的地方，是它 以路径为单位，考虑的是路径的概率 。 模型概要 # 假如一个输入有 n n 帧，每一帧的标签有 k k 种可能性，那么理论上就有 k n kn 中不同的输出

参考https://blog.csdn.net/chary8088/article/details/81542879 来源： https://www.cnblogs.com/steven0325/p/11660209.html