rbf神经网络

1.RBF径向基函数 本质上和RBF核函数的SVM很相似，使用径向基函数对数据重新构建，利用 Φ（||X- X p ||）来代替原始的数据向量表示，一共有P个中心，所以获得的新数据有P个维度，此时再对数据进行分类。输出等于W Φ（||X- X p ||），W为需要求解的权重。 数学上是可以对W求解求解的，但是Φ的选取有要求，同时还不包含正则，使求解的曲面可能有过拟合。 带正则的求解如上图，第一项是均方误差，第二项是对F求的微分算子，代表了对F的先验知识。 这个方程的解也是可以得到的。 当G函数为多元高斯函数的时候 ，整个式子就满足了西瓜书上使用高斯径向基的函数式，形式上一模一样 西瓜书上对c求解是使用聚类或者随机采样的方式来获取c，对于另外两个参数W和偏扩展常数使用BP算法求取。 也可以可以用聚类的方式计算，然后找到两种聚类中心的形式： 1. d是数据中心间最大距离，M是数据个数，可以避免径向基函数过于集中或者分散 2. 但是不知道第二个参数如何选取。 此时如果只有一层的话可以使用 的方式去求，因为Φ不是方阵。 也有做法是可以对数据中三个变量都做成可训练参数，求取梯度，求梯度和句子操作可见 https://www.cnblogs.com/zhangchaoyang/articles/2591663.html 。这里不具体描述。 来源： https://www.cnblogs.com

RBF神经网络 RBF神经网络通常只有三层，即输入层、中间层和输出层。其中中间层主要计算输入x和样本矢量c（记忆样本）之间的欧式距离的Radial Basis Function (RBF)的值，输出层对其做一个线性的组合。 径向基函数： RBF神经网络的训练可以分为两个阶段： 第一阶段为无监督学习，从样本数据中选择记忆样本/中心点；可以使用聚类算法，也可以选择随机给定的方式。 第二阶段为监督学习，主要计算样本经过RBF转换后，和输出之间的关系/权重；可以使用BP算法计算、也可以使用简单的数学公式计算。 1. 随机初始化中心点 2. 计算RBF中的激活函数值，每个中心点到样本的距离 3. 计算权重，原函数：Y=GW 4. W = G^-1Y RBF网络能够 逼近任意非线性的函数 (因为使用的是一个局部的激活函数。在中心点附 近有最大的反应；越接近中心点则反应最大，远离反应成指数递减；就相当于每个神 经元都对应不同的感知域)。 可以处理系统内难以解析的规律性，具有很好的泛化能力，并且具有较快的学习速度。 有很快的学习收敛速度，已成功应用于 非线性函数逼近、时间序列分析、数据分类、 模式识别、信息处理、图像处理、系统建模、控制和故障诊断 等。 当网络的一个或多个可调参数（权值或阈值）对任何一个输出都有影响时，这样的网 络称为 全局逼近网络 。由于对于每次输入，网络上的每一个权值都要调整