isight算法RBF和EBF

径向基函数近似是一种神经网络，它采用径向单元的隐藏层和线性单元的输出层。RBF近似的特点是训练速度合理，网络结构合理紧凑。它们可用于近似各种非线性空间。

椭圆基函数类似于径向基函数，但使用椭圆单位代替径向单位。与所有输入都被同等处理的RBF相比，EBF网络使用单独的权重分别处理每个输入。

RBF网络的特点是训练速度合理，网络结构合理紧凑。另一方面，EBF网络需要更多的迭代来学习单个输入权重，并且通常比RBF更准确。

RBF近似的初始化需要至少评估2n+1个设计点，其中n是输入的数量。可以多次执行被近似的组件以收集所需的数据。或者，数据文件可以作为初始化源。

本节详细介绍了Isight中使用的径向基函数和椭圆基函数模型近似值。 • 概述 • 在 Isight 中的使用 • 可变功率样条基函数 • 将径向基函数推广到椭圆基函数 • 对输入变量对输出变量的影响进行分级

• 概述

径向基函数 （RBF） 是一种采用的神经网络 径向单位的隐藏层和线性单位的输出层。椭圆 基函数 （EBF） 类似于径向基函数，但使用椭圆 单位代替径向单位。与所有输入 被同等处理，EBF 网络使用单独的 权重。

RBF 网络的特点是训练速度合理且合理紧凑的网络。另一方面，EBF 网络需要更多的迭代 来学习单个输入权重，并且通常比 RBF 更准确。

Weissinger （1947） 是第一个使用数字势流来计算翅膀周围的流动。势流方程是径向基功能。Hardy （1971） 意识到相同的概念可以用于 将地球物理数据与地球物理现象拟合。扫帚头和洛 （1988） 将这项技术重命名为“神经网络”，随后被使用 来近似所有类型的行为。

选择 EBF 而不是 RBF 的一个优势是 EBF 能够对 输入变量（按对输出变量的影响顺序排列为 在对输入变量对输出变量的影响进行排名中进行了介绍。

• 在 Isight 中的使用

Isight遵循 Kansa （1999） 描述的 Hardy （1972， 1990） 方法。

让x1,…,xN∈Ω⊂RN是一组给定的节点。让gi(x)≡g(‖x−xj‖)∈R, j=1,…,N，可以是任意径向基函数。这里‖x−xj‖是欧几里得距离，由下式给出(x−xj)T(x−xj).给定插值y1,…,yN∈R在数据位置x1,…,xN∈Ω⊂RN,RBF插值

(1)

通过求解N+1线性方程

(2)

(3)

为N+1未知膨胀系数αj.

RBF 方法的主要创新者 Hardy （1972， 1990）补充说扩展的常数和constraints 扩展的和系数为零，如方程 1 和方程 2 所示，引入了符号

α=(α1,…,αN+1)T和我们可以将系统（方程 2）改写为矩阵形式。

（4）

那么插值膨胀系数由下式给出

您可以在节点处轻松找到插值的导数x1，例如

由于模型物理可以变化，因此需要不同类型的基函数来提供良好的拟合。响应面穿过所有给定的插值数据。

• 可变功率样条基函数

Isight使用可变功率样条基函数，该函数可以调整为近似值大量其他功能。

可变功率样条径向基函数由下式给出

哪里‖x−xj‖是Euclidian distance和c是0.2和3（即0.2<c<3)

对于值c=1.15，则是步长的良好近似值功能只需7个插值点即可实现。对于c=2，线性函数的良好近似值只需三个插值点即可实现，如下图：

对于c=3的值，每个谐波周期约有七个点，可以很好地近似谐波函数。

c=3对于步骤函数示例，将生成一个通过7个数据点的近似值，但它更像单个正弦波，而不是阶跃函数。显然，有无数个解决方案将通过任何给定的数据点集。

在大多数文献中，这个问题是通过将插值数据分为两组来解决的。一组用于创建径向基函数近似，另一组用于计算这些点的径向基函数逼近与实际函数值之间的误差。形状函数被优化以最小化求和误差。当有大量数据点可用于插值时，这是一种有效的方法；然而，Isight中的典型设计问题主要涉及非常稀疏的数据集，只使用一半的数据来创建实际的响应面似乎效率低下

Isight采用了一种不同的方法。Isight将良好拟合定义为减去一个点时曲线形状不变的拟合。它优化了c的值，使N-1个数据点的误差之和最小。

通过查看下面的直线近似图（P1missing）可以说明这种方法，点P1使用点P2和P3近似；在下图中（P2missing），点P2由两个极值点P1和P3近似得到。对于c=2，如图所示，“缺失点missing points”的误差之和很低。

为c=0.2，则“missing points“的误差和非常高。

由于形状函数优化的迭代次数有限，因此可以通过将大问题分解为耦合的小问题来实现更高的精度。例如，五个输入和两个输出的一个近似值和六个输入和一个输出的近似值；而不是十一个输入和三个输出的单一近似值。

• 将径向基函数推广到椭圆基函数

通过使用马氏距离代替方程1和方程3中的欧几里得距离，径向基函数可以推广为椭圆基函数（Mak和Li，2000）。

马氏距离定义为

其中S是一个对称正定矩阵，也称为协方差矩阵。当S被视为恒等矩阵时，可以获得欧几里得距离。协方差矩阵的选择决定了近似的质量。

为了选择一个好的协方差矩阵，Isight首先假设样本数据的协方差是设计数据的良好近似值；即。

其中μ是样本数据的质心。形状函数值的优化方式与径向基函数（RBF）相同。

Isight随后使用对角矩阵近似实际方差（，其中Si是一个正数，n是近似中的输入变量数量）。Isight使用模拟退火算法优化Si的值，以最小化N−1个数据点的误差总和。

• 对输入变量对输出变量的影响进行排名

选择EBF而不是RBF的主要优点之一是EBF能够按照对输出变量的影响顺序对输入变量进行排序。

为了说明这一点，考虑以下示例，其中输出

z仅取决于其中一个输入

x变量的值

y是随机选择的。

x	y(random)	z
–1	0.058834	1
–0.8	0.788471	0.894427
–0.6	0.032282	0.774587
–.4	0.916549	0.632456
–0.2	0.886644	0.447214
0	0.486239	0
0.2	0.746047	0.447214
0.4	0.804201	0.632456
0.6	0.348267	0.774597
0.8	0.441739	0.894427
1	0.733215	1

在下图中，RBF 和 EBF 近似值的等值线图 所示：

从等值线图中可以清楚地看出，EBF产生了比RBF更好的近似值。从变换矩阵中（参见将径向基函数推广到椭圆基函数）可以明显看出x比y在预测中z在等值线图显示的EBF模型中，距离计算公式为