一种基于改进PSO和SA的混合神经网络模型

其中一些算法需要大量的时间和内存。最常用的算法是反向传播算法。它是一种计算神经网络梯度的强大算法，但有局限性，尤其是局部极小值问题第二组包括基于生物进化的方法，其中包括遗传算法、群算法、模拟退火算法……这些算法被设计用于搜索全局最优解。2.1.4传递函数在训练无线网络之前，应该确定的参数之一是传递函数。使用激活函数的选择取决于用例：例如，二进制函数适用于组织或分布问题。而连续函数和可微函数作为线性函数，梯度函数和sigmoid函数被用来逼近连续函数。值得注意的是，尤其是sigmoidtransfer函数是使用最多的函数。这是因为它结合了近似线性行为、曲线行为和近似恒常行为，具体取决于输入值【19】。这一特性使人工神经网络能够同时适应线性和非线性问题。sigmoid函数的公式如下：（3）它接受任何实值输入，并返回介于0和1之间的输出边界。此函数用于本研究中的astransfer函数。2.4粒子群优化（PSO）由社会心理学家J.Kennedy和电气工程师R。

粒子群优化算法（PSO）是一种温暖的智能算法，其灵感来源于鸟类群集等生物社会行为的自然过程，并在许多研究领域使用了优化技术。成群生活的动物可以长途迁徙或寻找食物，为此，必须在时间和能量方面优化它们的运动，并向食物来源集中。这些动物的运动是复杂的，群体中的每个成员都根据自己和其他成员的经验来决定自己的运动。粒子群优化算法（PSO）就是受这种行为的启发，用以逼近问题的解，并用来优化数据空间中的连续函数。粒子群优化算法（如算法1所述）基于一组称为粒子的个体，这些个体最初随机排列，在解空间中移动以搜索最佳解。粒子的每个位置代表问题的潜在解决方案。在搜索空间中，每个粒子的运动都会受到其他八个粒子的运动的影响，并遵循特定的规则：每个粒子都有一个记忆库，它可以记忆它已经经过的最佳点，并倾向于返回到该点。每个粒子都会被告知在inits邻域中遇到的最佳点，并趋向于到达该点。无花果

2：PSO粒子运动对于群中的每个粒子i，在停止条件为false Do时，对群中的每个粒子i，计算适应度f（xi（t））；如果“适应度值>pBest”（fitness value>pBest）将当前值设置为新的pBestended For，则选择所有粒子的最佳适应度值asgbestFor swarm的每个粒子i，根据方程（1）更新粒子速度，根据方程（2）更新粒子位置，同时使用算法1：PSO算法应用PSO，我们需要定义由粒子组成的搜索空间和一个适应度函数来进行优化。然后用随机解（粒子）的总体初始化系统，其中每个粒子都有一个表示可能的解数据的位置值，一个表示数据可以改变多少的速度值，以及一个表示粒子达到的最佳解的个人最佳值（pBest）。粒子速度受三个组件的影响，如图2所示，详细描述为：物理组件：粒子倾向于沿着自己的路径通过认知组件：它倾向于返回到它已经通过的最佳位置社会组件：它倾向于向其邻居已经达到的最佳位置移动，w是惯性权重，v粒子在操作中的速度t、c1和c2分别是认知和社会参数，r1和r2是介于0和1之间的随机数，p是粒子最佳位置（pBest），x是粒子当前位置，g是群最佳位置（gBest）。更新粒子速度的方程式如下：（2）速度v被限制在[Vmax，Vmin]范围内。

以这种方式更新速度使粒子能够搜索其最佳位置pBest，粒子位置计算如下：（3）2.5模拟退火模拟退火（SA）是一种随机优化算法，由[18]引入。正如其名称所示，模拟退火的灵感来自于一种物理金属退火过程，在该过程中，模拟退火被强烈加热，然后逐渐冷却，以最小的能量形成完美的晶体结构。SA被认为是一种优化算法，模拟ametal冷却成最小能量晶体结构的方式与在一般优化问题中搜索最小值的方式之间的类比。事实上，在金属的退火过程中，材料的物理状态、状态能量和温度通过类比分别对应于问题的解决方案、解决方案的成本和控制参数。在搜索过程中，SA不仅概率地接受最佳解，而且概率地接受最差解。在过程开始时，温度很高，接受较差溶液的可能性也很高，但随着温度降低，接受较差溶液的可能性逐渐接近零。SA的原理是以迭代的方式探索搜索空间。因此，该算法从标记为S0的随机初始解开始，该解对应于能量E0和高初始温度T0。然后，条件编辑（conditioneditions）在每个迭代之后，计算目标函数E，并与之前的值进行比较。

如果目标函数的新值更好，则自动接受新解；否则，它可以被概率P接受，概率P取决于当前温度T和目标函数ΔE的差值。概率P是：（4）在非常高的温度下，这种接受概率非常高，这导致系统接受任何溶液。此阶段对应于搜索区域中的随机局部行走。相反，在低温下，可能性降低，这意味着几乎没有机会接受不太好的解决方案。此阶段对应于本地搜索。这种机制允许探索一个新的解决方案领域，无论是好是坏，以便离开局部极小值。3、研究方法考虑到粒子群优化算法的良好性能，我们有兴趣在本研究中分析ParticleSwarm优化算法的使用情况，并提出一种新的混合算法，用于在swarm Sinitilize粒子群中的每个粒子i计算适应度f（xi（t）），而停止条件为false Do时对每个粒子i进行混合；如果“适应度值>pBest”（fitness value>pBest）将当前值设置为新的pBestended For，则选择所有粒子的最佳适应度值作为群中每个粒子i的最佳适应度值，根据方程（1）更新粒子速度，根据方程（2）更新粒子位置，同时使用算法2：PSO算法图。3：提出了一种优化神经网络拓扑的方法ologymodel。因此，所提出的方法的目标是设计处理噪声和缺失数据的最佳ANN拓扑，以高精度识别企业的健康状况。

图3中详细介绍的这种方法如下所示。3.1财务变量在研究如何找到最佳的ANNarchitecture之前，让我们先看看其定义所需的第一个信息，即输入变量。在我们的案例中，将根据这些变量构建数学模型来预测业务失败。因此，影响故障困扰模型性能的挑战之一是确定适当的财务比率。