一种基于改进PSO和SA的混合神经网络模型

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《A hybrid neural network model based on improved PSO and SA for
  bankruptcy prediction》
---
作者：
Fatima Zahra Azayite, Said Achchab
---
最新提交年份：
2019
---
英文摘要：
  Predicting firm\'s failure is one of the most interesting subjects for investors and decision makers. In this paper, a bankruptcy prediction model is proposed based on Artificial Neural networks (ANN). Taking into consideration that the choice of variables to discriminate between bankrupt and non-bankrupt firms influences significantly the model\'s accuracy and considering the problem of local minima, we propose a hybrid ANN based on variables selection techniques. Moreover, we evolve the convergence of Particle Swarm Optimization (PSO) by proposing a training algorithm based on an improved PSO and Simulated Annealing. A comparative performance study is reported, and the proposed hybrid model shows a high performance and convergence in the context of missing data.
---
中文摘要：
预测公司的失败是投资者和决策者最感兴趣的课题之一。本文提出了一种基于人工神经网络的破产预测模型。考虑到区分破产企业和非破产企业的变量选择对模型的准确性有显著影响，并考虑到局部极小值问题，我们提出了一种基于变量选择技术的混合人工神经网络。此外，我们提出了一种基于改进粒子群算法和模拟退火算法的训练算法，以改进粒子群算法（PSO）的收敛性。报告了一项比较性能研究，提出的混合模型在缺少数据的情况下表现出了较高的性能和收敛性。
---
分类信息：

一级分类：Quantitative Finance        数量金融学
二级分类：Risk Management        风险管理
分类描述：Measurement and management of financial risks in trading, banking, insurance, corporate and other applications
衡量和管理贸易、银行、保险、企业和其他应用中的金融风险
--
一级分类：Computer Science        计算机科学
二级分类：Machine Learning        机器学习
分类描述：Papers on all aspects of machine learning research (supervised, unsupervised, reinforcement learning, bandit problems, and so on) including also robustness, explanation, fairness, and methodology. cs.LG is also an appropriate primary category for applications of machine learning methods.
关于机器学习研究的所有方面的论文（有监督的，无监督的，强化学习，强盗问题，等等），包括健壮性，解释性，公平性和方法论。对于机器学习方法的应用，CS.LG也是一个合适的主要类别。
--
一级分类：Computer Science        计算机科学
二级分类：Neural and Evolutionary Computing        神经与进化计算
分类描述：Covers neural networks, connectionism, genetic algorithms, artificial life, adaptive behavior. Roughly includes some material in ACM Subject Class C.1.3, I.2.6, I.5.
涵盖神经网络，连接主义，遗传算法，人工生命，自适应行为。大致包括ACM学科类C.1.3、I.2.6、I.5中的一些材料。
--
一级分类：Statistics        统计学
二级分类：Machine Learning        机器学习
分类描述：Covers machine learning papers (supervised, unsupervised, semi-supervised learning, graphical models, reinforcement learning, bandits, high dimensional inference, etc.) with a statistical or theoretical grounding
覆盖机器学习论文（监督，无监督，半监督学习，图形模型，强化学习，强盗，高维推理等）与统计或理论基础
--

---
PDF下载：
--> A_hybrid_neural_network_model_based_on_improved_PSO_and_SA_for_bankruptcy_prediction.pdf (1.44 MB)

2022-6-24 12:13:33 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：神经网络模型 网络模型 神经网络 PSO 神经网

被《国际计算机科学期刊》（International Journal of Computer Science Issues），第16卷，第1期，2019年1月Fatima Zahra Azayite1 and Said Achchab2 1国立计算机科学与系统分析学院，穆罕默德五世拉巴特大学，摩洛哥2国立计算机科学与系统分析学院，穆罕默德五世拉巴特大学，对投资者和决策者来说，预测公司的失败是最有趣的课题之一。本文提出了一种基于人工神经网络（ANN）的破产预测模型。考虑到区分破产企业和非破产企业的变量选择对模型的准确性有很大影响，并考虑到局部极小值问题，我们提出了一种基于变量选择技术的混合人工神经网络。此外，我们还提出了一种基于改进粒子群算法和模拟退火的训练算法，以提高粒子群算法（PSO）的收敛性。报告了一项比较性能研究，所提出的混合模型在缺失数据的情况下表现出了较高的性能和收敛性。关键词：人工神经网络、粒子群优化、模拟退火、破产、失败。引言预测失败是金融领域最具挑战性的研究课题之一，尤其是近几十年来。它是预测一家公司是否会破产的能力。在许多情况下，特别是在投资和贷款领域，这是决策的关键指标。

建立一个预警系统，根据企业的财务行为预测企业失败，可以显著改善决策。由Beaver（1）和Altman（2）发起的早期研究侧重于设计预测失败模型，以区分失败公司和非失败公司。这些模型是基于统计技术特别是判别分析实现的。随着人工智能的出现，许多研究都对使用这些技术感兴趣。人工神经网络（ANN）模型是最流行和最有效的智能工具之一。ANN模型基于一组变量区分破产企业和非破产企业。因此，适当的财务比率集是影响神经网络性能的参数之一。在文献中，破产预测模型中使用了许多名词性的一致同意的财务变量。例如，奥特曼（Altman）[2]使用了5个比率，梁和武（Liang&Wu）[3]使用了7个比率，[4]使用了35个比率。在这种情况下，F.Du jardin[5]指出，当使用适当的变量选择技术进行设计时，预测破产绩效的基于神经网络的模型比使用金融文献中常用的变量进行设计时要好得多。为此，在ANN模型中使用的输入变量的选择是一个对预测精度有重大影响的基本问题。若人工神经网络设计有适当的参数，它将是一个强大的工具。

然而，用一组合适的参数（如输入神经元的数量、隐藏层的数量、隐藏神经元的数量和权重值）定义拓扑以解决复杂问题可以被视为一个优化问题。神经网络拓扑可以通过一个训练过程来确定：这个过程的第一步是根据要解决的问题选择最佳的体系结构。这一步包括定义输入、隐藏和输出神经元的数量。第二步是找到执行ANN模型的最佳权重值。人工神经网络体系结构通常是由经验决定的，但在过去的几年中，一些研究使用元启发式算法，如粒子群优化算法（PSO），在考虑适应度准则的情况下，搜索潜在体系结构的空间。本文的主要目标是设计一个基于ANN、PSO和适当的财务变量（取决于数据可用性）的破产预测模型。因此，第一个问题是通过比较多元判别分析、逻辑回归和决策树来研究变量选择模型的贡献。第二种方法是通过提出一种基于改进PSO算法和模拟退火的训练过程来确定最佳的神经网络拓扑。论文的其余部分组织如下：第2节介绍了本研究中使用的基本概念；它定义了本研究中使用的模型。第3节详细介绍了提议的方法。第4节介绍了经验发现。最后，在第5节中，我们得出了一些结论并提出了一些进一步的改进。2、文献综述2.1破产预测模型许多研究侧重于设计预测模型，根据一组财务变量区分破产企业和非破产企业。

在文献中，这些模型分为两类：统计模型和基于人工技术的模型。统计模型是最广为人知的，也是最早用于预测失效的模型。早期的研究是由Beaver[1]和Altman[2]进行的，它们基于单判别分析和多判别分析。其他统计技术也用于故障预测，如logit和probit模型[6][7]。在统计模型中，对变量的选择有如下要求：正态分布、独立性、高分辨能力和完全观测可用性[8]。随着人工智能的出现，许多研究人员都对使用这些新技术感兴趣，因为它们能够处理定义不精确的问题、与统计模型相反的不完整和不确定的数据。由于这些特点以及企业失败预测的主题存在所有这些问题，过去几十年的许多研究使用基于人工智能的模型来预测失败，尤其是神经网络。Odomand Sharda【9】是第一位将神经网络应用于破产预测的研究人员，与传统的破产预测方法（即多变量描述分析）相比，它具有很高的预测能力。许多研究将人工神经网络的性能与其他模型进行了比较：【10】阐述的研究考察了四种最常用的金融危机预测模型的预测能力：多重判别分析、Logit、Probit和人工神经网络。

结果证明，当数据不满足统计方法的假设时，ANN方法显示了其优势，并获得了更高的预测精度。耿瑞斌（Ruibin Geng）[11]得出的结论是，神经网络比其他分类器更精确，例如决策树和支持向量机，以及使用多数投票组合的多个分类器的集合。Azayite和Achcab【12】研究了混合判别分析和人工神经网络预测公司困境的性能。结果表明，所提出的组合方法比传统的神经网络方法预测准确率高2.2人工神经网络（ANN）受神经生物学的启发，被定义为人工智能的一个分支，人工神经网络能够构建能够学习和执行特定任务的机器，如分类，预测或分组。这是一组相互连接的神经元，它们不断从环境（数据）中学习，以捕捉复杂数据中的基本线性和非线性趋势，从而为新情况提供可靠的预测[3]McCulloch和Pitts于1943年引入了第一个受生物神经元启发的神经元模型[13]。他们证明形式神经元可以执行逻辑功能。1949年，心理学家唐纳德·赫布（DonaldHebb）提出了并行和连接神经网络模型。然后，他提出了许多更新权重的规则，最广为人知的是赫布规则[14]。1958年，心理学家弗兰克·罗森布拉特（FrankRosenblatt）开发了感知子模型。

它是一种学习认知简单形式和计算某些逻辑函数的神经网络。直到1969年，对人工神经网络的研究才引起了人们的极大兴趣，当时两位美国科学家明斯基和佩珀特[14]证明了感知器的局限性，特别是在解决非线性问题方面。从1980年Rumelhart出版的反向传播算法（Back Propagationalgorithm）开始，人们对全连接神经网络的兴趣重新开始。该学习算法基于误差向隐层的传播来优化多层神经网络的参数。自那时以来，神经网络在不同领域的工作和应用不断增加。事实上，已经证明，具有单个隐藏层的多层感知器网络可以以任意精度逼近Rnin rm的任何函数[17]。神经网络的结构和参数对其功能和性能起着至关重要的作用。多层网络是一种常用的网络结构，它由输入层、一个或多个隐藏层和输出层组成。隐藏层定义了输入神经元和输出神经元之间的映射。层之间的关系存储为连接链接的权重。各层通常以前馈方式互连，这意味着信息只朝一个方向向前移动，从输入层，通过隐藏层，到输出层，网络中没有循环或循环。为了更好地理解具有向前传播的无线网络的功能，我们在图中说明了具有单个隐藏层的网络的拓扑结构。

1、此外，在文献中已经证明，这种架构是解决分类问题的最佳架构【18】，这也是本文使用的情况。图1：人工神经网络在具有单个隐藏层的网络中，每个隐藏神经元j=1。。。，m、 接收等于网络输入加权和的输入，然后应用传递函数f将输入信号转换为输出信号，定义如下：（1）n和m分别是输入和隐藏神经元的数量，wji是i输入神经元到jthhidden神经元的权重，xi是输入变量i，wj0是abias项。然后，来自隐藏神经元的信号通过加权连接发送到输出神经元，与输入层和隐藏层之间发生的情况相似。结果，输出节点接收所有加权隐藏神经元的总和，并根据所需的输出间隔应用传递函数g。然后，网络输出神经元o的输出yo由以下公式表示：（2）bzjis表示从jthhidden神经元到oth输出神经元的权重，bz0表示偏差项。如前所述，在多个领域中使用神经网络的兴趣在于其接近任何线性和非线性函数的特性。然而，挑战在于找到最接近期望函数的神经元网络拓扑及其权值。

这可以看作是一个优化问题，我们通常试图根据二次误差之和最小化成本函数。2.3人工神经网络优化参数2.1.1输入变量定义人工神经网络后，让我们看看其构造所需的第一个信息，即输入变量集。在我们的案例中，将从这些变量中构建数学模型，以根据一些财务变量将两个公司的健康公司和破产公司分类。通过学习示例，ANN应该学会对新特征进行分类。因此，定义最相关的变量非常重要。正如F.Du jardin[5]所述，当使用适当的变量选择技术进行设计时，基于神经网络的破产预测模型的性能明显优于使用金融文献中常用的方法进行设计时的性能。为此，我们使用变量选择模型来定义适当的财务比率，一方面选择最相关的变量，另一方面节省资金和精力来收集和验证数据，尤其是小型公司的数据。2.1.2架构如前所述，神经网络的架构由输入、输出和一个或多个隐藏层组成。因此，影响神经网络性能并在设计神经网络时必须考虑的其他参数是每层中的神经元数量和隐藏层的数量。这些参数定义了神经网络的行为，并取决于要解决的问题。在文献中，具有一个隐藏层的人工神经网络是用于分类问题的最佳结构[17]，本研究中使用了这种结构。选择隐藏层中的神经元数量可能是一项挑战性的任务。

如果有太多的神经元，算法必须处理的可能计算数量就会增加。否则，在隐藏层中选择少量节点会降低模型的学习能力[19]。因此，选择适当数量的神经元来最大限度地提高网络性能是非常重要的。2.1.3学习算法将神经网络参数设置为模拟特定行为的过程称为学习算法。它可以定义为一组规则，以找到权重和偏差的最佳值，从而最大化神经网络性能。根据学习类型的不同，有多种技术可用于寻找合适的神经网络权重和偏差值。这种类型一般可以分为两类：有监督学习和无监督学习。监督学习就是让人工神经网络从标签样本中学习。尽管无监督学习没有标记的示例来指导学习，但神经网络的权重会根据特定的标准进行修改，以便发现观察结果中的规律或聚类。在本文中，我们更感兴趣的是优化ANN，以预测失败，并在健康企业和破产企业之间进行分离，当它被训练为一组标记的企业变量分配正确的目标类别时。在这种监督学习中，类标签是预先确定的，并在训练阶段提供。学习算法试图通过调整连接权重来估计输入和目标之间的依赖关系，直到误差函数（如平方误差）最小化。有不同的学习方法。我们可以将它们分为两大类：o第一类基于最速下降技术。它包括梯度下降、LevenbergMarquardt、反向传播和其他变体等方法。