基于M带小波的SVR和RNN-LSTMs模型的股票预测

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《Stock Forecasting using M-Band Wavelet-Based SVR and RNN-LSTMs Models》
---
作者：
Hieu Quang Nguyen, Abdul Hasib Rahimyar, Xiaodi Wang
---
最新提交年份：
2019
---
英文摘要：
  The task of predicting future stock values has always been one that is heavily desired albeit very difficult. This difficulty arises from stocks with non-stationary behavior, and without any explicit form. Hence, predictions are best made through analysis of financial stock data. To handle big data sets, current convention involves the use of the Moving Average. However, by utilizing the Wavelet Transform in place of the Moving Average to denoise stock signals, financial data can be smoothened and more accurately broken down. This newly transformed, denoised, and more stable stock data can be followed up by non-parametric statistical methods, such as Support Vector Regression (SVR) and Recurrent Neural Network (RNN) based Long Short-Term Memory (LSTM) networks to predict future stock prices. Through the implementation of these methods, one is left with a more accurate stock forecast, and in turn, increased profits.
---
中文摘要：
预测未来股票价值的任务一直是人们非常渴望的任务，尽管这非常困难。这种困难源于具有非平稳行为且没有任何明确形式的股票。因此，最好通过分析金融股票数据进行预测。为了处理大数据集，目前的惯例是使用移动平均值。然而，通过使用小波变换代替移动平均对股票信号进行去噪，可以平滑金融数据并更准确地分解。这种新转换、去噪和更稳定的股票数据可以采用非参数统计方法，如支持向量回归（SVR）和基于递归神经网络（RNN）的长-短期记忆（LSTM）网络来预测未来的股票价格。通过这些方法的实施，可以对库存进行更准确的预测，进而增加利润。
---
分类信息：

一级分类：Quantitative Finance        数量金融学
二级分类：Computational Finance        计算金融学
分类描述：Computational methods, including Monte Carlo, PDE, lattice and other numerical methods with applications to financial modeling
计算方法，包括蒙特卡罗，偏微分方程，格子和其他数值方法，并应用于金融建模
--
一级分类：Computer Science        计算机科学
二级分类：Machine Learning        机器学习
分类描述：Papers on all aspects of machine learning research (supervised, unsupervised, reinforcement learning, bandit problems, and so on) including also robustness, explanation, fairness, and methodology. cs.LG is also an appropriate primary category for applications of machine learning methods.
关于机器学习研究的所有方面的论文（有监督的，无监督的，强化学习，强盗问题，等等），包括健壮性，解释性，公平性和方法论。对于机器学习方法的应用，CS.LG也是一个合适的主要类别。
--
一级分类：Statistics        统计学
二级分类：Machine Learning        机器学习
分类描述：Covers machine learning papers (supervised, unsupervised, semi-supervised learning, graphical models, reinforcement learning, bandits, high dimensional inference, etc.) with a statistical or theoretical grounding
覆盖机器学习论文（监督，无监督，半监督学习，图形模型，强化学习，强盗，高维推理等）与统计或理论基础
--

---
PDF下载：
--> Stock_Forecasting_using_M-Band_Wavelet-Based_SVR_and_RNN-LSTMs_Models.pdf (720.02 KB)

2022-6-14 12:45:51 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：股票预测 SVR STM TMS Applications

*作者使用基于M波段小波的DSVR和RNN LSTMs模型对等厚岩石进行了预测。美国康涅狄格州斯威斯特恩康涅狄格州立大学数学系，邮编：06810。nguyen084@connect.wcsu.eduAbdul美国康涅狄格州立大学丹伯里分校数学系，邮编：06810。rahimyar001@connect.wcsu.eduXiaodi华盛顿州康涅狄格州斯威斯特恩康涅狄格州立大学数学系博士，邮编：06810，美国。wangx@wcsu.eduAbstract-预测未来社会价值的任务一直是人们迫切需要的，尽管这很困难。这一困难源于具有非平稳行为且没有任何明确形式的股票。因此，最好通过分析金融股票数据进行预测。为了处理大型数据集，当前的约定涉及使用MovingAverage。然而，通过利用移动平均线的小波变换对股票信号进行去噪，金融数据可以得到平滑和更准确的分解。这种新转换、去噪和更稳定的股票数据可以采用非参数统计方法，如支持向量回归（SVR）和基于递归神经网络（RNN）的长-短期记忆（LSTM）网络来预测未来的股票价格。通过这些方法的实施，可以更准确地预测库存，进而增加利润。关键词：股票预测、M波段小波变换、去噪、机器学习、支持向量回归、长短时记忆（LSTM）网络。金融市场预测是一项极具挑战性的任务。它一直是许多来自各个学术领域的从业者、学者和研究人员关注的研究课题。

为了获得准确的结果，必须利用历史数据并应用更好的预测算法。因此，财务数据的管理和分析对于准确预测给定股票的未来价格至关重要。这种方法可以扩展到期权交易领域；一种投资形式，投资者有权在约定的时间段内以约定的价格买卖股票。很明显，能够预测股票的未来价格对期权的成功与否至关重要。然而，财务数据的处理本身就是一项艰巨的任务。任何给定的股票都与高波动性、小样本、非平稳和非线性行为以及众多高噪声变量相关，所有这些都使其分析变得困难。高噪声数据导致股票历史交易价格与其未来价格之间存在不完全的信息差距。目前，在处理和消除金融数据噪声方面，行业标准是使用所谓的移动平均值。虽然移动平均已被证明是一种可行的数据处理方法，但我们建议通过小波去噪过程进行替换，以产生更好的结果。小波变换是一种数据分析技术，在这种技术中，数据集被变换到小波域，然后分解为低频和高频。人们认为，大多数数据的噪声都隐藏在其小波域的高频部分。通过决策程序，人们可以隔离并消除几乎所有股票中存在的许多不希望出现的噪音，所有这些噪音都会导致股票的波动，但并不一定能指示股票的表现。

在应用了小波变换和去噪程序之后，剩下的数据集可以更好地表示股票的真实行为，并且没有很多外部噪声；这对于实现更准确的库存预测至关重要。第三章C节进一步详细介绍了小波变换的理论和应用。为了评估该方法的准确性，使用各种机器学习技术对每个去噪数据集进行跟踪，即支持向量回归（SVR）和带有长-短期记忆（LSTM）网络的电流神经网络（RNN）；所有这些都可以用来预测股票的走势。每项技术背后的更多细节见第三章A节和B节，其相应的方法见第四章。本研究的结果见第四章第二节B和C节。近年来，准确预测金融产品/指数的价格已成为投资决策中一个日益重要的问题。传统上，许多预测模型都专注于线性统计时间序列模型，如ARIMA[24]。然而，金融时间序列是固有的噪声、演化和非线性动态系统[1]。神经网络（NNs）能够捕捉金融数据中隐藏的函数关系，因此是建模金融时间序列的有用技术[1][17-20]。最近，对神经网络的实质性批评发现了传统神经网络的消失梯度问题，并对其在没有事先数据预处理的情况下预测季节性或趋势的简单时间序列模式的能力提出了怀疑[37]。为了解决这些缺点，已经进行了许多尝试。

在[15][2526]中，在回归中使用了小波变换，而没有对基础函数的形式进行任何假设，这些函数具有各种优越的性质，这可以通过它们在预测和P 500指数以及一些方差函数中的实际表现来说明。另一方面，[2-3][12-13][21][23]使用基于长短时记忆（LSTM）网络的递归神经网络（RNN）来克服传统RNN的缺点。与此同时，支持向量回归（SVR）作为一种非参数工具也越来越受欢迎，可用于预测金融时间序列数据[32]。SVR最好的特点可能是系统的容量由不依赖于特征空间维数的参数控制。始终需要努力寻找和优化回归的泛化界限。为了回归[4-5][8][22][24][28-29]，使用了忽略误差并在真实值一定距离内拟合的损失函数。SVR是在统计学习理论的框架下发展起来的[29]，可以用于涉及线性或非线性回归的问题。另一个重要特征是，它用唯一的全局（也是稀疏）解来解决凸优化问题。相比之下，用于回归分析的其他非参数方法通常具有非凸误差函数，这会带来产生多个局部极小解的风险[5][22][29]。在本文中，我们的主要贡献是开发基于avelet的机器学习模型来预测股票价格/回报。我们将不同核函数和LSTM的SVR应用于M带小波变换和去噪数据。三、 PRIMARIESA。

支持向量回归（SVR）SVR是一种基于非参数核的回归方法，用于外推未来值。更具体地说，我们应该关注ε-SVR，这是一种SVR形式，其中一个超平面由ε精度内的损失函数构成。SVR函数可以表示为[29][34]：()= ()+     （1） 在哪里()将数据从输入空间映射到featurespace，w是权重向量，b是偏移常量。w和bare通过满足以下条件进行估计【29】【34】：最小化：从属于：(, ()+ ) (, ()+ )   （2） 在哪里和表示从训练集中获得的输入/目标值。为了解决ε-不敏感带以外的点，我们引入了松弛变量, 【29】【34】：最小化：+ (+ )从属于：(, ()+ ) +   (, ()+ )   +  , 0（3）常数> 0用于表示模型复杂性和训练误差之间的权衡【29】【34】。在使用拉格朗日函数并使用上述约束条件进行优化后，我们得到了[29][34]：()=()(, )+     （4） 在哪里(,)是一个核函数，和是非零拉格朗日乘子和对偶概率m.B.的解。长-短期记忆（LSTM）神经网络LSTM在当前隐藏层中包含称为记忆块的特殊单元。这些内存块包含具有自连接的存储单元，存储网络的速度状态，此外还有用于控制信息流的特殊乘法单元级门。原始体系结构中的每个内存块都包含一个输入门和一个输出门。输入门控制输入到存储单元的流量。

输出门控制细胞激活到网络其余部分的输出流。后来，忘记门被添加到内存块中【7】。这解决了LSTM模型的一个弱点，即它们无法处理未分段为子序列的连续输入流。遗忘门在通过单元的自循环连接将其作为输入添加到单元之前，会缩放单元的内部状态，从而自适应地遗忘或重置单元的内存。此外，现代LSTM体系结构包含从其内部单元到同一单元中的门的针孔连接，以了解输出的精确时间[13]。LSTM网络映射输入向量序列=(, … , ) 到输出向量序列  = (, … , )通过使用以下等式迭代计算网络单元激活  =  1 … :Bloc k输入：= (+ + )（5） 输入门：= (+ + )（6） 忘记门：= + +     （7） 存储单元：= + （8） 输出门：= (+ + )（9） 块输出：= ()（10） 在哪里 和 分别表示输入和循环权重矩阵（例如。是从currentinput步骤到输入门的权重矩阵 ; 和是上一步输出到输入门的循环权重矩阵),这个 术语表示偏差权重向量（例如。是输入门偏差权重向量）， 是逻辑S形函数，()= ()和, ,  和 分别是输入门、伪造门、输出门和存储单元激活向量，它们的大小都与单元输出激活向量m相同， 是向量的元素乘积。C、 M带小波M带小波变换[14][15][21][25][26][31]完全由具有一定性质的M组滤波器组决定。

在我们的研究中，我们使用具有以下滤波器组的4带小波变换：α=[-0.06737176，0.09419511，0.40580489，0.56737176，0.56737176，0.40580489，0.09 419511，-0.06737176]β=[-0.09419511，0.06737176，0.56737176，0.40580489，-0.40580489，-0.56737176，-0.06737176，0.0941951]γ=[-0.09419511-0.06737176，0.5673717，-0.4058048，-0.4058048，-0.5673717，-0.06737176，-0.0941951]δ=[-0.06737176,  -0.09419511, 0.40580489,  -0.56737176,0.56737176, -0.405 804 89, 0. 0 9419 511, 0.0673717 6].在滤波器组中，α是低通滤波器组，而, ,  和 是高通滤波器组。这些过滤器组满足以下条件：= 2   (11)=== 0   (12)||=||=||= ||   (13)= = = = = = 0（14）如果我们正在处理信号（k）, k2） ，我们可以创建相应的4× 4小波变换矩阵Tby shifti n g和wra p p ing ar o und the fi lte r b a nk s,, , 和 如图1所示。然后，S的一级小波变换可以通过以下方式完成：= []（15） 其中：= , ,, … ,    （16） d= , ,, … , ,, = 1,2,3（17）图1。示例4× 4小波变换矩阵我们可以验证这是一个正交矩阵，因此t的列（行）向量构成了. So TS表示我们变换到相应的小波域。让C, C, … , C是的列向量, 所以是的行向量. 然后是组件是正交正交基下S的坐标C, C, … , C . 因此也称为S的小波系数。

最重要的是，SDES的4带小波变换将其分解为4个不同的频率分量，其中为最低频率和d, d, d作为S的高频分量。如果需要，我们可以将小波变换应用于使用4× 4小波变换矩阵T, 以便：=[ddd]（18） 其中：=, ,, … , （19） d= , ,, … , ,, = 1,2,3（20）的四带小波变换分解分为四个不同的频率分量beinglo wes t频率y和d（i=1,2,3）BE ng高频成分.Let：T=0 IT（21），其中下角0为3（4) × (4) zeromatrix，上角0是4× 3 4.零矩阵，ndI为n 34.× 3 4.身份矩阵。n：TS=[dddddd] （22）和是S的二级小波坐标C, C, … , C 是的正交基,= + + + （23）其中= 4.和= =, , 的内积和 对于= 1,2, … , . 因此：=对于= 1,2, … , 4对于= 4.+ 1, … ,2 4.对于= 2.4.+ 1, … ,3 4.对于= 3.4.+ 1, … , 4（24）出租：= + + = + + ()（25）对于i=1,2,3。然后对应于和I对应于对于i=1,2,3。此外，让：= , … , = , ()（26）然后,  ,,和相互正交，向量空间是,  ,,和, 即：=    （27）此外，我们有：S=+ + + （28）其中是S的正交投影,是S的正交投影, 对于i=1,2,3。如果应用二级小波变换，则：= + + + S=+ + + + + + （29）四、实验程序和结果A。

小波去噪在本研究中，使用了一种离散的4带2正则小波变换，如下所示：=   = (30)=< , >< , >< , >< , >(31)=< , >< , >< , >（32）T=小波变换矩阵，= , 转置ofT，S=历史股价，A=近似部分（低频），di=详细部分（i=1，2，3），n=天数（必须采用以下格式= 4.).在本研究中，使用了由256个交易日组成的样本，因此k=3，得到的小波矩阵大小为256x 256。然后添加以下内容以防止数据过度平滑[14][31]：= 2日志()   (33) = 噪声与小波系数的标准偏差sn=频带中的元素数无法直接计算数据集的标准偏差；然而，可以根据以下[14]进行估计：().（34）现在可以通过重新定义如下所示：=   0,              || <  ,           ||  （35）阈值化后，将，我们表示为. 这些数据现在必须在小波域外重建。可按以下方式进行：=    （36）数据现已准备就绪，可供使用。下面的示例展示了小波变换对数据集的平滑效果。在本例中，使用了价值256美元的Applestock。图2：。平滑苹果股票：2016年2月12日至2018年4月1日人们可以观察到，小波去噪股票与原始股票相比更加平滑，但没有xce s sivel yso。同样，我们也不会用它来计算数据并找到与其相关的加权移动平均值。