复杂网络中社区间的传递熵

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《Transfer entropy between communities in complex networks》
---
作者：
Jan Korbel, Xiongfei Jiang and Bo Zheng
---
最新提交年份：
2017
---
英文摘要：
  With the help of transfer entropy, we analyze information flows between communities of complex networks. We show that the transfer entropy provides a coherent description of interactions between communities, including non-linear interactions. To put some flesh on the bare bones, we analyze transfer entropies between communities of five largest financial markets, represented as networks of interacting stocks. Additionally, we discuss information transfer of rare events, which is analyzed by R\\\'enyi transfer entropy.
---
中文摘要：
借助传递熵，我们分析了复杂网络社区之间的信息流。我们表明，转移熵提供了社区之间相互作用的一致描述，包括非线性相互作用。为了让我们更深入地了解情况，我们分析了五大金融市场社区之间的转移熵，以相互作用的股票网络为代表。此外，我们还讨论了罕见事件的信息传递，并用R拞enyi传递熵对其进行了分析。
---
分类信息：

一级分类：Quantitative Finance        数量金融学
二级分类：Statistical Finance        统计金融
分类描述：Statistical, econometric and econophysics analyses with applications to financial markets and economic data
统计、计量经济学和经济物理学分析及其在金融市场和经济数据中的应用
--
一级分类：Physics        物理学
二级分类：Physics and Society        物理学与社会
分类描述：Structure, dynamics and collective behavior of societies and groups (human or otherwise). Quantitative analysis of social networks and other complex networks. Physics and engineering of infrastructure and systems of broad societal impact (e.g., energy grids, transportation networks).
社会和团体（人类或其他）的结构、动态和集体行为。社会网络和其他复杂网络的定量分析。具有广泛社会影响的基础设施和系统（如能源网、运输网络）的物理和工程。
--

---
PDF下载：
--> Transfer_entropy_between_communities_in_complex_networks.pdf (642.63 KB)

2022-6-2 14:26:56 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：复杂网络 interactions Quantitative Econophysics Applications

复杂网络中社区间的传递熵简·科尔贝尔，1,2，*熊菲江，1，3，4和Bo Zheng1，5，+浙江大学物理系，杭州310027，中国核科学与物理工程学院，布拉格捷克工业大学，布拉格，Bˇrehov\'a 7，115 19，捷克共和国信息工程学院，宁波大红英大学，宁波315175，中国金融计算研究中心，宁波大红英大学，宁波315175，中国先进微结构协同创新中心，南京210093，中国摘要借助传递熵，我们分析了复杂网络社区之间的信息流。我们表明，转移熵提供了社区之间相互作用的一致描述，包括非线性相互作用。为了揭示一些事实，我们分析了五个最大金融市场社区之间的转移熵，以相互影响的股票网络为代表。此外，我们还讨论了罕见事件的信息传递，并用R′enyi传递熵进行了分析。PACS编号：89.75-k、 89.65。Gh，05.45。Tp，89.70。关键词：复杂网络、信息传递、R’enyi熵*电子地址：korbeja2@fjfi.cvut。cz+电子地址：zhengbo@zju.edu.cnI.简介复杂网络是系统表现出广泛的非平凡突发现象的例子，包括极端冲击、记忆效应或非平凡相关结构。这些现象已被许多复杂技术广泛研究：幂律[1-3]、自相关和互相关[4-7]、多尺度模型和多重分形[8-12]、复杂动力学[13、14]、微观模型[15-17]或图论[18-21]，仅举几例。

最重要和最困难的任务之一是描述交互边的集体行为，以及它们之间相应的信息流。有几种测量信息流的技术。最流行的方法是滞后互相关（7，16）或格兰杰因果关系（22，23）。不幸的是，这些数量弥补了一些缺点。互相关的主要缺点是，无法单独区分源时间序列和环境的影响，例如公共信息源的影响。对于Ranger因果关系，可以检测到仅来自源序列的信息。然而，这两种度量都基于线性模型，因此对非线性相互作用不敏感。这些问题可以通过引入基于信息的措施来克服，这些措施可以适当地检测信息流并确定其来源。Schreiber[24]引入的传递熵是时间序列之间信息传递的无模型度量。它基于著名的香农信息熵[25]，已成功应用于许多应用领域[26–30]。已经证明，格兰杰因果关系和转移熵在“高斯世界”中是一致的【31】。然而，大多数复杂网络是高度非高斯和非线性的。随着广义熵的出现[32-34]，熵在热力学、统计学和信息论中的许多应用发现了它们的自然广义化。这些推广可用于更精确地描述复杂和非线性动力学。根据这一方案，Jizba等人引入了一类新的R’enyitransfer熵【35】。R'enyi传递熵的特点是，可以关注概率分布某些部分的信息传递。

自那以后，R'enyi转移熵已经在信号处理【36】或单自旋动力学【37】中找到了一些应用。信息传递仍然是一个正在进行的研究的热门话题[38-40]。本文的主要目的是研究复杂网络中社区间信息流动的检测方法。作为一个例子，我们展示了金融市场社区间信息流动的方法。金融市场可以被视为具有社区内部结构的复杂网络【41–44】。通常，这些社区对应于商业部门【45】。到目前为止，仅在金融市场之间（26、27、35）或某个特定市场的单个股票之间测量信息流。我们的目标不仅是检测特定的信息流，而且更全面地了解特定类型的业务部门之间如何相互作用。在一些不寻常的交易期间，如金融危机、外部驱动或公司效应，此类非线性互动变得更加突出。通过为R’enyi传递熵选择适当的q，可以突出边缘事件的分布。所有这些方面都可以帮助我们了解特定市场的不同动态。论文的其余部分组织如下：第二节讨论了相关函数的性质及其分解为不同模式的光谱。第三节描述了复杂网络中社区结构检测的算法。第四节介绍了转移熵的概念，并讨论了基于R′enyi熵的转移熵的推广。第五节介绍了金融市场社区内部和社区之间的信息传递结构，并讨论了特定市场之间的差异。此外，它还通过R’enyi传递熵来比较罕见事件的流量。最后一节是总结。二、

相关函数和扇区相关性是检测时间序列相似性的重要指标之一。对于一对平稳时间序列X（t），Y（t），可以引入互相关函数asCX，Y（τ）=h（X（t）- uX）（Y（t- τ) - uY）iσXσY，（1）其中uX和uY是每个时间序列的平均值，σX，σY是它们的标准偏差。当然，C∈ [-1, 1]. 我们可以区分三种不同的情况。首先，对于X=Y，我们得到自相关函数。它用于检测时间序列中的依赖关系。如[46]所示，在大多数金融市场中，特征相关时间约为5分钟。其次，对于τ=0，我们得到了等时间互相关，它可以被视为两个序列之间相似性的度量。它不能用作信息流的度量，因为它缺乏方向性，并且会受到环境影响。然而，它被用于许多标准技术，包括群落结构的检测，如第三节所示。最后，当X 6=Y且τ>0时，我们得到滞后互相关。它具有明确的方向性意义。不幸的是，很难区分因果关系和其他形式的依赖关系，而且它可能对非线性相互作用不敏感。对于像金融市场这样的噪声系统，互相关以分钟为单位衰减，在大多数情况下，不可能检测到超出此范围的相互作用。这些问题为引入基于信息论的度量方法提供了动力，例如相互信息或传递熵。第四节介绍了信息论的主要结果。A.

相关矩阵的模式分解在有外部信息源的噪声环境中，相关矩阵不仅包含时间序列之间相互作用的信息，还包含全球市场运动和噪声波动。让我们定义时间序列xi（t）和Xj（t）之间的相关矩阵C，asCij=CXi，Xj（τ=0）。（2） 由于对称性，相关矩阵C的谱是实的。矩阵可以通过其谱分解c=Xαλαuα来表示 uα，（3），其中λα是特征值，uα是特征向量。有限时间T中非相关时间序列的相关矩阵称为Wishart矩阵，其特征值的分布为N→ ∞, T→ ∞, Q=吨/吨 1由[47，48]P（λ）=Q2πP（λmax）给出- λ)(λ - λmin）λ，（4）其中λmax/min=1±（1/Q）1/2. 因此，保持λ>λmax的特征值表示系统的非随机相互作用。让我们对特征值进行排序，soλi≥ λi+1。在许多系统中，如金融市场，最大特征值代表整个系统（市场）模式【45】。局部相互作用可以用扇形相关性Csec来描述，定义为asCsec=αmaxXα=2λαuα uα，（5）其中λαmax是大于λmax.III的最小特征值。复杂网络中的群落结构关系矩阵（或部门相关矩阵）包含由特定股票构成的网络的所有相互作用的全部信息。不幸的是，链路的数量是2（N），这对于大型网络来说是一个巨大的数字，而只有一小部分链路在网络动态中发挥着相关的作用。因此，丢弃大部分链接并保留最重要的链接不仅是可取的，也是必要的。为此，提出了几种简单的算法。最小生成树（MST）算法【49，50】基于一个简单的想法。

将相关性按降序排序后，将链接添加到过滤后的图表。如果添加边将创建圆，我们不会添加它并移动到下一条边，直到获得完全连通的图。该图包含N个节点和N个- 1对图进行边化并最大化聚合相关性。尽管如此，这种简单的算法还是有其独特的特点。由于树状结构，忽略了可能会形成一个圆的显著相关性。这样的圆圈可以描述一系列相互强烈互动的股票。因此，参考文献[51]中提出了MST方法的推广。该方法称为平面最大滤波图（PMFG）。它基于与MST算法相似的思想，但无图形圆的条件被平面性条件所取代，即可以将图形嵌入到平面中。生成的图形可以看作是平面的三角剖分。PMFG图可能由3N组成- 6个边缘。复杂网络通常由高度连接的节点的非平凡结构组成，这些节点创建社区。社区中的互动通常非常强烈，而社区之间的互动则从相对强烈到非常微弱不等。许多作者指出了社区检测的重要性【41，42】。用于社区检测的一种成功方法叫做InfoMap。它已在REFS中引入。[43，44]并基于网络中信息流的最佳压缩。其主要思想是最小化描述网络随机游动的平均代码。通常，步行者在一个社区停留很长时间，然后突然跳到另一个社区。在金融市场中，参考文献[45]中成功地使用了该方法以及相关分解方法来揭示业务部门的结构。四、

转移熵熵的概念是由Shannon在1948年提出的。根据坎贝尔编码定理[52]，它表示对消息进行编码所需的最小二进制信息量。可表示为asH（X）=-Xxp（x）logp（x），（6），其中p（x）是字母表{Ai}Si=1中符号出现的概率分布。我们将离散随机变量表示为X。让我们提醒一下，信息熵通过乘法因子kB（Boltzmann常数）与众所周知的热力学Boltzmann-Gibbs熵密切相关。重要的是，H（X）表示X中包含的信息。类似地，X中包含的信息∪ Y可用联合熵H（X）表示∪ Y）由联合分布p（x，Y）给出。如果X在统计上与Y无关，那么联合熵就是H（X∪ Y）=H（X）+H（Y）。根据欣钦对香农熵的公理定义[53]，可以引入条件熵asH（Y | X）=H（X∪ Y）- H（X）。（7） 这允许我们引入X和Y的互信息asI（X；Y）=H（X）- H（X | Y）=H（Y）- H（Y | X）=H（X）+H（Y）- H（X∪ Y）。（8） 从时间序列Y（t）到时间序列X（t）的信息流可以作为滞后交互信息I（X（t）引入；Y（t- τ )). 尽管如此，尽管具有方向性，但它也包含由公共外部源引起的互信息，例如，当两个X andY在统计上都依赖于公共随机变量Z时。在这种情况下，用i（X；Y | Z）=H（X | Z）表示源Z所调节的互信息是很方便的- H（X | Y∪ Z） 。（9） 让我们考虑具有常数时滞τ的离散时间序列X（t），Y（t）。让我们表示Xm+1=X（m+1），Xm={X（m），…，X（1）}和Ylm={Y（m），…，Y（m- l+1）}。对于静态级数为p（Xm）~ p（Xmm+t），类似地，p（Ylm）~ p（Ylm+t）。

香农转移熵（STE）定义为条件互信息→X（m，l）=I（xm+1；Ylm | xm）。（10） 这一定义显然具有方向性。此外，它只考虑源序列Y中的依赖项。不考虑由公共外部源引起的依赖关系。可以将其显式地写为asTY→X（m，l）=-Xp（xm+1，xm，Ylm）logp（xm+1 | xm）p（xm+1 | xm，Ylm）。（11） 自然地，传递熵取决于历史指数m和l。对于m和l阶的马尔可夫过程，有足够的能力将历史使用到过程的阶数。不幸的是，对于非马尔可夫过程，即具有长期历史的过程，这是不可能的。理想情况下，应考虑该系列的整个历史，即→ ∞ 找到一个独立于m的稳定值。遗憾的是，由于数据集的大小有限，这是不可能的。即使对于很长的数据集，这也可能是一个问题，因为可能的状态数随着Sm+l的增加而增加，这也会影响计算时间和精度。因此，Marchinski和Kantz引入了有效传递熵[26]，以避免有限尺寸效应的问题→X（m，l）=TY→X（m，l）- 泰舒松脂→X（m，l）。（12） 通常，希望选择m尽可能大，l=1【26】。对于每日数据，也可以方便地选择m=1，因为影响收益动态的典型尺度通常低于日尺度。此外，数据集通常包含数年或最多数十年的数据，更大的m将需要更多的数据，以抑制有限大小的影响。A、 R'enyi转移熵Shannon熵并不是唯一一个符合条件熵Khichin可加性公理的函数。

R'enyi[54]已经证明，存在一整类熵，其特征是参数q>0，可以用q（X）=1来表示- qlogXxp（x）q.（13）在极限q内→ 1，我们恢复香农熵。可以（类似于Shannonentropy）表述R’enyi熵的编码定理。它描述了当成本是消息长度的指数函数时，编码消息所需的最小成本【55】。R'enyientropy与多重分形系统[32，56]和护送分布密切相关，可以定义为ρq（x）=p（x）qPxp（x）q。（14）这类符合群的分布最初是在与混沌系统相关的情况下引入的[57]。它们也被称为“缩放分布”，因为对于q<1，它们是分布的高尾部分，而对于q>1，它们抑制它们并突出分布的中心部分。与其他广义熵相反（详情参见，例如[33，34]），互信息（等式（8））和条件互信息（等式（9））的相关操作定义仍然有效，这是加性的结果。因此，R′enyi传递熵（RTE）可以表示为asTq；Y→X（m，l）=1- qlogPρq（Xm）pq（Xm+1 | Xm）Pρq（Xm+1，Xm，Ylm）pq（Xm+1 | Xm，Ylm）（15），其中→ 1再次归结为STE。STE和RTE之间的主要区别在于，我们可以通过改变参数q来关注分布的不同部分。与STE相反，RTE可以为负，这与q（xm+1 | xm）时的情况等效∪ Ylm）≥ Sq（xm+1 | xm）。（16） 这种自相矛盾的行为带来了一个令人满意的信息，即对历史价值X和Y的了解揭示了非线性市场纽约伦敦东京上海香港指数标准普尔500富时指数作为NKY 225 SSE 300 HSI Comp对某些分布部分的额外风险。库存485 527 185 283 411av。