社交网络中的虚假新闻

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《Fake News in Social Networks》
---
作者：
Christoph Aymanns and Jakob Foerster and Co-Pierre Georg
---
最新提交年份：
2017
---
英文摘要：
  We model the spread of news as a social learning game on a network. Agents can either endorse or oppose a claim made in a piece of news, which itself may be either true or false. Agents base their decision on a private signal and their neighbors\' past actions. Given these inputs, agents follow strategies derived via multi-agent deep reinforcement learning and receive utility from acting in accordance with the veracity of claims. Our framework yields strategies with agent utility close to a theoretical, Bayes optimal benchmark, while remaining flexible to model re-specification. Optimized strategies allow agents to correctly identify most false claims, when all agents receive unbiased private signals. However, an adversary\'s attempt to spread fake news by targeting a subset of agents with a biased private signal can be successful. Even more so when the adversary has information about agents\' network position or private signal. When agents are aware of the presence of an adversary they re-optimize their strategies in the training stage and the adversary\'s attack is less effective. Hence, exposing agents to the possibility of fake news can be an effective way to curtail the spread of fake news in social networks. Our results also highlight that information about the users\' private beliefs and their social network structure can be extremely valuable to adversaries and should be well protected.
---
中文摘要：
我们将新闻传播建模为网络上的社交学习游戏。代理人可以支持或反对一条新闻中的声明，这条新闻本身可能是真的，也可能是假的。特工们的决定基于一个私人信号和他们邻居过去的行为。给定这些输入，代理遵循通过多代理深度强化学习得出的策略，并根据声明的准确性从行动中获得效用。我们的框架产生的策略与代理效用接近于理论上的贝叶斯最优基准，同时保持对模型重新规范的灵活性。优化的策略允许代理在所有代理接收到无偏的私有信号时正确识别大多数虚假声明。然而，对手试图通过使用有偏见的私人信号将一部分代理作为目标来传播假新闻，可能会成功。当对手掌握有关代理的网络位置或专用信号的信息时，情况更是如此。当代理意识到对手的存在时，他们会在训练阶段重新优化其策略，而对手的攻击效果较差。因此，让代理接触到虚假新闻的可能性可以有效地遏制虚假新闻在社交网络中的传播。我们的研究结果还强调，关于用户个人信仰和社交网络结构的信息对对手来说非常有价值，应该得到很好的保护。
---
分类信息：

一级分类：Computer Science        计算机科学
二级分类：Artificial Intelligence        人工智能
分类描述：Covers all areas of AI except Vision, Robotics, Machine Learning, Multiagent Systems, and Computation and Language (Natural Language Processing), which have separate subject areas. In particular, includes Expert Systems, Theorem Proving (although this may overlap with Logic in Computer Science), Knowledge Representation, Planning, and Uncertainty in AI. Roughly includes material in ACM Subject Classes I.2.0, I.2.1, I.2.3, I.2.4, I.2.8, and I.2.11.
涵盖了人工智能的所有领域，除了视觉、机器人、机器学习、多智能体系统以及计算和语言（自然语言处理），这些领域有独立的学科领域。特别地，包括专家系统，定理证明（尽管这可能与计算机科学中的逻辑重叠），知识表示，规划，和人工智能中的不确定性。大致包括ACM学科类I.2.0、I.2.1、I.2.3、I.2.4、I.2.8和I.2.11中的材料。
--
一级分类：Computer Science        计算机科学
二级分类：Multiagent Systems        多智能体系统
分类描述：Covers multiagent systems, distributed artificial intelligence, intelligent agents, coordinated interactions. and practical applications. Roughly covers ACM Subject Class I.2.11.
涵盖多Agent系统、分布式人工智能、智能Agent、协调交互。和实际应用。大致涵盖ACM科目I.2.11类。
--
一级分类：Computer Science        计算机科学
二级分类：Social and Information Networks        社会和信息网络
分类描述：Covers the design, analysis, and modeling of social and information networks, including their applications for on-line information access, communication, and interaction, and their roles as datasets in the exploration of questions in these and other domains, including connections to the social and biological sciences. Analysis and modeling of such networks includes topics in ACM Subject classes F.2, G.2, G.3, H.2, and I.2; applications in computing include topics in H.3, H.4, and H.5; and applications at the interface of computing and other disciplines include topics in J.1--J.7. Papers on computer communication systems and network protocols (e.g. TCP/IP) are generally a closer fit to the Networking and Internet Architecture (cs.NI) category.
涵盖社会和信息网络的设计、分析和建模，包括它们在联机信息访问、通信和交互方面的应用，以及它们作为数据集在这些领域和其他领域的问题探索中的作用，包括与社会和生物科学的联系。这类网络的分析和建模包括ACM学科类F.2、G.2、G.3、H.2和I.2的主题；计算应用包括H.3、H.4和H.5中的主题；计算和其他学科接口的应用程序包括J.1-J.7中的主题。关于计算机通信系统和网络协议（例如TCP/IP）的论文通常更适合网络和因特网体系结构（CS.NI）类别。
--
一级分类：Physics        物理学
二级分类：Physics and Society        物理学与社会
分类描述：Structure, dynamics and collective behavior of societies and groups (human or otherwise). Quantitative analysis of social networks and other complex networks. Physics and engineering of infrastructure and systems of broad societal impact (e.g., energy grids, transportation networks).
社会和团体（人类或其他）的结构、动态和集体行为。社会网络和其他复杂网络的定量分析。具有广泛社会影响的基础设施和系统（如能源网、运输网络）的物理和工程。
--
一级分类：Quantitative Finance        数量金融学
二级分类：Economics        经济学
分类描述：q-fin.EC is an alias for econ.GN. Economics, including micro and macro economics, international economics, theory of the firm, labor economics, and other economic topics outside finance
q-fin.ec是econ.gn的别名。经济学，包括微观和宏观经济学、国际经济学、企业理论、劳动经济学和其他金融以外的经济专题
--

---
PDF下载：
--> Fake_News_in_Social_Networks.pdf (426.44 KB)

2022-6-1 06:22:34 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：社交网络 Applications Intelligence Quantitative Presentation

社交网络中的虚假新闻Schristoph Aymanns*圣加仑大学，LSEJakob Foerster+牛津大学皮埃尔·乔治+开普敦大学德意志联邦银行该草案：2017年8月22日摘要我们将新闻传播建模为网络上的社交学习游戏。代理人可以支持或反对一条新闻中的声明，该声明本身可能是真的，也可能是假的。特工们的决定基于一个私人信号和他们邻居过去的行为。在这些输入下，代理遵循通过多代理深度强化学习得出的策略，并根据声明的准确性从行动中获得效用。我们的框架产生了代理效用接近理论上的Bayes最优基准的策略，同时简化了模型重新规范。优化的策略允许代理在所有代理接收到无偏见的私有信号时正确识别大多数虚假声明。然而，一个对手试图通过使用有偏见的私人信号将一部分特工作为目标来传播假新闻是可以成功的。当对手掌握了有关代理的网络位置或专用信号的信息时，情况更是如此。当代理意识到对手的存在时，他们会在训练阶段重新优化自己的策略，而对手的攻击效果较差。因此，让代理接触到虚假新闻的可能性可以有效地遏制虚假新闻在社交网络中的传播。我们的研究结果还强调，关于用户个人信仰和社交网络结构的信息对对手来说非常有价值，应该得到很好的保护。关键词：社会学习，网络，多智能体深度强化学习*通讯作者。

电子邮件：christoph。aymanns@gmail.com+电子邮件：jakob。foerster@cs.ox.ac.uk电子邮件：co pierre。georg@uct.ac.za1引言自美国国家情报局局长得出以下结论以来，社交网络上虚假新闻的传播引起了公众的极大关注“莫斯科的影响力运动（InfluenceCampaign）遵循俄罗斯的信息传递战略，将秘密情报行动（如网络活动）与俄罗斯政府机构、国家资助的媒体、第三方中介机构和付费社交媒体用户或“巨魔”（NationalIntelligence局长办公室（2017））的公开努力相结合。前国家情报局局长詹姆斯·克莱珀（JamesClapper）在参议院军事委员会（Senate Armed Services Committee on foreign cybersecurity threats）作证时表示，俄罗斯在2016年美国大选前夕利用“假新闻”散布假消息。一条出现在社交网络上的假新闻通常会对这个世界提出一些事实上是错误的，但并不明显是错误的，因此对其真实性存在一些不确定性。一旦发布，用户可能会喜欢、分享或评论这条新闻，以促进其在社交网络中的传播。那些兜售虚假新闻的人的目的可能是为了获得金钱利益，或者影响对世界状况的预期，例如在五角大楼的军事分析师计划中（巴斯托，2008年；Jowett和O\'Donnell，2015年）。一条明显虚假的假新闻可能很搞笑，也可能因为其喜剧价值而被分享。相反，一条虚假新闻试图说服用户相信事实上错误的说法，显然更令人担忧。Alice说，用户是否相信关于世界状态的特定目标，不仅取决于她关于世界状态的私人信息，因此也取决于声明的准确性，还取决于她的朋友在社交网络上的行为。

如果她的朋友Bob分享了这条消息并给出了积极的评论，Alice会将他的行为解释为支持这一说法的真实性。同样，鲍勃也可以表达他的反对意见。在决定索赔的真实性时，Alice将结合朋友的行为和她的私人信息做出判断。至关重要的是，在这个过程中，Alice的朋友不仅仅是新闻的被动中介，而是含蓄地向Alice传递关于他们对新闻立场的信息。在我们的基线规范中，我们假设用户关于世界现状的私人信息，因此索赔的准确性平均是正确的。也就是说，平均而言，用户只依赖自己的私人信息，就应该能够更经常地正确识别虚假新闻。与此同时，用户的信息并不完美，有时他们可能会爱上一条假新闻。在这种情况下，一个外部对手，如果他想影响公众舆论，支持一条假新闻，但只是自己在社交网络上发布这条新闻，那么他的努力可能会失败。为了成功进行攻击，对手必须说服社交网络上的用户认可这条假新闻。因此，在我们的攻击规范中，我们允许对手偏向一部分代理的私有信息。例如，这可以通过有针对性的广告来实现。然后，我们研究程式化社交网络对这种攻击的脆弱程度，并在本文中故意忽视政治观点及其在社交网络上的传播。相反，我们只关注那些可以明确归类为真或假的说法的传播。了解对手传播虚假新闻的情况如何可以减少这种漏洞。我们结合了经济学文献中标准社会学习模型的变体（见Mossel et al。

（2015年））随着多智能体强化学习的最新进展，尤其是深度Qlearning（DQN）来模拟智能体的决策过程。具体地说，在每个时期，代理人都可以支持或反对一项关于世界的主张，这种主张在一定概率内是真实的。代理人从支持真实和反对虚假的主张中获得正效用。代理的信息集包括其邻居在过去时期的行为，以及关于声明准确性的明确、嘈杂的信号。我们将每个代理表示为一个独立的递归深层神经网络，该网络通过深度Q学习进行训练（参见Foerster et al.（2016）），以找到一种策略，在给定其信息集的情况下使其效用最大化。我们的计算方法不同于解决社会学习模型的常用分析方法（参见Golub和Sadler（2016）；Mossel等人（2015年）），可大致分为两条线：贝叶斯学习和非贝叶斯学习。Firststrand，Bayesian learning，遵循Banerjee（1992）和Bikhchandani等人（1992）的模型，其中玩家在观察到私人信号和与其相关的分配代理的动作后，依次采取动作。另一个环节，非贝叶斯学习，遵循DeGroot（1974）的线性更新模型，玩家在汇总网络中所有邻居的决策后做出决策（关于这类模型的讨论，另见Molaviet al.（2017））。在我们的基线情况下，当代理接收到无偏信号并遵循通过强化学习优化的策略时，代理效用接近理论上的贝叶斯最优基准。虽然我们不能说Agent在通过强化学习优化策略后是Bayes最优的，但我们的结果表明Agent确实发现了合理的、接近最优的策略。

我们计算框架的灵活性使我们能够研究许多攻击规范，这些规范很难在贝叶斯学习框架中进行分析研究。因此，强化学习框架将计算模型的灵活性与合理、接近最优的代理行为的实际保证相结合。我们还指出，DQN已成功应用于各种复杂问题设置中，Mnih等人（2015）；Hausknecht和Stone（2015），在广泛的任务中发现高绩效战略。由于DQN是一种无模型方法，可以有效地利用并行计算，因此它可以应用于超出解析解领域或从aBayesian角度来看难以解决的环境。我们的计算方法的另一个优点是，我们能够充分描述代理的策略，而到目前为止，在社会学习的文献中，代理的策略仍然是非常抽象的。人口是否以及以多快的速度了解到经济的真实状况是一个重要的问题，在有关网络学习的文献中得到了广泛的研究（除其他外，请参见Golub和Jackson（2010））。存在着各种各样的结果，这些结果提供了一种条件，在没有试图操纵这些因素的情况下，人们可以在这种条件下了解世界的真实状态。与我们的论文更直接相关的是，Acemoglu et al.（2010）描述了对手如何干扰信息聚合。他们的是一个非贝叶斯学习模型，其中代理根据泊松过程会面，以交换有关世界潜在状态的信息。有两种类型的代理，常规代理和强制代理。当普通特工会面时，他们会将自己对世界状况的信念更新为这两种信念的平均值。

然而，当一个普通特工遇到一个强有力的特工时，就会出现1- ^2常规代理选择强势代理信仰的可能性。强有力的代理人以较小但积极的可能性更新他们的信念，因此与邻居进行非平凡的互动。虽然Acemoglu等人（2010年）也研究了错误信息的传播，但我们的模型允许更复杂的学习，而不是常规和有力的代理，我们有代理和一个外部对手。特别是，如上所述，代理使用的策略能够在没有攻击的情况下产生接近最优的性能。然而，此外，代理能够在攻击者在场的情况下重新优化其策略。要在分析性的贝叶斯设定中实现这一点，即使不是难以解决的，也是很困难的。我们的模型有几个实际意义。首先，我们证明，如果代理接受训练时知道对手的存在，那么他们会有不同的最优策略。当特工知道对手的存在时，对手传播虚假新闻的效果要差得多。这突出表明了教育用户认识到即使在看似合法的新闻媒体上发表的言论也可能是虚假的重要性。第二，我们表明，如果对手了解某个代理在社交网络中的位置及其私人信号，那么攻击就更有可能成功。因此，遏制虚假新闻传播的一个简单方法是让对手更难获得代理商的私人信息。2社交网络中的信息扩散和信念模型2.1模型的建立我们首先描述了我们的社交网络中的信息扩散模型，然后将信息学习作为解决模型的方法。

设G（N，E）为外生给定的有向图，该图定义了一个具有一组代理N和一组关系E的社交网络。我们对代理的二元行为ai进行建模∈ {0,1}在社交网络上，作为游戏时间步骤的结果，在游戏时间步骤中，代理人在每一段时间内都会获得积极回报，他们支持真实的主张或反对关于世界的虚假主张，否则为零。为简单起见，我们假设支持真实索赔或反对虚假索赔的回报是相同的。希拉里·克林顿（HillaryClinton）不诚实的说法就是我们感兴趣的这类说法的一个例子。形式上，关于这个世界只有一个说法，二元变量θ表示这个说法是对的还是错的∈ {0,1}. 如果这个说法是真的，那么θ=1，否则θ=0。为简单起见，虽然不失一般性，但我们假设该主张是正确的或错误的，概率相等。在时间T揭示了索赔θ的准确性。代理人i收到未观察到的阶段效用该设置类似于社会学习文献中研究的模型，例如Golub和Sadler（2016）；Mossel等人（2015年）。uit=1(c)ait=θa，用于她在时间t的行动。代理人旨在最大化她的总折扣Ui=PTt=1γtuitwithγ∈ （0,1）.具有（外）邻域Bi={j | j]的代理→ 我∈ E} 以隐匿状态打击为条件∈ rm是她的观测值xit的递归函数∈ R | Bi |+2时间t和状态历史命中-代理人的观察包括她的私人信号si~ N（θ，σ），在时间t=0时绘制，以及她自己和她邻居在最后一个时间步中的动作。即xit=（si，（ajt-1） j∈bBi），其中bBi=Bi∪ i是agent i的自增强邻域。

然后，Agent的隐藏状态根据运动定律演变hit=Hi（hit-1，xit），其中HI是一种使用门控递归单元（GRU）的递归神经网络（Choet al.，2014），这是长期短期记忆的一种流行替代方法（Hochreiter和Schmidhuber，1997）（LSTM）。隐藏状态允许代理保留过去事件的内存。粗略地说，随着隐藏状态向量维数m的增加，HI的内部参数数量增加，我们希望HIT能够编码更长的历史。有关神经网络实现的技术细节，请参见附录B。该代理被赋予状态动作值函数Qi:Rm×{0,1}7→ 在隐状态HIT和动作ait的条件下，测量预期贴现效用的R。然后，代理遵循^2贪婪策略来选择她的行为，使得ait=（argmaxaQi（hit，a）和p=1- ^2，a~ p=^2的U（{0,1}），其中选择的动作a是根据状态动作值函数得出的最佳动作或从离散均匀分布中提取的随机变量。如果^2=0，代理将始终选择使状态动作值函数最大化的动作，而对于^2>0，代理有时会偏离此策略，随机均匀地选择动作，即实验。在表1中，我们总结了模型的相关参数和深度Q学习的设置。请注意，由于计算限制，目前我们使用的代理数量相对有限，这可以通过充足的资源和此设置的分布式实现来克服。在此之前，我们不假设Qiand Hi的特定参数化。相反，它们被设置为一个深层神经网络，见LeCun等人（2015），可以通过强化学习进行训练，见Sutton和Barto（1998）；Mnih等人（2015年）和附录B对该方法进行了审查。

经过训练的函数QI近似于游戏的最佳状态动作值函数，而经过训练的函数则对agent i可用的游戏历史进行信息统计。虽然这些方法是近似的，但在本文所关注的环境中，它们产生的结果与最佳基准类似，如第3节所示。考虑到我们没有假定Qiand Hi的特定参数化，我们的分析分为两个阶段。首先，在培训阶段，我们使用强化学习来找到最大化每个代理的总折扣效用Ui的钱德-希特参数。这一阶段可以看作是代理发现接近最优策略的过程。在第二阶段，评估阶段，我们以所给的钱德海中编码的政策为例，研究代理人如何有效地利用私人和社会信息采取行动。这就是信息传播的过程。我们感兴趣的是外部对手可能会对其选择的代理人的私人信号产生偏见，从而影响代理人采取的行动。特别是，我们要问的是，这样的对手是否有能力推动代理人的行动支持虚假索赔或反对真实索赔。我们研究了三种情况，其中对手在选择影响的代理时可以访问不同的信息。在第一种情况下，对手没有关于代理的特定信息。在第二种情况下，对手知道代理在网络中的位置，在最后一种情况下，对手知道代理的私人信号的强度。2.2模型讨论我们的模型提出了一些假设，这些假设虽然是良性的，但值得讨论。首先，我们假设代理仅从支持真实新闻中获得效用，即支持虚假新闻的效用为零。代理商出于社会原因共享新闻，例如。