人类人工智能生态系统的经济学：价值偏差和效用损失

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《Economics of Human-AI Ecosystem: Value Bias and Lost Utility in
  Multi-Dimensional Gaps》
---
作者：
Daniel Muller
---
最新提交年份：
2018
---
英文摘要：
  In recent years, artificial intelligence (AI) decision-making and autonomous systems became an integrated part of the economy, industry, and society. The evolving economy of the human-AI ecosystem raising concerns regarding the risks and values inherited in AI systems. This paper investigates the dynamics of creation and exchange of values and points out gaps in perception of cost-value, knowledge, space and time dimensions. It shows aspects of value bias in human perception of achievements and costs that encoded in AI systems. It also proposes rethinking hard goals definitions and cost-optimal problem-solving principles in the lens of effectiveness and efficiency in the development of trusted machines. The paper suggests a value-driven with cost awareness strategy and principles for problem-solving and planning of effective research progress to address real-world problems that involve diverse forms of achievements, investments, and survival scenarios.
---
中文摘要：
近年来，人工智能（AI）决策和自治系统已成为经济、工业和社会的一个组成部分。人类人工智能生态系统不断发展的经济引起了人们对人工智能系统中继承的风险和价值观的关注。本文研究了价值创造和交换的动态，指出了在成本价值、知识、空间和时间维度的感知上的差距。它显示了人工智能系统中编码的人类对成就和成本的感知中的价值偏差方面。它还建议从可信机器开发的有效性和效率的角度重新思考硬目标定义和成本最优问题解决原则。本文提出了一种价值驱动的成本意识战略和原则，用于解决问题和规划有效的研究进展，以解决现实世界中涉及各种形式的成就、投资和生存场景的问题。
---
分类信息：

一级分类：Computer Science        计算机科学
二级分类：Artificial Intelligence        人工智能
分类描述：Covers all areas of AI except Vision, Robotics, Machine Learning, Multiagent Systems, and Computation and Language (Natural Language Processing), which have separate subject areas. In particular, includes Expert Systems, Theorem Proving (although this may overlap with Logic in Computer Science), Knowledge Representation, Planning, and Uncertainty in AI. Roughly includes material in ACM Subject Classes I.2.0, I.2.1, I.2.3, I.2.4, I.2.8, and I.2.11.
涵盖了人工智能的所有领域，除了视觉、机器人、机器学习、多智能体系统以及计算和语言（自然语言处理），这些领域有独立的学科领域。特别地，包括专家系统，定理证明（尽管这可能与计算机科学中的逻辑重叠），知识表示，规划，和人工智能中的不确定性。大致包括ACM学科类I.2.0、I.2.1、I.2.3、I.2.4、I.2.8和I.2.11中的材料。
--
一级分类：Economics        经济学
二级分类：General Economics        一般经济学
分类描述：General methodological, applied, and empirical contributions to economics.
对经济学的一般方法、应用和经验贡献。
--
一级分类：Quantitative Finance        数量金融学
二级分类：Economics        经济学
分类描述：q-fin.EC is an alias for econ.GN. Economics, including micro and macro economics, international economics, theory of the firm, labor economics, and other economic topics outside finance
q-fin.ec是econ.gn的别名。经济学，包括微观和宏观经济学、国际经济学、企业理论、劳动经济学和其他金融以外的经济专题
--

---
PDF下载：
-->

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：生态系统 人工智能 经济学 Achievements Intelligence

人类人工智能生态系统的经济学：多维GapsDaniel Mullert工业工程与管理技术学院-以色列理工学院，海法，Israelmullerdm@gmail.comAbstractIn近年来，人工智能（AI）决策和自治系统已成为经济、工业和社会的一个组成部分。人类人工智能生态系统不断发展的经济引起了人们对人工智能系统中继承的风险和价值观的关注。本文研究了价值创造和交换的动力学，指出了gapsin对成本价值、知识、空间和时间维度的感知。它显示了人工智能系统中编码的人类对成就和成本感知的价值偏差方面。它还建议从可信机器开发的有效性和效率的角度重新思考硬目标定义和成本最优问题解决原则。本文提出了一种价值驱动的成本意识策略和原则，用于解决问题和规划有效的研究进展，以解决现实世界中涉及不同形式的成就、投资和生存场景的问题。引言问题解决和规划是由有序决策选择和决策行动组成的决策过程（Kriger和Barnes 1992；Marwala 2015）。即时决策选择是组成决策动作的原子单元。决策理论规划是一种方法（Boutilier、Dean和Hanks，1999），用于解决由计划或政策产生的顺序决策问题。在确定性环境的假设下，行动过程是保证达到特定目标的计划。

更灵活的解决方案计划或政策框架是一种行动过程，具有预期的高效用，可满足不确定性场景，以及更复杂的目标结构和回报动态，以偏好值或效用函数表示。优化决策会导致全球效用最大化（DeGroot 2005；Berger 2013）。决策行为可以是理性的，也可以是非理性的。其次（Marwala 2015），我们将决策行为定义为合理的，如果它能够基于逻辑原则并从完整的相关信息中得出全局最优结果。基于不相关或不完整信息的决策是不合理的，不能保证对全局最优的指导。理性决策过程包括理性决策行为，整个过程在一段时间内得到优化，并导致全球效用最优（Gr¨une-Yanoff 2012；Marwala 2014；Marwala 2015）。如果是这样，理性决策只能在具有完整信息的确定性、完美世界中做出。然而，现实世界的情况更加复杂。并非总是能够分析所有可用的相关信息，以评估做出负责任决策所需的许可。例如，由于相关信息有限，具有不确定性的规划领域默认采用非理性决策过程来解决。考虑确定性超额认购计划（OSP）（Smith 2004；Van Den Briel et al.2004；Do and Kambhampati 2004；Van Den Briel，Sanchez and Kambhampati 2004；Nigenda and Kambhampati 2005；Benton 2006；Aghighi and Jonsson 2014；Do et al.2007；Domshlak and Mirkis 2015；Muller and Karpas 2018），处理可能的成果过度订阅到有限资源的领域。

这个问题在计算上具有挑战性，随着多值任意效用函数的过度实现，扩展到现实世界的复杂性，由于推理和利用相关信息的处理能力有限，数值效用值甚至在小范围内也具有挑战性。Aghighiand Jonsson（2014）对OSP问题进行了详细的复杂性分析。尽管问题在理论上具有确定性定义，但有限的计算能力不允许我们享受确定性。这一概念被称为有限理性（Simon 1957；Simon 1990；Simon 1991），并解释了基于不完全数据分析的非理性决策。（Marwala 2013）基于人工智能和机器数据分析的进步使理性的界限变得灵活的概念，将该术语扩展为灵活的有限理性。利用先进的信息分析方法，可以部分纠正信息的不完整性。（Marwala 2013）的一个重要观察结果是，理性是不可分割的，即使一个非理性行为也会使整个过程变得非理性，这就保证了非理性的最优化。应用一系列依赖动作的过程不能是部分理性和部分非理性的。相关信息的不完善会导致整个决策过程在时间或效用上具有次优的非理性。通过多值通用效用函数扩展到过度订阅计划，我们必须关注指数膨胀的挑战，即使在小任务中也是如此。

我们的方法基于（Marwala2013）的观察，即处理能力有限的丰富信息导致理性决策的有效信息不完整。DataInformationKnowledgeWisdomFigure 1:DIKW层次结构。DIKW层次结构（数据-信息-知识智慧）中建模的信息和知识的关系，如图1所示。一些研究认为，DIKW的起源于T.S.艾略特的诗歌《TheRock》（1934）。几年后，DIKW等级在研究文献中引起了关注（Zeleny 1987；Cooley 1980；Ackoff 1989）。Rowley（2007）的深入调查显示了对基本模型的一些观察和扩展。Ackoff（1989）在实践中为该理论提供了一个范例，通过一页纸的篇幅对DIKW层次结构组件与从数据中获取知识和智慧的过程中的有效性和效率方面的分析之间的关系进行了重新定义。关键概念如下：数据是表示对象和事件属性的符号信息是经过处理的数据，旨在提高其有用性（效用），简洁地描述数据知识是关于如何使用信息的说明理解是一种解释智力是提高效率的能力，而不是效率。信息、知识和理解构成智力智慧是提高效率、增加价值的能力，这需要判断功能。有效性是指评估的效率。在一个不完美的世界中，我们应该意识到我们允许缺失信息的范围及其与决策过程和将知识转化为行动的过程的相关性。

评价有效性的判断功能纯粹是通过将信息转化为行动而导致无意识的错误或犯罪。在组织管理文献中，KHiA“行动中的诀窍”（Swart 2011；Stri 2007；Cunliffe2008；Empson 2001）是将知识转化为行动的模型。有效的行动取决于有效的判断功能必须以知识为基础。行动的有效性因具体人员、地点和时间的不同而有所不同。知识作为一种静态资源，在一个时间地点通过行动在一个环境中创造价值（Swart 2011；Spender 1996）。在下文中，我们将合理性定义为评估效率的判断函数。价值效用和信任价值是一个与国家相关的术语，它量化了一些存在，如商品，社会的总信念，如金钱。伦理价值观是一个相互关联的社会关于原则或规范的集合概念。未来价值是上述潜在价值，是一种预期财富。由于一些原因，这些值是不可靠的；首先，社会是由个人构建的，个人的总价值相对公平，因为每个人在总价值上的权重不同。例如，货币价值和商品的衍生定价是其存在和可用性的函数。由于个人拥有不同数量的金钱，他们在评估中的表现也不同。虽然金额或价格已经过时，但从各自的角度来看，每个人对其的估价都不同。劳动理论认为，人们对价值的主观判断与他们为实现价值所遭受的麻烦有关。文献用效用术语阐述了主观评价的概念。在本文中，我们用效用来表示一个行动或过程对创造价值的有用性。

有用的行动或过程将对总价值产生净积极影响，而无用的行动或过程将对价值产生负面影响。我们区分两种类型的效用。生产过程的个人主观价值。2、生产过程的社会总价值。第一种类型的效用将被称为仅仅效用，以符合解释这一现象的传统术语。文献主要将行为的结果视为效用。边际效用一词涵盖了变化，并定义为随着一单位产品的增加而增加的收益。边际效用的定义足以在单个行动的层面上评估流程的局部进展，并观察其有用性。虽然这足以模拟某些经济方面，但它无法模拟价值动态变化的现实世界复杂性。实体经济涉及更为复杂的场景，而这些场景无法在局部进行边缘测量。例如，一项投资可以采取多种形式和策略，涉及多维价值动态；时间、地点、情感努力、调查努力等等。投资的性质是，他们从未来的角度出发，即在有限的资源下为更大的利益做出巨大的努力，并且应该负责任地进行规划。由于投资的时间和不确定性，一个可信的系统和社会成为一个重要问题。没有一个系统的信任，长期项目就无法完成，而有了一个短期而高效的自我集中项目，一个系统的分裂只是时间问题。人类人工智能生态系统，由个体和个体群体以及从属机器组成。从个人、当地和时间角度来看，个人会以最佳成本行事，而忽视长期影响。

当由人或有界理性机器执行时，成本最优是危险的，因为成本最优常常是以价值为代价实现的，无论是成本最优代理还是与之交互的其他代理。如果我们不能保证机器的完全合理性，那么必须重新审视成本最优策略，以获得超越非理性机器认知边界的价值。在这里，我们集中讨论两种经济错误，它们对任何计划建立信任的系统都至关重要。从经济学的角度来看，自主代理人或人力代理人价值维度成本维度社会的道德价值原则和规范道德成本声誉、价值交易、战争、背叛、犯罪金融价值货币、货币金融成本货币、货币知识“行动中的诀窍”、创造、生产力知识潜力未实现潜力、，获得和共享（如社会公益），获得但未计入价值（如被盗、丢失）劳动价值创造价值的潜力（不仅是财务上的，可以计入任何价值）劳动成本通常用金钱评估，但包括许多与人相关的问题，如动机和努力，例如，时间和更多情感价值可以被纳入动机，并通过它来创造任何价值情感成本意味着动机减少、生产力降低象征性价值物品、欲望、地点、传统，与记忆和信仰（与过去和未来相关）相关象征性成本失去希望、与社会的联系不稳定，个人时间价值可以作为新生产过程的成本进行投资生产过程的加速、旅行、测量、享受产品利益的机会、创造力、社会纽带时间成本所有可能发生但没有发生的，未维护的价值，都可以计入上述价值的减少。。。

...表1：如果成本和价值维度应用了以下价值错误，则它们是不真实的对自我行为的认知和认识上的错误，与全球系统及其个人价值的影响所处环境的原则相矛盾如果代理人不会犯下价值犯罪，即利用制度和价值差距进行套利，则代理人是可信任的。在下文中，我们将展示价值的几个维度，并分析维度间的差距或陷阱。成本和价值的隐藏维度最近的研究表明，人们对商品和活动的非货币评估很感兴趣（Poladian等人，2003年；Garrison、Mestre Ferrandiz和Zamora，2016年），提出了一个更为复杂和现实的价值方案。价值和成本的维度由社会或组织定义，不能用传统的货币术语来衡量。然后，价值的非货币维度被分离出来，并在不同的尺度上进行衡量。维度之间的动态从价值中创造价值，例如，知识的价值可以通过支付表1中所述的所有价值中的成本来创造，这些价值被纳入知识，这与传统的财务价值和成本不同，传统的财务价值和成本是以相同的货币条件支付和获得的。当对道德和公平进行讨论时，这些维度必须分开，不能用不同的术语来对待，也不能主观上作为效用术语来对待，这将在下一节中讨论。钻石水悖论效用是从个人角度对他从特定价值中获得的财富进行的主观评估。史密斯（Smith1776）提出的价值（和效用）悖论；最有使用价值的东西通常很少或没有交换价值；相反，那些在交换中具有最大价值的人通常很少或没有使用价值。

没有什么比水更有用的了：但它几乎买不到任何东西；几乎没有任何东西可以用来交换它。相反，钻石在使用中几乎没有任何价值；但是，可能经常会有大量其他货物作为交换。价值的劳动理论（Farber、Costanza和Wilson，2002）通过解释人们想要的一切的成本与满足需求的相对困难来解决这一矛盾，而困难可以不同，如图2所示。注意，自治、人工智能和信息系统产生了表2中列出的一些实用程序类型。例如，互联网的发展与移动电话的发展相结合，移动电话的发展是通过不同类型的公用设施形成的。连接互联网的移动电话解决了许多我们想要的东西的问题。同时，同一部手机是工作日在工作时间之后继续的原因，这是可用性的双重性。价值偏见和失去的效用价值的维度和不同类型的效用、价值的主观性和有限理性创造了gapsin对价值交换和创造的感知。差距会带来风险、错误和机会，这取决于观察者和差距的主体。从社会的角度来看，个人的良好道德行为是弥合差距的。弥合差距，避免个人套利，创造价值驱动的进步，避免套利。社会的不良行为是个人利用差距进行自我集中套利。从个人角度来看，套利是一种无成本或无风险的简单价值回报。