楼主: Studio-R
1768 25

[智能设备与机器人] 一个故意不通过图灵测试的人工智能(一) [推广有奖]

  • 2关注
  • 3粉丝

博士生

51%

还不是VIP/贵宾

-

威望
0
论坛币
113 个
学术水平
10 点
热心指数
12 点
信用等级
9 点
经验
2665 点
帖子
136
精华
1
在线时间
72 小时
注册时间
2016-11-3
最后登录
2017-8-17

Studio-R 发表于 2017-8-12 13:52:05 |显示全部楼层
人工智能很可能导致人类的永生或者灭绝,而这一切很可能在我们的有生之年发生。


上面这句话不是危言耸听,请耐心的看完本文再发表意见。这篇翻译稿翻译完一共三万五千字,我从上星期开始翻,熬了好几个夜才翻完,因为我觉得这篇东西非常有价值。希望你们能够耐心读完,读完后也许你的世界观都会被改变。

======================

内容翻译自http://waitbutwhy.com
原文地址:
The AI Revolution: Road to Superintelligence
The AI Revolution: Our Immortality or Extinction
转载请保留原文链接和翻译者 知乎 @谢熊猫君
=======================


我们正站在变革的边缘,而这次变革将和人类的出现一般意义重大 – Vernor Vinge

如果你站在这里,你会是什么感觉?

1.png


看上去非常刺激吧?但是你要记住,当你真的站在时间的图表中的时候,你是看不到曲线的右边的,因为你是看不到未来的。所以你真实的感觉大概是这样的:

2.png

稀松平常。

-------------------------------



遥远的未来——就在眼前

想象一下坐时间机器回到1750年的地球,那个时代没有电,畅通通讯基本靠吼,交通主要靠动物拉着跑。你在那个时代邀请了一个叫老王的人到2015年来玩,顺便看看他对“未来”有什么感受。我们可能没有办法了解1750年的老王内心的感受——金属铁壳在宽敞的公路上飞驰,和太平洋另一头的人聊天,看几千公里外正在发生进行的体育比赛,观看一场发生于半个世纪前的演唱会,从口袋里掏出一个黑色长方形工具把眼前发生的事情记录下来,生成一个地图然后地图上有个蓝点告诉你现在的位置,一边看着地球另一边的人的脸一边聊天,以及其它各种各样的黑科技。别忘了,你还没跟他解释互联网、国际空间站、大型强子对撞机、核武器以及相对论。

这时候的老王会是什么体验?惊讶、震惊、脑洞大开这些词都太温顺了,我觉得老王很可能直接被吓尿了。

但是,如果老王回到了1750年,然后觉得被吓尿是个很囧的体验,于是他也想把别人吓尿来满足一下自己,那会发生什么?于是老王也回到了250年前的1500年,邀请生活在1500年的小李去1750年玩一下。小李可能会被250年后的很多东西震惊,但是至少他不会被吓尿。同样是250来年的时间,1750和2015年的差别,比1500年和1750年的差别,要大得多了。1500年的小李可能能学到很多神奇的物理知识,可能会惊讶于欧洲的帝国主义旅程,甚至对于世界地图的认知也会大大的改变,但是1500年的小李,看到1750年的交通、通讯等等,并不会被吓尿。

所以说,对于1750年的老王来说,要把人吓尿,他需要回到更古老的过去——比如回到公元前12000年,第一次农业革命之前。那个时候还没有城市,也还没有文明。一个来自狩猎采集时代的人类,只是当时众多物种中的一个罢了,来自那个时代的小赵看到1750年庞大的人类帝国,可以航行于海洋上的巨舰,居住在“室内”,无数的收藏品,神奇的知识和发现——他很有可能被吓尿。

小赵被吓尿后如果也想做同样的事情呢?如果他会到公元前24000年,找到那个时代的小钱,然后给他展示公元前12000年的生活会怎样呢。小钱大概会觉得小赵是吃饱了没事干——“这不跟我的生活差不多么,呵呵”。小赵如果要把人吓尿,可能要回到十万年前或者更久,然后用人类对火和语言的掌控来把对方吓尿。

所以,一个人去到未来,并且被吓尿,他们需要满足一个“吓尿单位”。满足吓尿单位所需的年代间隔是不一样的。在狩猎采集时代满足一个吓尿单位需要超过十万年,而工业革命后一个吓尿单位只要两百多年就能满足。

未来学家Ray Kurzweil把这种人类的加速发展称作加速回报定律(Law of Accelerating Returns)。之所以会发生这种规律,是因为一个更加发达的社会,能够继续发展的能力也更强,发展的速度也更快——这本就是更加发达的一个标准。19世纪的人们比15世纪的人们懂得多得多,所以19世纪的人发展起来的速度自然比15世纪的人更快。

即使放到更小的时间规模上,这个定律依然有效。著名电影《回到未来》中,生活在1985年的主角回到了1955年。当主角回到1955年的时候,他被电视刚出现时的新颖、便宜的物价、没人喜欢电吉他、俚语的不同而震惊。

但是如果这部电影发生在2015年,回到30年前的主角的震惊要比这大得多。一个2000年左右出生的人,回到一个没有个人电脑、互联网、手机的1985年,会比从1985年回到1955年的主角看到更大的区别。

这同样是因为加速回报定律。1985年-2015年的平均发展速度,要比1955年-1985年的平均发展速度要快,因为1985年的世界比1955年的更发达,起点更高,所以过去30年的变化要大过之前30年的变化。

进步越来越大,发生的越来越快,也就是说我们的未来会很有趣对吧?

未来学家Kurzweil认为整个20世纪100年的进步,按照2000年的速度只要20年就能达成——2000年的发展速度是20世纪平均发展速度的5倍。他认为2000年开始只要花14年就能达成整个20世纪一百年的进步,而之后2014年开始只要花7年(2021年),就能达到又一个20世纪一百年的进步。几十年之后,我们每年都能达成好几次相当于整个20世纪的发展,再往后,说不定每个月都能达成一次。按照加速回报定,Kurzweil认为人类在21世纪的进步将是20世纪的1000倍。

如果Kurzweil等人的想法是正确的,那2030年的世界可能就能把我们吓尿了——下一个吓尿单位可能只需要十几年,而2050年的世界会变得面目全非。

3.png

你可能觉得2050年的世界会变得面目全非这句话很可笑,但是这不是科幻,而是比你我聪明很多的科学家们相信的,而且从历史来看,也是逻辑上可以预测的。

那么为什么你会觉得“2050年的世界会变得面目全非” 这句话很可笑呢?有三个原因让你质疑对于未来的预测:

1. 我们对于历史的思考是线性的。当我们考虑未来35年的变化时,我们参照的是过去35年发生的事情。当我们考虑21世纪能产生的变化的时候,我们参考的是20世纪发生的变化。这就好像1750年的老王觉得1500年的小李在1750年能被吓尿一样。线性思考是本能的,但是但是考虑未来的时候我们应该指数地思考。一个聪明人不会把过去35年的发展作为未来35年的参考,而是会看到当下的发展速度,这样预测的会更准确一点。当然这样还是不够准确,想要更准确,你要想象发展的速度会越来越快。
4.png

2. 近期的历史很可能对人产生误导。首先,即使是坡度很高的指数曲线,只要你截取的部分够短,看起来也是很线性的,就好像你截取圆周的很小一块,看上去就是和直线差不多。其次,指数增长不是平滑统一的,发展常常遵循S曲线。
5.png

S曲线发生在新范式传遍世界的时候,S曲线分三部分

- 慢速增长(指数增长初期)

- 快速增长(指数增长的快速增长期)

- 随着新范式的成熟而出现的平缓期

如果你只看近期的历史,你很可能看到的是S曲线的某一部分,而这部分可能不能说明发展究竟有多快速。1995-2007年是互联网爆炸发展的时候,微软、谷歌、脸书进入了公众视野,伴随着的是社交网络、手机的出现和普及、智能手机的出现和普及,这一段时间就是S曲线的快速增长期。2008-2015年发展没那么迅速,至少在技术领域是这样的。如果按照过去几年的发展速度来估计当下的发展速度,可能会错得离谱,因为很有可能下一个快速增长期正在萌芽。

3. 个人经验使得我们对于未来预期过于死板。我们通过自身的经验来产生世界观,而经验把发展的速度烙印在了我们脑中——“发展就是这么个速度的。”我们还会受限于自己的想象力,因为想象力通过过去的经验来组成对未来的预测——但是我们知道的东西是不足以帮助我们预测未来的。当我们听到一个和我们经验相违背的对于未来的预测时,我们就会觉得这个预测偏了。如果我现在跟你说你可以活到150岁,250岁,甚至会永生,你是不是觉得我在扯淡——“自古以来,所有人都是会死的。”是的,过去从来没有人永生过,但是飞机发明之前也没有人坐过飞机呀。


接下来的内容,你可能一边读一边心里“呵呵”,而且这些内容可能真的是错的。但是如果我们是真的从历史规律来进行逻辑思考的,我们的结论就应该是未来的几十年将发生比我们预期的多得多得多得多的变化。同样的逻辑也表明,如果人类这个地球上最发达的物种能够越走越快,总有一天,他们会迈出彻底改变“人类是什么”这一观点的一大步,就好像自然进化不不断朝着智能迈步,并且最终迈出一大步产生了人类,从而完全改变了其它所有生物的命运。如果你留心一下近来的科技进步的话,你会发现,到处都暗示着我们对于生命的认知将要被接下来的发展而彻底改变。



通往超级智能之路

人工智能是什么?

如果你一直以来把人工智能(AI)当做科幻小说,但是近来却不但听到很多正经人严肃的讨论这个问题,你可能也会困惑。这种困惑是有原因的:

1.我们总是把人工智能和电影想到一起。星球大战、终结者、2001:太空漫游等等。电影是虚构的,那些电影角色也是虚构的,所以我们总是觉得人工智能缺乏真实感。


2.人工智能是个很宽泛的话题。从手机上的计算器到无人驾驶汽车,到未来可能改变世界的重大变革,人工智能可以用来描述很多东西,所以人们会有疑惑。


3.我们日常生活中已经每天都在使用人工智能了,只是我们没意识到而已。John McCarthy,在1956年最早使用了人工智能(Artificial Intelligence)这个词。他总是抱怨“一旦一样东西用人工智能实现了,人们就不再叫它人工智能了。”

因为这种效应,所以人工智能听起来总让人觉得是未来的神秘存在,而不是身边已经存在的现实。同时,这种效应也让人们觉得人工智能是一个从未被实现过的流行理念。Kurzweil提到经常有人说人工智能在80年代就被遗弃了,这种说法就好像“互联网已经在21世纪初互联网泡沫爆炸时死去了”一般滑稽。

所以,让我们从头开始。


首先,不要一提到人工智能就想着机器人。机器人只是人工智能的容器,机器人有时候是人形,有时候不是,但是人工智能自身只是机器人体内的电脑。人工智能是大脑的话,机器人就是身体——而且这个身体不一定是必需的。比如说Siri背后的软件和数据是人工智能,Siri说话的声音是这个人工智能的人格化体现,但是Siri本身并没有机器人这个组成部分。

其次,你可能听过“奇点”或者“技术奇点”这种说法。这种说法在数学上用来描述类似渐进的情况,这种情况下通常的规律就不适用了。这种说法同样被用在物理上来描述无限小的高密度黑洞,同样是通常的规律不适用的情况。Kurzweil则把奇点定义为加速回报定律达到了极限,技术进步以近乎无限的速度发展,而奇点之后我们将在一个完全不同的世界生活的。但是当下的很多思考人工智能的人已经不再用奇点这个说法了,而且这种说法很容易把人弄混,所以本文也尽量少用。

最后,人工智能的概念很宽,所以人工智能也分很多种,我们按照人工智能的实力将其分成三大类。

弱人工智能Artificial Narrow Intelligence (ANI): 弱人工智能是擅长于单个方面的人工智能。比如有能战胜象棋世界冠军的人工智能,但是它只会下象棋,你要问它怎样更好地在硬盘上储存数据,它就不知道怎么回答你了。

强人工智能Artificial General Intelligence (AGI): 人类级别的人工智能。强人工智能是指在各方面都能和人类比肩的人工智能,人类能干的脑力活它都能干。创造强人工智能比创造弱人工智能难得多,我们现在还做不到。Linda Gottfredson教授把智能定义为“一种宽泛的心理能力,能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作。”强人工智能在进行这些操作时应该和人类一样得心应手。

超人工智能Artificial Superintelligence (ASI): 牛津哲学家,知名人工智能思想家Nick Bostrom把超级智能定义为“在几乎所有领域都比最聪明的人类大脑都聪明很多,包括科学创新、通识和社交技能。”超人工智能可以是各方面都比人类强一点,也可以是各方面都比人类强万亿倍的。超人工智能也正是为什么人工智能这个话题这么火热的缘故,同样也是为什么永生和灭绝这两个词会在本文中多次出现。


现在,人类已经掌握了弱人工智能。其实弱人工智能无处不在,人工智能革命是从弱人工智能,通过强人工智能,最终到达超人工智能的旅途。这段旅途中人类可能会生还下来,可能不会,但是无论如何,世界将变得完全不一样。

让我们来看看这个领域的思想家对于这个旅途是怎么看的,以及为什么人工智能革命可能比你想的要近得多。


我们现在的位置——充满了弱人工智能的世界

弱人工智能是在特定领域等同或者超过人类智能/效率的机器智能,一些常见的例子:

  • 汽车上有很多的弱人工智能系统,从控制防抱死系统的电脑,到控制汽油注入参数的电脑。谷歌正在测试的无人驾驶车,就包括了很多弱人工智能,这些弱人工智能能够感知周围环境并作出反应。
  • 你的手机也充满了弱人工智能系统。当你用地图软件导航,接受音乐电台推荐,查询明天的天气,和Siri聊天,以及其它很多很多应用,其实都是弱人工智能。
  • 垃圾邮件过滤器是一种经典的弱人工智能——它一开始就加载了很多识别垃圾邮件的智能,并且它会学习并且根据你的使用而获得经验。智能室温调节也是一样,它能根据你的日常习惯来智能调节。
  • 你在上网时候出现的各种其它电商网站的产品推荐,还有社交网站的好友推荐,这些都是弱人工智能的组成的,弱人工智能联网互相沟通,利用你的信息来进行推荐。网购时出现的“买这个商品的人还购买了”推荐,其实就是收集数百万用户行为然后产生信息来卖东西给你的弱人工智能。
  • 谷歌翻译也是一种经典的人工智能——非常擅长单个领域。声音识别也是一种。很多软件利用这两种智能的合作,使得你能对着手机说中文,手机直接给你翻译成英文。
  • 当飞机着陆时候,不是一个人类决定飞机该去那个登机口接驳。就好像你在网上买票时票据不是一个人类决定的。
  • 世界最强的跳棋、象棋、拼字棋、双陆棋和黑白棋选手都是弱人工智能。
  • 谷歌搜索是一个巨大的弱人工智能,背后是非常复杂的排序方法和内容检索。社交网络的新鲜事同样是这样。
  • 这些还只是消费级产品的例子。军事、制造、金融(高频算法交易占到了美国股票交易的一半)等领域广泛运用各种复杂的弱人工智能。专业系统也有,比如帮助医生诊断疾病的系统,还有著名的IBM的华生,储存了大量事实数据,还能理解主持人的提问,在竞猜节目中能够战胜最厉害的参赛者。

现在的弱人工智能系统并不吓人。最糟糕的情况,无非是代码没写好,程序出故障,造成了单独的灾难,比如造成停电、核电站故障、金融市场崩盘等等。

虽然现在的弱人工智能没有威胁我们生存的能力,我们还是要怀着警惕的观点看待正在变得更加庞大和复杂的弱人工智能的生态。每一个弱人工智能的创新,都在给通往强人工智能和超人工智能的旅途添砖加瓦。用Aaron Saenz的观点,现在的弱人工智能,就是地球早期软泥中的氨基酸——没有动静的物质,突然之间就组成了生命。

(未完)


连载贴:
一个故意不通过图灵测试的人工智能(二):http://bbs.pinggu.org/thread-5916034-1-1.html
一个故意不通过图灵测试的人工智能(三):http://bbs.pinggu.org/thread-5916036-1-1.html
一个故意不通过图灵测试的人工智能(四):http://bbs.pinggu.org/thread-5916042-1-1.html
一个故意不通过图灵测试的人工智能(五):http://bbs.pinggu.org/thread-5916044-1-1.html
一个故意不通过图灵测试的人工智能(六):http://bbs.pinggu.org/thread-5916045-1-1.html
一个故意不通过图灵测试的人工智能(七):http://bbs.pinggu.org/thread-5916055-1-1.html



关键词:人工智能 生命 代码

支持楼主:购买VIP购买贵宾 购买后,论坛将把您花费的资金全部奖励给楼主,以表示您对TA发好贴的支持
 
载入中......

回帖推荐

owlskipjack 发表于25楼  查看完整内容

如果人工智能走向高度集成,一旦产生涌现性,可能产业可怕的后果,当然也可能出现好事儿…… 中国人发明火药用来做烟花,传到国外就造出了热兵器发动战争; 原子裂变技术可以用来建核电站,但也可用以制造核弹…… 转基因同理…… 科学技术发展的道德问题……

蓝翼星海 发表于24楼  查看完整内容

感觉弱人工智能走到极致就会出现强人工智能,类似于集智,或者说涌现性,细思恐极。。。。

yuluo1238410595 发表于22楼  查看完整内容

现在的技术已经可以到达超智能了,只是有些技术没有公开

共同关注 发表于8楼  查看完整内容

【书童】华科-ML-基础:相对于文中人工智能可能,可能星球崛起会让我觉得更现实一点,没对一个学科的基本方法,原理,现在的发展,技术难题,未来的方向有一个清晰认识,就这出一篇这样的文章,只能说是杞人忧天,在生物科学领域,人类没真正理解脑科学,神经科学,生命科学,什么真正的人工智能的实现都是微乎其微。

开心果xxx 发表于3楼  查看完整内容

或者人类成为机器的奴隶,统治者更喜欢用机器统治社会。没有货币的社会,每个人都没有自由,都在控制中!
已有 5 人评分经验 论坛币 学术水平 热心指数 信用等级 收起 理由
我的素质低 + 100 精彩帖子
aclyang + 40 精彩帖子
remlus + 100 精彩帖子
guo.bailing + 80 精彩帖子
czwujia + 5 + 1 + 1 + 1 精彩帖子

总评分: 经验 + 280  论坛币 + 45  学术水平 + 1  热心指数 + 1  信用等级 + 1   查看全部评分

东方祥 发表于 2017-8-12 15:42:32 |显示全部楼层
《人工智能》连载贴:
一个故意不通过图灵测试的人工智能(一):http://bbs.pinggu.org/thread-5916030-1-1.html
一个故意不通过图灵测试的人工智能(二):http://bbs.pinggu.org/thread-5916034-1-1.html
一个故意不通过图灵测试的人工智能(三):http://bbs.pinggu.org/thread-5916036-1-1.html
一个故意不通过图灵测试的人工智能(四):http://bbs.pinggu.org/thread-5916042-1-1.html
一个故意不通过图灵测试的人工智能(五):http://bbs.pinggu.org/thread-5916044-1-1.html
一个故意不通过图灵测试的人工智能(六):http://bbs.pinggu.org/thread-5916045-1-1.html
一个故意不通过图灵测试的人工智能(七):http://bbs.pinggu.org/thread-5916055-1-1.html
回复

使用道具 举报

开心果xxx 发表于 2017-8-12 18:20:13 |显示全部楼层
或者人类成为机器的奴隶,统治者更喜欢用机器统治社会。没有货币的社会,每个人都没有自由,都在控制中!

回复

使用道具 举报

太史公 发表于 2017-8-12 19:59:43 来自手机 |显示全部楼层
Studio-R 发表于 2017-8-12 13:52
人工智能很可能导致人类的永生或者灭绝,而这一切很可能在我们的有生之年发生。


谢谢分享
回复

使用道具 举报

Charlie·T 发表于 2017-8-12 20:22:20 |显示全部楼层
感谢!非线性的未来
回复

使用道具 举报

shangxuan000 发表于 2017-8-12 21:39:58 |显示全部楼层
好贴,必须支持!
回复

使用道具 举报

coshadow 发表于 2017-8-12 22:08:02 |显示全部楼层
不明觉厉
回复

使用道具 举报

共同关注 发表于 2017-8-12 22:47:15 |显示全部楼层
【书童】华科-ML-基础:相对于文中人工智能可能,可能星球崛起会让我觉得更现实一点,没对一个学科的基本方法,原理,现在的发展,技术难题,未来的方向有一个清晰认识,就这出一篇这样的文章,只能说是杞人忧天,在生物科学领域,人类没真正理解脑科学,神经科学,生命科学,什么真正的人工智能的实现都是微乎其微。
已有 1 人评分经验 学术水平 收起 理由
东方祥 + 20 + 2 精彩帖子

总评分: 经验 + 20  学术水平 + 2   查看全部评分

回复

使用道具 举报

h_y_zhou163 发表于 2017-8-13 02:20:24 来自手机 |显示全部楼层
谢谢分享
回复

使用道具 举报

fingercain 发表于 2017-8-13 05:53:12 |显示全部楼层
没有货币的社会,每个人都没有自由,都在控制中!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 我要注册

GMT+8, 2017-8-17 23:39