发帖
雷达卡
AI威胁论：科技还在人类的控制之中吗？
瑞典有一个叫做 Nick Bostrom 的哲学家，是个不折不扣的蛇精病。他的“末日论”有一个版本是这样的：有一个机器人，它非常聪明，但只是被设计用来做“回形针”（好像有点大材小用了）。后来它越来越聪明，越来越强大，就像“奥创”那样。但是它没有进化出人类的价值观。最终它把所有东西都制作成“回形针”——包括人类！！！地球上的东西都被做成回形针之后，它开始把目标转向其他星球。
像 Bostrom 这种“人工智能、世界末日、机器消灭人类”的论调在科技界已经成为主流。连史蒂芬·霍金都在担忧这件事。比尔盖茨和马斯克已经捐出了1000万美元，用来作为预防人工智能危害的基金。
这背后其实是反映了一些问题：科技已经深深的渗透进人们的生活中，但人们不一定能 Hold 得住科技。
现在电脑已经可以操控飞机了，用不了几年，连汽车也能控制。大数据可以预测我们的消费偏好，然后向我们展示对应的广告。电脑可以自己生成一篇新闻。甚至，在茫茫人海中，电脑通过人脸识别准确地辨认出你的脸。这些事情将来会产生什么样的后果？还在人类的掌控之中吗？
奇点：机器超过人类的临界点
谈到机器人，很多人会想到阿西莫夫的“三大定律”：“机器人永远都不得伤害人类...Bla Bla”。不过比“三大定律”更为让人津津乐道的是一个叫做“奇点”的东西。
英国数学家、解码员 I.J.GOOD 曾留下这样一句话：“超智能机器人将能够自行创造别的机器人，甚至能创造出比自身更强大的机器人；那将毫无疑问地引来‘智能大爆发’，等到了那时候，它们的智慧将远远地把人类甩在后面。”后来科幻小说作家 Vernor Vinge 把它命名为“奇点”。
除了“奇点”之外，还有一种观点，认为人类和机器人最终将融合，所有人将成为“半机械人”。不过在 Bostrom 看来，不论哪种观点，结局都是悲观的。
比如“机器人永远不得伤害人类”，最终机器人发现，这几乎是不可能的，唯一可行的方法就是不让任何的人类再出生！
又或者……设计师把机器人设定为“不管做什么，都要让人类微笑”。那么它们可能会选择在人类的面部肌肉中植入电极管，来让人类“永远”保持微笑。
科技的发展让人类一下子打破了大自然的限制，现在看起来我们还能控制局面，但是科技真的还在人类的掌控之中吗？
与科技赛跑：让人类 Hold 住未来
还有一个瑞典人，名字叫 Max Tegmark。他不是什么蛇精病哲学家，而是物理学教授。马斯克曾资助它进行 AI 的安全性研究。
Tegmark 是一个“激进分子”，他经常脑洞一些世界末日的方法：比如利用大型强子对撞机来创造一个小型黑洞，用来吞噬整个地球？又或者能否创造一个‘奇异物质’来催化地球，使其转变成奇异夸克物质？
他认为人类目前处在一个与科技赛跑的竞赛中，关键在于我们能否赢得最终对科技的控制权。
1975年科学家们在加州的艾斯罗马召开了基因重组研究会，该场会议最终促成了针对基因重组的安全措施。2014年，大约有70名科学家和学者，在 Tegmark 的邀请下聚集到波多黎各进行关于现存机器智能威胁的讨论。
此后，有300多只研究团队提交了各种各样的方案来降低AI的威胁。Tegmark 说他们发放了37份奖金，总计700万美元。
人类 VS 机器人
其实很多 AI 研究者认为科技界的焦虑是多余的。人工智能的研究非常复杂且进展缓慢，“奇点”也许不是一个时间点，可能是长达几十年的时间。
Daniela Rus 是自动驾驶汽车的研发人员。真正世界的交通环境太复杂了，汽车和行人混杂在一起，还夹杂着各式各样的标志，这些标志都是机器无法理解的。如果碰到堵车或者雨雪天气，根本处理不了，还得辨识交警和其他司机的手势。
这些事情是一个系统工程，需要更先进的传感器，更强的处理器和计算能力，还有软件工程师编写更高级的算法。
还有很长的路要走。也许我们有足够的时间来消重隐患。
机器人也许不是太聪明而是太傻了
我们在一个科技社会里，但其实科技是很脆弱的，通常因为一些未知的 Bug 而挂掉。回忆一下那些大的事故：深水油井一旦失火，需要花费好几个月才能扑灭。核反应堆也有可能随时崩塌。火箭也有可能爆炸。
由于科技系统越来越复杂，以至于没有一个人能搞懂它们究竟是怎么运行的。机器在无认监管的状态下，很容易出错，酿成大祸。
比如在股市上的自动交易系统经常会出现“乌龙指”，2010年的某一天琼斯工业指数突然暴跌1000点就是程序化交易产生的连锁反应。
也许未来机器人杀人不是因为它想杀了你，而是出Bug了。
取缔自动型武装机器人
虽然现在有很多问题科学家们还在争论中，不过有一件事情却是赶紧要做的：取缔自动武装机器人！
自动武装机器人离我们并不远。人们可以研究无人驾驶汽车，但是无人驾驶的坦克、装甲车是必须禁止的。自动巡航的无人机可以进行航拍或侦查，但无人战斗机是必须禁止的。
2014年7月28日，在布宜诺斯艾利斯的AI会议上，马斯克、Tegmark等人呼吁禁止自动型武装机器人的联名公开信正式被呈出来。
让脑洞再开一点
回到那个瑞典的疯子哲学家 Bostrom，他认为如果人类无法发明比人类更聪明的智能机器人，那么地球文明也挺失败的。
在他看来，地球就像一个小岩石，围绕着一颗普通的恒星，而这个恒星只不过是整个银河旋臂中成千上万颗恒星中的一颗。而在宇宙中的银河数目，又岂止数百亿。
人工智能的发明，使探索更广大的宇宙成为了可能，也提供了殖民宇宙的可能。我们可以把人类的智慧输入到电脑中保存起来，这样不同星际、星球的文明都可以保存上数十亿年。
宇宙这么大，肯定应该有一些高级文明已经掌握了无穷的计算能力，他们有能力创造一个虚拟宇宙！这个虚拟宇宙能够精确地模拟出人类意识，同时复刻出人类的记忆。那么我们很有可能就生活在一个由机器所创造出来的虚拟宇宙中！
Geek's view
也许在人工智能不受控制之前，人们早就掌握了控制之法，或者像胚胎克隆那样被严格禁止。毕竟人类发展至今几千年里，有一万种毁灭世界的可能性，但他们都没发生，可以说是我们比较幸运，也可以说是必然的。那么假如有一天机器人消灭人类，可能是运气用完了，抑或是必然的。
提升卡
置顶卡
沉默卡
变色卡
抢沙发
千斤顶
显身卡
京公网安备 11010802022788号
