发帖
雷达卡
机器人伤人事件：机器人该说“对不起”吗
最近，网络盛传，深圳高交会上发生“全国首例机器人伤人事件”，名叫“小胖”的机器人突发故障“杀伤力爆棚”，在没有指令的情况下自行打砸展台玻璃、砸伤路人，一位路人全身多处划伤后被担架抬走。不过随后，涉事企业澄清，事故原因是工作人员的误操作。
与此类似，去年德国大众工厂发生“机器人杀人事件”，最终发现事故原因是安装机器人和机器臂的专业人士，在工作期间违反了安全规定。
将人工操作失误误解为“机器人伤人”，不经意间表露出人们对技术飞速发展带来的不确定性的担忧。
自科学史有记载以来，科技的进步，常伴随着警觉和忧虑。上世纪80年代末，基耶斯洛夫斯基的电影《十诫》直白地呈现了技术的“报复”。电影中，小巴伯的父亲迷恋电子技术，相信电脑方程式运算可以解决一切问题。当小巴伯按照父亲的教导，在滑冰之前问电脑“冰面厚度是否可以撑住自己”时，电脑的回答是“YES”。而正当巴伯欢快玩耍时，冰面破了，巴伯葬身湖底。
科学让人类得以认识世界，技术让人类得以改造世界，由此，人类一步步从必然王国走向自由王国，获得随心所欲的能力和资本。然而，世界是复杂系统，系统中一个要素的变化，会引发意想不到的连锁反应。
除草剂的发明，减少了农民的劳动投入，却带来了生态危害；抗生素的使用，拯救了濒临死亡的生命，却可能促成超级细菌的诞生；移动互联的推广，让世界触手可及，却也让近在咫尺的人丢失了交谈的欲望。
技术的进步是人类文明的光辉，而有光的地方必有阴影。20世纪中叶，经济飞速发展，技术不断进步，人类几乎成为世界的主宰。正当世界沉迷于技术的乐观主义时，爱德华·墨菲泼出了一盆“冷水”：凡是可能出错的事有很大几率会出错。
但是，这是技术的错，还是人的错？这一次，机器人该说“对不起”吗？
在笔者看来，技术无罪，因为技术的“报复”往往是在人类不合理利用的条件下发生的。
我们不能因噎废食，因为人在使用技术时犯了错，就将罪责强加于技术本身，遏制技术的研发，更不能因此纵容伪科学甚至反科学的论调。
如今，我们处在又一轮技术狂欢中。面对发展中的技术，我们应当心态开放，宽容失败，在促进技术发展的同时，合理约束技术应用；让人类在受益于技术进步的同时，将技术的负面效应或“阴暗面”控制到最小限度。
未来，与技术和谐相处，将是人类文明发展的一节必修课。正在向自由王国大步迈进的我们，有必要理解和学会如何制定技术使用的细则规矩，合理谨慎地使用技术。
转自：http://news.sciencenet.cn/htmlnews/2016/11/361445.shtm
京公网安备 11010802022788号
