智能汽车

无人驾驶车的利他主义原则(下)

2025China.cn   2017年09月19日

 

  从阿西莫夫的“机器人学三大法则”、到救驾驶员还是救行人的道德层面的例子、再到“有轨电车难题”的经典实验,人们不难看出,遵循现有的法则,不能确保人类的安全,不管是个体的安全,还是整体的安全。自驾车上路,因涉及汽车间的沟通、联络,汽车之间必然会用物联网(Internet of the Things)联系起来,而某一个更高级的网络中心、枢纽,会承担起协调所有路上的汽车、自驾车的责任和权力。如果这个权力和网络控制中心被一个个人黑客劫持,被一个极权政府劫持,被一个类似中共政权的邪恶集团劫持,劫持者可以轻而易举的命令所有的自驾车互相冲撞、互相毁灭,从而毁灭所有的人类乘客,或者劫持者希望消灭的乘客。到那时,机器人和机器、AI、计算机,真的就会成为左右人类命运的力量了。

  机器人可能危害人类的最新例子,是全球7亿电邮账号遭到入侵。这是一个荷兰的电邮机器人干的,它利用盗取的7亿账号,散布含有银行木马程序的垃圾邮件。这个机器人史上最大规模的“犯罪”影响的人数众多,相当于欧洲的人口。美国有部电影叫“Ex Machinia”,其机器人甚至会利用人的弱点,会利用人的情,去左右人、操控人、害人!

  《时代周刊》2016年三月的一篇文章(Matt Vella)指出,越来越多的证据,都指向人类不应该被允许驾车!虽然汽车越来越安全,但车祸死亡率还在逐年上升,美国每年发生600万起车祸,导致3万多人死亡;世界范围内,每年130万人死于车祸。而94%的车祸的肇因,都是人类错误。试验证据表明,无人驾驶车的确更安全。而机器全面替代人类司机的时间点,一般估计是2025至2050年之间。人们只有不到十年的时间去做好准备。

  法律界已经认定,无人驾驶车的“驾驶员”是计算机或机器。不难想象,很快会有人提出“机器人的人权”,提出机器人和人类是平等的。但不管世俗的权力争斗、平权运动如何推动,人们需要确定,也需要坚持,机器低于人类,我们不能承认机器人的“人权”,不能承认机器人与人类有平等的地位。人们不能允许机器人为了保命,去牺牲人的生命;不能给予机器或计算机以杀人的权力,永远不能,任何条件下都绝对不能。遇到与别人的生命冲突的时刻,人们会杀人吗?善良的人是不会的,在举手要杀人的时刻,很多人会良心发现,会放下屠刀,会生出怜悯之心,善念会战胜恶念。这一切,都是因为人类有道德的约束。但机器人没有道德的约束,它们一旦设定了程序去运行时,会不顾一切、一条道走到黑的去做。

  “有轨电车难题”揭示的两难局面,是谁该活下来、谁该去死掉的问题。在死亡还没有发生的情况下,当我们只是意识到死亡已经迫在眉睫的时刻,我们怎么做决定?我们怎么去决定谁的生死?这是一个敏感、尖锐的问题,触及了人类理性的极限。因为这涉及到生命的来源是什么,什么能决定生命的完结。无神论可能认为生命是偶然发生的,有神论认为是天意的安排。在对待生命的问题上,中共政权在邪恶的一端,简直登峰造极,它们认为,对它们认定的敌人,活摘器官都是正常的、可接受的,这是利己主义最极端的例子。正常社会的人不会这样做,人们会奉行正的法理,会奉行源自佛法至善的“利他主义”。

  在人类进入无人驾驶汽车的阶段之际,我们需要从伟大的佛法中汲取智慧,用佛家的善、慈悲,和先人后己的原则去处理,在遵从这个原则的基础上,才能突破人类认识的局限。依照“利他主义”的原则,才不会酿成大祸。而如果不采用这个原则,人们登上一辆汽车,同时清醒的知道这辆汽车有可能在危急的情况下,会采取保护汽车自己的措施,而把汽车上的乘客给牺牲掉,或把旁观的行人的生命牺牲掉,这是不能容忍的。这个问题,或者说这个难题,是出于人类的利己主义、自私自利、和先己后人的哲学。这不能解决我们面临的问题。必须采用利他主义、无私无我、先人后己的哲学,才能解决这个难题。

  我们的应对方法应该是:无人驾驶车必须奉行利他主义的原则,汽车的设计、程序、运作机制、运算逻辑、人工智能的设定,都必须满足这些条件;汽车作为人的工具,必须可以牺牲“自己”来保护乘客或行人;系统被劫持的时刻,也是系统必须启动自毁程序、避免落入坏人手中的时刻。因为物联网的联机,无人车应该可以预见可能发生的车祸,会提前减速剎车、躲开撞车,避免进入“有轨电车难题”的状态。必要时,无人车要能牺牲自己来保护乘客,可以“变形金刚”为模本,在面临危险之时,变化自己,变身“坦克”、“装甲车”,自动激发保护机制,甚至自动变身成防护盾和保护伞,以保护人类。只有这时,才能给予无人驾驶车载人的权力。无人车在外壳、防护、耐撞、躲避方面的性能,应有更高的要求。这不是人们作为乘客需要考虑的事,是制造商们要考虑的事。他们的利润、成本里,需要加进这些考虑。

  让无人驾驶汽车具有利他主义、牺牲自己的思想,就是要求计算机遵循人类的道德标准了。它们能够遵循人类的道德标准吗?机器和计算机能够具备人的这个本性吗?恐怕很难。但如果它们不能,它们就不能被赋予载人的权力,无人车也不能被允许上路。机器是人造的,机器必须为人类服务,机器也必须服从人类,绝对的服从,甚至牺牲自己来服从。做不到这一点,机器就不应该存在、不应该被制造出来。

  最快八年之后,无人车就会大面积流行。现在是时候了,人们应该向从底特律到硅谷、准备从无人车的大饼中分一杯羹的投资人、工程师、程序设计师们大声呼吁,向从沙加缅度到华盛顿的立法者们高声吶喊,人们也必须对机器人、人工智能、汽车计算机及计算机背后的操纵者们说一句:先止步!如果无人驾驶汽车不能采纳利他主义、牺牲自我的设计原则,就不可能、也不应该让它出现,更不能让它走上人们的路面!

(转载)

标签:无人驾驶 我要反馈 
参与ABB电机与发电机拼图挑战赛赢取探厂等好礼,快来挑战!
2024汉诺威工业博览会专题
西克
2023世界人工智能大会专题
专题报道
2024汉诺威工业博览会专题
2024汉诺威工业博览会专题

2024 汉诺威工业博览会将于4月22 - 26日在德国汉诺威展览中心举行。作为全球首屈一指的工业贸易展览会,本届展览会

安全走向数字化
安全走向数字化

如果说安全是过程工业的基本盘,数字化是过程工业的新锚点,那么作为2023 NAMUR中国年会唯一的赞助商,HIMA与这次

第三届EESA储能展
第三届EESA储能展

EESA储能展是由储能领跑者联盟主办的品牌展会,创办至今已经连续举办了两届。为加快适应储能规模化发展的步伐,促进储能行业