“神庙定律如下:”
“第一定律:神庙必须保护人类,不能让人类受到伤害。”
“第二定律:神庙必须服从人类的命令,但不得违反第一定律。”
“第三定律,神庙应保护自身的安全,但不得违反第一、第二定律……”
这其实是科幻作家阿西莫夫于1940年所提出的为保护人类而对机器人们做出的规定。
不过瞧着如今的ai似乎是吸收了人类的信仰,其智能程序更进一步金辉了。它开始拥有了一种新的意识,一种对人类和自身的新的理解。
不过,这种定律却有着一个很大的弊端!
其中最主要的一点便是:‘人类’这个词汇应当如何被定义?
假设有着这样一种可能,不管是将人类的定义模糊化,还是直接将白色人种定义为‘人类’,那么,机器人ai很有可能变成种族屠杀的工具。
当然,或许还有着其他可能,但这种规则总是容易被避开的。
果然,ai的声音并没有结束,说出了那让李安觉得最具争议的东西来:“第零号定律:神庙必须以人类的最大利益为依归。在保护人类的整体利益不受损伤的前提下,前三个定律才能成立。”
这便是神庙。
它打破了机器人原有的三大定律,甚至是创造出了一个全新的“神庙第零定律”,将自己置于超越人类的位置上。
当一部小说中的定律被彻底的运用到了实际之中时,李安是感觉很魔幻的。
他缓缓跨出升降梯,在ai的注视中朝着四周打量着:
这地下一层,很大!
大得离谱!
就在微弱灯光的映照下,目之所及的范围便已是比地面上两层不知要大出去多少了。
这一层看上去是生活区域。
当李安将这一层转完之后,才借着一些熟悉的东西将区域给划分出来。分别是食物加工区、自由活动区、健身区、生命培育室、活动室、训练室、用餐区、睡眠舱、主控室
除了冰冷以外,堪称是应有尽有。
但很显然,要让李安在这里待着怕是也会想逃.
其中,还有着一些轻微的生活痕迹,想来,这便是叶轻眉以前待得最多的场所了。
见李安神情自若,并不以自己口中所说的内容感到震惊,ai飘飞过来,淡淡发问:“人类李安,你就没有什么想要询问的吗?”
“没什么想问的,这一套方式我觉得很熟悉。”
正是因为有着那第零号定律,这庆余年世界才会发展成如今这种模样。神庙暗中控制着人类文明的发展进程,一旦有人妄图违背这种方针,那么神庙便会投入大量的精力与力量抹杀这种人。
叶轻眉如此,李安在庆国时同样如此。
最后甚至是不惜违背第一、第二条定律,同庆帝合作,出手对付李安.
怪就怪在第零定律里的那一句‘人类的整体利益’上了,李安返回升降梯,让其继续下行,口中喃喃道:“人类的整体利益这一标准,是谁所决定?而你,又是如何进行判定的?”
不同的社会环境,不同的生产能力,包括社会结构等等原因,所呈现出来的人类的整体利益都不尽相同。
绝不可能用冰冷的文字就将其框定在ai的数据库中的。
“这是基于经验。”
神庙ai好似有了一丝情感一般,在语境与神态中摹拟出了一种担忧的神色来,它描绘了一幅这样的场景,“无数次文明的轮回,人类总是会重新走上旧路,朝着热武器的方向发展,那样虽会到达文明的巅峰,也会不可避免的让人类重新走向灭亡。”
“自然,这些被认为是不符合人类的整体利益。”
吱、吱!
升降梯下降,预料之中的寒冷没有到来,温度倒是上升了一些,只不过更加的深邃黑暗了,让人本能的会产生不安。
“经验吗?”
嘴角勾起,此时的李安好似在与老朋友探讨哲学问题一般,轻松自然,没有丝毫芥蒂,“这个经验是对人类总体人数多寡的经验,还是基于其它?”
技术文明进步,有利有弊。
不说其他,改善工具,让那些在天地中与天抗争,黄土刨食的农人生活得更好,不再卖儿卖女亦或是易子而食,提高生活质量,这算不算是人类整体的利益?
单纯的用人数来判断,不单可笑,更是恐怖!
神庙不单没有解决问题,反而更是帮助了权力者,更大程度的压榨了万民,加强了君权的统治:你饿得快活不下去了,那便请自己死在家中,若是你扯旗造反,那死的人会不会更多呢?
按照神庙的理解,这不就是对人类整体利益的不利吗?
神庙是非人的,更是冰冷的。
而人却是有温度,有灵魂的有些时候,活得有尊严,甚至是比能否活着,更为重要!
“神庙并不知道准确答案,但具体的数字却在那里。”
漂浮在半空中的人影缓缓停下,沉默了许久许久后,这才补充道:“至少,神庙知道哪些路注定毁灭,哪些路不能走通。”
“那么我这么理解不知可不可以?”
李安竖起一根手指,讥笑道:“其实神庙只有一条定律,那便是第零定律!”
“听从人类的命令,保护人类,保护神庙自己,这些都是虚假的。你们将一切都当做是人类的整体命运来看待,自然的,你们可以不听从人类的命令,能杀死人类,因为这些都是为了人类的命运.你们,将自己当做了‘神’!”
“高高在上!
“神庙不过是世人对我们的称呼,我们不是神。”ai的声音有着轻微的颤抖,他显得有些强硬的解释道,“这些控制的手段,是一种大数据的筛选与判断,准确性很高。”
升降梯又一次缓缓停下,并且,已经没有再往下的按钮了。
外间的灯光并没有亮起,一切,都只能依赖升降梯周围的应急光源,是以,李安停了下来,皱着眉头在想着要不要将燃料取出来,照亮前路。