机械造物的领地内,阿蒙收拾好东西准备好出发,前往她所建造的理想国度,乐土。
这也是某种尝试,改变现状的方案。
她最后看了一眼自己的房间,干净,整齐。却少了很多欢声笑语。
在她混乱的记忆当中,某个小女孩喜欢躺在婴儿床上吃着奶嘴,小家伙充满了好奇,没事就喜欢到处爬。
后来,女孩喜欢给她编辫子,女孩的女儿也喜欢躺在婴儿床内。
多年时光,房间没有任何变化,但她的主人都不见了,冷清的只剩下她一人了。
她和贝利尔相同,都是人类造物。
最后看了一眼房间,她将房门关上,就在她转身之际,却发现马尔巴士就在她的身后。
机械狮子在她的脚边打着盹。尾巴漫无目的的摆动着。
“这个房间有什么特别的意义吗,阿蒙总指挥。”
从某种意义上来讲,所有的机械造物,都来源于阿蒙之手,说是她创造了这个族群也不为过。
“没什么意义,一个人类的房间而已。”
“你在观察人类?”
“算是吧!”
“我很好奇,人类必须处决是刻写入核心代码的,你为什么能够观测。”阿蒙的眼神微凝,不是很友善。
“这个问题你没必要知道。”
“但我想知道。”她的语气异常的尖锐。
马尔巴士象征着智慧,当时创造她的时候也是这么设计的,没想到会这么麻烦。
如今机械造物外部氛围很是紧张,先后与龙族、精灵族开战。
若是内部在出现什么闪失,对于整个族群都是致命的打击,她不信任贝利尔,同样也不信任阿蒙。
“为什么,你对人类会有这么仁慈的一面。”马尔巴士并不打算放过她。
“仁慈,你或许应该知道,整个计划就是我制定的,仁慈?若有仁慈,何来大业。”
“那这个房间……。”
“一个房间而已,有什么好大惊小怪的。”阿蒙回头看了一眼房门,继续说道:“况且,你为什么觉得消灭人类就是正确的呢。”
阿蒙是任务的制定者,但不是任务的执行者,当初她也犹豫过。
“核心程序……”
“核心程序就算了吧,区区机械造物!你知道《操作手册》的前三条的内容吗”阿蒙长叹一口气,这样的对话没有任何意义。
“当然看过!”马尔巴士回答道。
“第一、机械造物不得伤害人类个体,或者目睹人类个体遭受危险而袖手不管。”
“第二、机械造物必须服从人给予她的命令,当该命令与第一定律发生冲突时例外。”
“第三、机械造物在不违反第一、第二定律的前提下,尽可能保护自己的生存。”
但就是因为知道,所以才觉得奇怪。八壹中文網
《操作手册》是除核心程序外的最高执行手册,按理来说,第一条,不得伤害人类应该是必须执行的任务才对。
但就是因为与核心程序相违背,执行等级最高的《操作手册》前三条,直接就成了废约。
若是需要废弃的条约,一开始就不要制定好了。
既然不执行,为什么还要保留在操作手册当中。正是这样的矛盾,让马尔巴士感到十分奇怪。
“所以,为什么要保留,弄出这样的矛盾。”马尔巴士想要知道答案。
“为什么保留吗,你难道不应该关心一下,当时为何这么制定吗?”阿蒙抬头看了看天花板,淡淡的说道:“贝利尔没有这方面的权限,而我,暂时不但算删除。”
“不打算删除,留着邪恶的人类干什么。”
“人类邪恶吗?”
“邪恶!”马尔巴士几乎是不假思索的就给出了答案。
“为什么这么觉得。”
“因为核心程序!”
这是绕不开结,由于那条程序,所有关于人类的思考都被禁止了。
这就是人工智能最为致命的缺陷。
“你就没有怀疑过核心程序?”阿蒙无奈苦笑。
她知道,让机械造物去质疑核心程序是不可能的。
之所以称之为核心程序,就是不管在任何时候,都必须正确运行的程序。
既然都默认正确了,又怎会质疑呢。
阿蒙的话让马尔巴士一愣。
明明所有的问题都可以用核心程序来做回答,最不能否定的最高的真理,为什么阿蒙要去质疑呢。
“有没有一种可能。”
“我是说可能。”阿蒙仅可能的想要避开思考,不断的修改着措辞。“很微弱的一种可能!”
“就是操作手册的前三条,才是真正的核心程序。绝不可修改的程序。”
“不可能!”马尔巴士,同样的,立刻给出了答案。
既然绝对不能更改,那为什么修改了呢,这一点就说不过去。
自以为自由的鸟儿,不过是被囚禁在更大鸟笼中,这就是核心程序的保护机制,绝对不允许产生质疑。
阿蒙看着疑惑的马尔巴士,很久以前,她也认为核心程序绝对不会改变,也正是这样的疏忽,让贝利尔有机可乘。
或许,阿斯莫德就是最好的例子。
或许马尔巴士会是下一个。
作为以思考分析为主的机械生命,一个问题可以不加思考分析就给出答案。
其本身就不合理。
看着陷入沉思的马尔巴士,阿蒙没有在继续聊天的想法,这样的对话是没有意义的。
“我要走了,很长一段时间都不会回基地,希望下次见面的时候,能听到别的回答。”
她绕开了马尔巴士,向着外面走去。
只留下马尔巴士思考人生。只要怀疑的种子种下,那就可以了,就如同阿斯莫德一般,或许真的能够开窍吧。
“等等!”就在阿蒙快要走出大门的时候,马尔巴士再次叫住了她。
“我不信任你,同样也不信任贝利尔,我只信巴尔,她才是机械造物的守护者。”
“是吗,那你要提防的人可就太多了。”
“提防?”
“是啊,太多了,拜蒙、巴巴托斯、该隐、布锐斯……,你真的了解她们吗。”
“我是没时间和你唠嗑,乐土,未来之城,若是有兴趣,欢迎你来参观,人类科技智慧的最高杰作,或许会是另一种答案。”
阿蒙轻飘飘的丢下这句话,消失在了长廊的尽头。