第五篇 地 球(第26/41页)
吉斯卡说:“第一法则会迫使你先把嘉蒂雅女士推离它的火力范围。不论你怎么想,怎么推理,应该都改变不了这个事实。”
“不,吉斯卡好友,你比嘉蒂雅女士更重要。事实上,此时此刻,你比任何一个人类都更重要。若说有谁能够阻止地球的浩劫,那就是你了。既然我察觉到你对整个人类的潜在重要性,当我面对如何行动的选择时,第零法则便要求我最先考虑保护你。”
“你却并未因为这种藐视第一法则的举动而感到任何不适。”
“没错,因为我是在服从凌驾其上的第零法则。”
“可是你脑中并未印记着第零法则。”
“我将它视为第一法则的引伸,道理很简单,若是不能确保人类社会安全无虞且运作正常,又如何能有效地保护每一个人类呢?”
吉斯卡想了一会儿。“我明白你想要说什么了,可是万一——你试图救我,也就是试图拯救整个人类——结果却发现我并不是暗杀目标,而嘉蒂雅女士却遇害了呢?那时你会有什么感觉,丹尼尔好友?”
丹尼尔以低沉的声音说:“我不知道,吉斯卡好友。可是,假如我出手拯救的是嘉蒂雅女士,结果却发现她根本没危险,而我这么做却导致你遭到暗算,而且在我看来,也因此葬送了整个人类的前途,我又怎能承受这样的打击呢?”
两人互相凝视,各自陷入沉思好一会儿。
最后吉斯卡终于说:“或许有道理,丹尼尔好友,然而,不知你是否同意,类似这样的情况,很难作出正确的决断。”
“我同意,吉斯卡好友。”
“要从两名人类之间迅速作出选择——判断谁会受到或是造成比较严重的伤害——已经是很困难的事了。要从人类个体和整体之间作出选择,而且不确定到底应该考量人类整体的哪个层面,则更是难上加难,以致机器人学法则的适用性都要被打上问号。一旦引入人类整体这个抽象的概念,‘机器人学法则’就会跟‘人学法则’纠缠不清,而后者甚至还不存在。”
丹尼尔说:“我不了解你的意思,吉斯卡好友。”
“我并不意外,我也不确定是否了解自己的意思。但想想看,当我们想到必须拯救整个人类的时候,我们想到的是地球人和银河殖民者。相较于太空族,他们人数更多,活力更旺,而且心胸更广。他们表现得较为主动积极,因为他们对机器人仰赖较少。他们无论在生物或社会层次的进化上都具有较大的潜力,因为他们虽然寿命较短,但人人仍有足够的时间作出重大贡献。”
“没错,”丹尼尔道,“你说得简单明了。”
“可是地球人和银河殖民者似乎都对地球有着神秘的,甚至非理性的信心,坚决相信它是神圣而不可侵犯的。在未来的发展过程中,这种神秘信仰难道不会跟太空族对机器人和长寿的信仰一样致命吗?”
“我从未想过这个问题,”丹尼尔说,“我没有答案。”
吉斯卡说:“你如果能像我一样体察得到人类的心灵,就无可避免会想到这个问题。我们该如何选择?”他突然说得慷慨激昂,“我们可以把整个人类划分成两大类,第一类是太空族,他们有着显然足以致命的神秘信仰;第二类是地球人和银河殖民者,他们有着另一种可能同样致命的信仰。将来或许还会出现第三类,而他们甚至会更令人失望。
“所以说,仅仅作出选择还不够,丹尼尔好友。我们还得能够塑造——我们必须塑造一种有前途的人类来加以保护,而不是被迫在两三种没前途的人类之间作出选择。可是,除非拥有心理史学——那门我梦寐以求却求之不得的科学——否则我们要如何塑造这样的人类呢?”
丹尼尔说:“我从来也不晓得,吉斯卡好友,拥有感应和影响人类心灵的能力是多么困难的一件事。但会不会是你知道得太多,导致机器人学三大法则无法在你身上顺畅运作?”
“这个可能是一直存在的,丹尼尔好友,但直到最近发生了这些事,才让这个可能成了真。我很了解这个产生心灵感应和心灵影响效应的径路型样,我花了上百年的时间仔细研究自己,以便了解这个型样并将它传给你,好让你能把自己设定成跟我一样——但我一直抗拒这么做。这样对你不公平,我一个人承受这个重担就够了。”