“对,那是苏珊·凯文的故事。我懂了!你这番推理是以那个古老传说当蓝本。非常高明,贝莱先生,可是你白忙一场。”
“为什么?当你说只有你能导致詹德心智冻结的时候,你对他的遭遇一点也不清楚,不知道他已深陷完全意想不到的僵局中,这和苏珊·凯文的那场僵局刚好有着平行关系。”
“我们姑且假设,有关苏珊·凯文和那个读心机器人的故事并非纯属虚构,而是一个真实严肃的个案。可是我们仍不难发现,那个故事和詹德的情况并没有平行关系。在苏珊·凯文的故事里,我们面对的是个原始到难以形容的机器人,以今天的眼光来看,连个玩具都不如。它只能定性地处理那种问题,A会导致痛苦,非A也会导致痛苦,因此只好心智冻结。”
贝莱问:“那么詹德呢?”
“现代机器人——过去这一世纪出厂的任何一个机器人——都会定量地衡量这类的问题。A和非A这两种情况,何者会造成较多的痛苦?机器人会很快作出判断,并选择痛苦较少的做法。当然,他也有可能断定这两种互斥的方案会产生完全等量的痛苦,但机会实在太小了,即使真的出现这种情形,要知道现代机器人还拥有随机化的功能。如果根据他的判断,A和非A会导致恰好相等的痛苦,他将以完全无法预测的方式,选择其中一个方案,然后毫不犹豫地执行。总之,他不会进入心智冻结的状态。”