皱起脑门儿,抬起手擦擦前额:“们在使用先前那种机器人时碰到困难。您知道,们人经常在有强烈辐射情况下工作。当然,这是危险。可是已采取适当措施。自从们开始工作以来,这里只发生过两起事故,而且都不是致命事故。但是,不可能把这些向个普通机器人讲明白。第定律讲——引用原话——‘机器人不得伤害人,也不得见人受到伤害而袖手旁观。’”
“这是首要,卡尔文博士,每当们人之中有谁必须短时间,bao露在中等程度伽马射线下时,虽然这种程度辐射不会引起生理反应,但离他最近机器人就会冲上去,把他拽开。如果伽马射线场非常微弱话,机器人就要把这个人拽开,而工作也就不可能进行。除非把所有机器人都赶到别地方去,才可能继续工作。需要伽马射线稍微强点,机器人就根本没法挨上这个人,因为它正电子脑在伽马射线下也会毁掉。这样,们就可能失去个造价昂贵、而又非常需要机器人。”
“们曾试着说服机器人。但它们论点是:个人,bao露在伽马射线下,会危及他生命,尽管他可以安全地在这种情况下呆上半小时而不受伤害。它们还讲:假如这个人忘记时间,因而呆个小时呢?它们不能让人冒险这样做。们指出,机器人这样做是冒自己性命危险而希望又微乎其微。但是,保护自己只是机器人学第三定律——而第定律和人安全总是摆在第位。们向它们下过命令,们严厉地命令它们:不管发生多大代价事情,只能停留在伽马射线之外。但是遵从命令只是机器人学第二定律,第定律和人安全仍然摆在第位。卡尔文博士,们只有或者不要机器人,或者想点办法改变下第定律。们做出自己选择。”
“不能相信,”卡尔文博士说,“为此就可以把第定律摒弃掉。”
“不是摒弃掉,是修改下,”柯尔纳解释说,“已制造这些正电子脑,只输入第定律前部分,即:机器人不得伤害人。就这些修改。因而,它不必强迫自己去防止人受到外界因素伤害,比如说伽马射线伤害。勃格特博士,是否正确地阐述这个问题?”
“相当正确。”数学家赞同他说。
“而这就是你们机器人和般NS-2型机器人唯差别吗?就这点差别吗,皮特?”
“就这点差别,苏珊。”她站起身来,用结束谈话口气说:“现在要睡觉。过八个小时,想和最后看见那个机器人人谈谈。并且,柯尔纳将军,如果多少
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。