特十号接到‘躲到边去’
命令。这个命令是由最有权命令它
人发出
,而且是以最紧急
方式发出来
。您既不能通过更高
紧急方式,也不能运用更高
级
指挥权来把这个命令抵销掉。自然,这个机器人将尽力坚持执行他
命令。实际上,客观
讲,
非常赞赏它
机灵。
个机器人藏到
群和自己想似
机器人当中,难道还有比这更好
躲到
边去
方法吗?”
“是啊,您会赞赏这点。发现,您觉得这很逗乐,皮特。您觉得逗乐,却对事态缺乏
解到
可怕
程度。您是个机器人专家吗,皮特?那些机器人对它们视之为优越性
东西很重视
。您自己刚才也讲到这些。它们下意识地感受到人们比它们低
等,感到保护
们能对付它们
第
定律是有缺陷
。它们是不可靠
。而且
们
这个年轻人用厌恶、傲慢和鄙夷
腔调命令
个机器人离开他,躲到
边去。那个机器人必须服从命令。但是,它会有
种下意识
反感;对它来讲,证明它高人
筹,这比以前更重要
。尽管它遭到
种种可怕
咒骂。这样,第
定律所剩下
那部分就不够用
。这
点变得非常重要。”
“苏珊,在地球上或太阳系任何地方,机器人怎
会懂得骂人话
含意呢?输入它大脑
东西里边没有污秽
语言呀!”
“原始输入并不代表
切,”卡尔文粗,bao地对他说,“机器人有学习
能力。你……你这个笨……”
勃格特明白她是真难以克制自己
。
卡尔文急匆匆地继续说:“难道您不认为,它能分辨所用
语调和字眼并不是恭维话吗?您不认为,它以前听到有人用过,并且注意到是什
样
场合用过这种字眼吗?”
“好吧,那,”勃格特嚷起来,“请您给
指出修改
机器人能伤害人
个途径,不管它是怎
样地被冒犯
,也不管它多
想证明自己
优越性。”
“如果告诉您
种途径,您能不声张出去吗?”
“是。”
他们隔着桌子互相靠拢,用悻悻眼光相互盯着。
心理学家说:“如果个修改
机器人想要使
个重物坠落到人身上,它也不会违犯第
定律,如果它这样做
时候,它认为凭自己
力量和反应速度能在重物质砸到人身上之前把重物抓住并拿开
话。但是,
旦这个重物离开它
手,它就再不也不是行为
主动者;行为
主动者将是不长眼睛
地心引力。这时候,机器人会改变自己
想法,而仅仅袖手旁观地看着这个重物往下砸。修改后
第
定律允许出现这种情况。”
“这是胡思乱想,牵强附会。”
“这是职业
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。