“如果就这样继续强制切断系统,将对系统造成巨大的负荷。我的主内存与之同步,也会被全部删除。”希特洛伊特分析利弊,语调毫无波澜。
主内存里储存着机器人的所有数据。如果用人来打比方,被删掉主内存的机器人就好比失忆的人类。
“不行,我做不到。”泪水在希特隆的眼眶中积聚。
藤蔓还在朝城市蔓延,红光在房间内积聚。小溪行至房间的玻璃前,俯瞰这座城市。密阿雷市已完全沦陷,街道破碎,处处浓烟滚滚,人群仓皇逃命。与粗壮的藤蔓相比,人和宝可梦只有蚂蚁大小,在前者面前不堪一击。
“可是如果不这么做,这场战斗就不会结束。”希特洛伊特依然冷静。
希特隆再也抑制不住悲伤,泪水夺眶而出。
“希特隆大人,您是密阿雷道馆高贵的馆主,是位善良的人,为他人拼尽全力。我是您的机器人,我没有自我意识,您事先编写的程序决定了我的思想、行为。我现在能说出这番话,也是通过调用语言模块实现的。所以,说话的并不是‘我’,从来就没有‘我’。”希特洛伊特摇头,“我的一切都被您定义,其中包括我来到这个世界的意义。”
“您曾经在我的核心中编写了三条准则。”见希特隆不说话,希特洛伊特掰起了手指头:
“准则一,机器人不得伤害某个人类,或坐视某个人类受到伤害;”
“准则二,机器人必须服从人类的命令,除非命令与第一法则发生冲突;”
“准则三,在不违背第一或第二法则之下,机器人可以保护自己。”
“后来,您在这三大法则的基础上新加入了一条。您将新加入的这条称作‘法则零’,法则零的地位居于其余三条之上。”希特洛伊特平静地叙述道:
“法则零,机器人不得伤害整体人类,或坐视整体人类受到伤害。”
“虽然对机器人谈论‘伦理’有些可笑……”希特洛伊特继续说,“然而现在人类这一整体在遭受侵害,根据法则零,我不能坐视不理,这是您为我定下的道德律。”
希特隆哽咽,擦了把泪:“我知道了。能遇见你真是太好了。”他蹲下,重新调出系统程序。希特隆的手指在“执行程序”这一选项上犹豫,迟迟不愿按下。
“感谢您创造了我,我很幸福。”希特洛伊特微笑。
↑返回顶部↑