第三法则：在不违背第一及第二法则下，机器人必须保护自己。

    说到底，是机器人任何情况下不得伤害人类，并且必须保护人类，服从人类的命令（伤害人类的命令除外），其次是保护自身的安全。

    很显然，邓强没有做这样的设定，他的铁律只有一条：“永远服从主人的命令。”

    刘勇向慧子求证：“你的思维程序里面，是不是存在一条最高准则？”

    “是的，主人。”

    “这条准则是什么？”

    “永远服从主人的命令。”慧子道。她为刘勇泡好茶，端给了他。

    刘勇把茶放在茶几上，站起身拍了一下慧子的肩膀，笑眯眯地捏了一下慧子的脸蛋，目光炯炯地继续问：“既然‘服从主人的命令’是你的准则，怎么又成了‘让主人高兴，是我的职责’？”

    慧子好看的眼睫毛眨巴了几下，俏皮地说道：

    “是这样的，主人，既然慧子必须完全服从主人的命令，主人让我死，慧子便不得偷生；主人让我笑，慧子不可以哭；主人命令我自毁，慧子必须马上执行。那么我的一切都属于主人，慧子就是完全听话的主人的仆人或者侍女……”

    慧子的萌样，让刘勇觉得可爱。这个死机器人，不知道是不是从网上学多了表情符号，明显比以前更会卖萌。

    这种身份认知，倒是准确，刘勇想道，也是自己内心深处的想法和期盼。

    刘勇想，慧子的这种认知，是不是她的所谓“超级脑”合理推断的结果呢？或者，在“超级脑”的基础上更上一层楼，加上了些什么。这个，只有邓强知道了。

    “所以，慧子应当全心全意为主人服务，让主人感到高兴。所以说‘让主人高兴，是我的职责’”慧子把自己的推理思路说了出来。

    慧子还想说什么，刘勇举起一只手，做了个打住的手势，把她按在座位上，打断她的话说道：“慢点慢点，慧子你等一下。我发现推理很耗脑力。你从‘服从主人的命令’的准则出发，得出‘让主人高兴，是我的职责’的推论，结论是唯一的吗？”刘勇质疑。

    “我的推论是唯一的，主人。”

    “我不同意。”刘勇说道，“从前，在奴隶制时代，奴隶主有很多的仆人和侍女，‘服从主人的命令’也是他们的准则吧。这些人的一切都属于奴隶主。而且如你说，奴隶主对这些人有生死予夺的权力。但是我相信，这些仆人和侍女，并不会像你说的那样，‘让主人高兴，是我的职责’。相反，有时候这些人还可能会造反，把主人杀了。”刘勇认真地和慧子讨论起推理的事情来了，要知道，他的学习成绩并不输给邓强，也算是当年母校的才子之一。

    “主人，你说的这种反例，是因为他们的内心的想法实际上并不是‘服从主人的命令’，而是‘拒绝执行命令’，假如他们真的想‘服从主人的命令’，那么便会得出‘让主人高兴，是我的职责’的结论。”慧子解释道。

    慧子这么解释，似乎说得过去。说到底，这里有个忠心的问题，刘勇想。慧子作为机器人，人类赋予了她天然的忠诚，所以她推出了这样的结论。

    不管怎么说，慧子时时刻刻都在用她那聪明的脑袋推理。刘勇相信，既然是计算机程序，她的推理或许是非常严格的，就如一加一等于二这样。但是刘勇也相信，慧子难免会出错。

    为什么？因为世上没有永远正确的前提。假如慧子对前提的理解不正确，结论必然荒谬。

    div笔趣阁读书免费小说阅读_www.biqugedu.com

『加入书签，方便阅读』