从文小说

第一卷自古英雄多磨难 第7章 禁果计划（第2页）

时光飞逝，江玉在十八岁的时候接到科学院的一个非常特殊的任务，名称叫《关于机器人自我意识的研究》。

这个项目的背景很有趣，军方和警方在是运用机器人参与任务时，发现机器人战士普遍缺乏自主性，行为过于依赖程序预设，因此经常会落入敌人设置的圈套和机器人陷阱。

比如，敌人用一支根本没什么杀伤力的低功率激光枪来回扫射，就可以把所有冲锋的机器人压制住。因为机器人的程序里预设的是当检测到有激光照射自己的时候，必须躲避危险。

假如程序员预设机器人不要躲避激光射击，勇往直前地冲锋，那就会有大批的机器人在战斗中不知道隐蔽自己，而被敌人轻易射杀，造成不必要的损失。

对于有智慧的人来说，在面对危险时会权衡一下。

权衡的标准就是任务的重要程度、价值观、经验以及环境约束。

人首先权衡的是自身的危险和任务的重要程度，当觉得任务的重要程度高于自身的风险时，负责任的战士就会选择铤而走险，甚至牺牲生命。

所以，一个看重任务的战士和一个看重自身生命的战士，会在面对相同危险时，做出不同的抉择。

要想让机器人也能像人一样，在执行任务时能够独立判断是该冒险完成任务，还是该为了自身安全隐蔽，就必须让机器人有价值判断能力。

但是，一旦机器人有了价值判断能力，就可能会产生私欲，接着可能会与人类为敌。

如何才能让机器人既有价值判断能力，又忠诚于人类呢？这也是这个项目难度极高的原因之一。

这个研究项目是一个绝密的项目，因为一旦泄露被坏人利用，灾祸可能殃及全人类。

科学院之所以把这个任务分配给江玉，一是考虑江玉超乎常人的智慧和才能，二也是考虑到保密和规避法律的问题，毕竟在月球的保密成本更低。同时，地球上的法律在月球是否适用，还是一个正在争议的问题。

在接这个任务之前，江玉研究机器人已经有四五年的经验了，曾经开发过机器人警察的集群作战控制及互相掩护等功能，所以她对这个新项目的难度是很了解的。

她的第一个感觉是，这是一个无比庞大的项目，可能今生今世永远也做不完。如果顺利，机器人的智能在未来会越来越接近人类，成为人类的亲密助手和伴侣。如果不顺利，比如研究的方向是错误的，可能所有的努力都是一场空。如果一旦有反人类的组织先于政府掌握了机器人人格化的技术，人类也有可能遭受灭顶之灾。

为了少走弯路，江玉决定要进行周密、谨慎的预研工作。