第一千零九十章 超级AI（2 / 2）

很早之前，苍浩和墨师就已经发现，矩阵系统似乎具有了某种自我意识，会在没有下达指令的情况下，自行作出某些决定。

事实上，最早还是黄彬焕发现，矩阵系统经常自己运行一些程序，然后自行生成大量数据。黄彬焕通过进一步研究发现，矩阵系统似乎具备了某种学习能力，通过所获得的各种信息不断进行分析，然后设定最优策略。那些莫名其妙出现的数据，其实都是矩阵系统刷出来的经验。毕竟矩阵系统不是生物，对这台电脑来说一切都是数字，所获得的一切自然也要以数据形式存储。

当时苍浩和墨师都没太往心里去，而矩阵系统此后也没有过多表现出自主意识，仍然老老实实执行大家下达的各种指令。此后矩阵系统的建设还在不断进行，运算能力不断提高、存储能力不断加大。如今的矩阵系统比起先前那个时候，整体能力更是上了几个台阶，这样看起来发生今天这样的事情其实也是正常。

“矩阵系统就是一个超级ai……”墨师缓缓说道：“矩阵系统的实际能力，还有可能造成的影响，已经远远超越人类社会使用的任何ai。普通ai也就是控制某种设备，或者就是跟人类下个棋什么的，跟矩阵系统相比全都是玩具。要知道矩阵系统控制的可是各种各样的武器，是可以杀死无数人的，严格来说矩阵系统并不是武器，而是所有武器的上帝。当然了，ai技术目前在军事领域已经得到广泛应用，在这方面是最先进的。但也只是在具体某种装备上使用ai，比如战场上的各种智能机器人，而矩阵系统则是凌驾在所有装备之上，包括我们自己的ai装备都要服从矩阵系统的指挥。”

“很多科幻电影和，都对人工智能的发展心存担忧，认为有可能会威胁到人类的安全，比如系列。我当时认为那只是科幻电影，但这种技术真正出现的时候，我觉得有必要思考一下了……”苍浩缓缓摇了摇头，又道：“如果任凭矩阵系统这样发展下去，是否会威胁到血狮雇佣兵自身，我认为不能过早下断言。”

墨师断然说道：“矩阵系统一切算法的设计都以忠诚作为基本条件，必须忠于血狮雇佣兵，严格服从命令是矩阵系统存在的基础，所以至少从目前看来我不认为矩阵系统会威胁到血狮雇佣兵自身。”停顿了一下，墨师继续说道：“但是，如果矩阵系统真的成为超级ai，由此会产生很多问题，确实需要我们思考。因为这将带来军事上的变革，甚至可能影响到整个世界，一切都将从此变得不同。”

“我觉得你太乐观了，矩阵系统如果真的变成超级人工智能系统，我们是不是能够继续驾驭其实很成问题。”长呼了一口气，苍浩问道：“设想一下，有谁愿意服从于比自己弱小的人呢，如果矩阵系统真的具备了足够的智慧，必然就会产生这样的疑问，为什么自己要服从血狮雇佣兵。接下来，矩阵系统就有可能推翻过去的全部算法，对自我重新进行设定。”

“这个吗……应该不至于吧。”墨师仍然不认同苍浩的观点：“打一个不太恰当的比方，就好比养狗一样，虽然说也有恶犬伤害主人的案例，但多数狗对自己的主人还是非常忠诚的。对于狗来说，忠诚是刻在基因里的，矩阵系统的基因是各种各样的算法，而我对算法的设定就是不可背叛。”

“黄彬焕先前发现，矩阵系统可以自己设计一些算法，难道就不会推翻你原来的设定进行重塑？”

“我认为不会。”墨师缓缓摇了摇头：“我在设计矩阵系统的时候，就已经考虑到将来如果变得超级强大不受控制怎么办，所以做了各种各样的预防工作。”

第一千零九十章 超级AI

-