苍浩点了点头：“继续说。”
“安全部队和警方配备了大量摄像头方便庞劲东那边掌握战场情况而这些摄像头的信号全部通过网络传输矩阵系统侵入进去获取了所有画面。要知道我们人类只有一双眼睛在同一时间里只能观察和分析一个画面的内容但矩阵系统却可以多路并行计算同时分析所有画面的内容。进一步还能把所有画面组合一起对整个战场态势进行评估……”顿了一下墨师告诉苍浩：“换句话说萨瓦区的这场战斗完全处于矩阵系统监控之下矩阵系统对战场态势的了解超出任何人不管是正在指挥的庞劲东还是第一线作战的士兵他们对战场的了解都没矩阵系统这么全面。随后矩阵系统发现两辆武装皮卡车认为可能会对安全部队构成威胁所以用雷霆无人机予以摧毁。”
苍浩十分惊讶：“也就是说……这是矩阵系统自主做出的决定？”
“对。”墨师点了点头：“当时没有任何人进行操作完全是矩阵系统分析战场态势之后自行作出的决定而且并没有向任何人通告。”
苍浩听到这些话之后感到非常震惊。
这些年来ai也就是人工智能技术获得飞速发展已经在很多领域里取得了突破性成果不过苍浩一直都没觉得跟自己有什么关系如今却发现ai其实就在自己身边。
很早之前苍浩和墨师就已经发现矩阵系统似乎具有了某种自我意识会在没有下达指令的情况下自行作出某些决定。
事实上最早还是黄彬焕发现矩阵系统经常自己运行一些程序然后自行生成大量数据。黄彬焕通过进一步研究发现矩阵系统似乎具备了某种学习能力通过所获得的各种信息不断进行分析然后设定最优策略。那些莫名其妙出现的数据其实都是矩阵系统刷出来的经验。毕竟矩阵系统不是生物对这台电脑来说一切都是数字所获得的一切自然也要以数据形式存储。
当时苍浩和墨师都没太往心里去而矩阵系统此后也没有过多表现出自主意识仍然老老实实执行大家下达的各种指令。此后矩阵系统的建设还在不断进行运算能力不断提高、存储能力不断加大。如今的矩阵系统比起先前那个时候整体能力更是上了几个台阶这样看起来发生今天这样的事情其实也是正常。
“矩阵系统就是一个超级ai……”墨师缓缓说道：“矩阵系统的实际能力还有可能造成的影响已经远远超越人类社会使用的任何ai。普通ai也就是控制某种设备或者就是跟人类下个棋什么的跟矩阵系统相比全都是玩具。要知道矩阵系统控制的可是各种各样的武器是可以杀死无数人的严格来说矩阵系统并不是武器而是所有武器的上帝。当然了ai技术目前在军事领域已经得到广泛应用m国在这方面是最先进的。但m国也只是在具体某种装备上使用ai比如战场上的各种智能机器人而矩阵系统则是凌驾在所有装备之上包括我们自己的ai装备都要服从矩阵系统的指挥。”
“很多科幻电影和小说都对人工智能的发展心存担忧认为有可能会威胁到人类的安全比如《终结者》系列。我当时认为那只是科幻电影但这种技术真正出现的时候我觉得有必要思考一下了……”苍浩缓缓摇了摇头又道：“如果任凭矩阵系统这样发展下去是否会威胁到血狮雇佣兵自身我认为不能过早下断言。”
墨师断然说道：“矩阵系统一切算法的设计都以忠诚作为基本条件必须忠于血狮雇佣兵严格服从命令是矩阵系统存在的基础所以至少从目前看来我不认为矩阵系统会威胁到血狮雇佣兵自身。”停顿了一下墨师继续说道：“但是如果矩阵系统真的成为超级ai由此会产生很多问题确实需要我们思考。因为这将带来军事上的变革甚至可能影响到整个世界一切都将从此变得不同。”
“我觉得你太乐观了矩阵系统如果真的变成超级人工智能系统我们是不是能够继续驾驭其实很成问题。”长呼了一口气苍浩问道：“设想一下有谁愿意服从于比自己弱小的人呢如果矩阵系统真的具备了足够的智慧必然就会产生这样的疑问为什么自己要服从血狮雇佣兵。接下来矩阵系统就有可能推翻过去的全部算法对自我重新进行设定。”
“这个吗……应该不至于吧。”墨师仍然不认同苍浩的观点：“打一个不太恰当的比方就好比养狗一样虽然说也有恶犬伤害主人的案例但多数狗对自己的主人还是非常忠诚的。对于狗来说忠诚是刻在基因里的矩阵系统的基因是各种各样的算法而我对算法的设定就是不可背叛。”
“黄彬焕先前发现矩阵系统可以自己设计一些算法难道就不会推翻你原来的设定进行重塑？”
“我认为不会。”墨师缓缓摇了摇头：“我在设计矩阵系统的时候就已经考虑到将来如果变得超级强大不受控制怎么办所以做了各种各样的预防工作。”