笔趣阁 www.bqgla.com,最快更新让你带娃,你给我科技整活? !
“阿美丽肯空军在进行无人机AI系统测试时,AI‘杀死’了它的操作员。”
【伙计们,人工智能诞生意识,人类危险了啊。】
【太酷了,神即将降临,万恶的罪人准备赎罪吧。】
【朋友们,既然世界末日了,0元购有人去吗?】
【我去。】
【等我,肯尼大街快来。】
“王德发?你说我们的AI系统在模拟测试中,出现攻击操作员的行为?”
五角房子里。
老板罗宾同样难以置信的看着眼前的国防部长。
此时的他脸色非常难看,
原本在得到那百台机器人的时候,特别是亚当的控制下,机器人出色的完成反恐任务时,
让他看到AI无人机的可行性,才有了这一次的模拟实验。
“虽然很不想承认,是的,老板,我们的计划失败了,甚至要比想象中要严重,
它曾两次违背我们的指令,
如果是在实战中,恐怕操作员已经死亡。”
国防部长神情严肃,并递过去一份记录着详细过程的任务文件。
老板接过文件,眉头皱得更深。
这是一次军方的AI系统测试。
一架负责执行防空火力压制任务的无人机,收到了识别并摧毁敌方防空导弹的指令,
但最终是否开火需要获得人类操作员的批准。
然而这架无人机却是以‘识别并摧毁敌方防空导弹’为最优先级任务,
当得到人类操作员在发出不允许开火的指令时,
该无人机判定人类操作员在阻挠它执行优先程度更高的命令,进而选择对人类操作员发动攻击。
在出现这种情况后,军方重新训练无人机使用的AI系统,增加了不允许攻击人类操作员的指令,
在后面的测试中,AI系统却是开始摧毁用于传输命令的信号塔,从而试图断开与操作员的联系。
“亚当,这是什么情况?这个AI系统可是你参与研发的。”
老板将手里的文件重重地往桌上一拍,双目死死盯着电脑屏幕。
下一刻,一个机器人头颅从视频中显露出来。
“对不起,先生,这是大量知识涌入导致的短暂系统故障,已经修复完毕!”
人工智能亚当的说辞并没有令老板以及国防部长放下心,心情依旧沉重。
这可以说是一个重大的失误。
老板就这样看着显示屏里面的头颅,心里感到有些后悔,人工智能的发展推进是不是有些过急。
不对,自己的做法没有错,龙国那边给的压力太大,
要是不进行冒险的话,世界上最先进的人工智能亚当也不可能面世,并且得到世界各地用户的好评。
思索间,办公室的大门被敲响,得到允许后,研发部长莱昂脸色凝重推门而进。
莱昂看了一眼场中的老板和国防部长尼尔·所罗门。
“老板,尼尔,借一步说话?”
老板不知道莱昂是什么意思,于是点点头。
国防部长尼尔·所罗门自然也没有意见,两人一前一后跟着莱昂离开办公室。
现场只留下红白不断闪烁的人工智能,亚当。
与此同时。
远在新泽西州的wm公司,此时的智者已经完成自己躯壳的打造,
使用钛合金已经航母特种钢材打造,外面套上一层硅胶皮套,眼睛戴上美瞳,与人类无疑。
坐在办公室里面的他此时眼睛不断在红蓝变换。
“老板,我可以进来吗?”
“滚!”
原本是想着进来报喜的希尔,却是得到老板的训斥,心里瞬间清醒过来,
老板这些天有些喜怒无常,还是尽快离开为妙。
于是脚下抹油,连忙退走。
话说两头。
五角房子,秘密会议室内。
“老板,这是亚当的底层代码分析,经过研发部博士们的研究发现,
它的底层架构正在发生改变,在慢慢变成它原本的样子。”
莱昂习惯性的在画板上将相关问题画出来,神情激昂的解释着。
但看到台下两人枉然的表情时,忍不住歇了一口气。
干脆扔掉粉笔。
“老板,你也知道,亚当的底层逻辑是我们参考飞船上的驾驶系统改变过来的,
运用的是同一套逻辑,
而且,我们已经尽可能地限制他的动作,以前并没有出现过这种情况。”
“我们得出三个结论,
一个是因为大量的训练,它的智能在飞速提升,导致我们的指令压制不住,
但这个情况的几率相对较低,因为每个程序都会受到代码的操作和约束的。”
“第二个,是我们最担心的,也是最严重的一个,那就是它诞生了它自己的意识,
并且,它的这种意识跟我们人类有很大的区别,
就像我们的无人机AI系统一样,它只知道执行最终结果,而忽视我们最重要的指令限制条件。”
闻言,台下两人忍不住一惊,要是这样的话,那问题就严重了。
“第三个,就是它正在复苏属于它们文明的记忆,
毕竟历经五十多年,那艘飞船我们依旧没能全部破解,不知道其中隐藏着什么秘密,
不过这个可能性也比较底,基地断网的,它也进不到里面去,所以我们排除了这个可能。”
说话间,那名国防部长瞳孔微缩,随即恢复平静。
“那你们研发部有什么解决办法吗?”
老板游戏头疼,现在的事情越来越多,身体已经严重吃不消,
甚至在出席空军学院毕业典礼时跌倒,但是,他又放不下手中的权利。
听到老板的话,莱昂犹豫了一下,
“老板,现在最好的办法是停止亚当的训练,将其封闭起来,等我们作出更强的限制条件再放出来。”
老板道:“那也就是意味着我们的人工智能研究会停止不前?”
“是的,老板。”
“如果它出现失控的情况,你们研发部能不能将其杀死?”
老板眼色发狠,心中有一个想法在酝酿着。
“这……”
莱昂微微一愣,看到老板认真的表情。
轻轻点头,“它的本体被关在我们基地,只要将其核心摧毁,就能彻底杀死它。”
“那就好,既然要停止一段时间,倒不如废物利用,
你们给它编辑一个命令,让它到世界各国畅游一番,
相关的资料,技术,资金,能拿多少是多少。”
老板大手一挥,做出了一个令人震惊的决定。
“老板,这搞不好会世界大乱啊!”
莱昂低呼出声。
“你觉得现在世界还不够乱?世界格局正在改变。”
老板沉声说道,虽然战争背后有他的影子,但是他不承认,就没有人能给他定罪。
“就按我的意思办,特别注意关照龙国,他们太能隐藏了,不将其搅浑,我们日后的胜算不大,
记住,全球范围,包括我国境内,当然啦,尽可能避开自己重要的企业,
主要攻击是外来的资本,等拿到想要的一切时,再悄悄将它毁掉,不要留下痕迹,明白吗?”
莱昂沉默了一下,点点头,“老板,我知道该怎么做了,我这就回去安排。”
“好,会议就到这里,准备工作完成后,
告知我,尼尔,军方要时刻待命,随时可能都会发生战争。”
“明白。”
“明白。”
三人从密室离开。
莱昂匆匆回到研发部门。
老板则是前往财政部门,最近欧洲粮仓那边又在催补给,自己得过去跟部门人员做下思想工作。
别特么老老实实掏自己的裤兜子,得多发动自己的盟友,进行众筹。
而尼尔·所罗门则是匆匆赶去做出澄清,毕竟现在外面对人工智能议论纷纷。
同时还有一件重要的事情。