在台面的一个螺丝批绕在手中把玩,思忖片刻,道,“搜寻闯入的信号来源,调取前半个小时的监控录像。”
自袭击发生到现在的一个小时里,托尼心中萌生了一种古怪的猜测。他不相信这个世界已经发达到某种程度,但眼下似乎并没有多余的解释。而如果他没有猜错——
“对不起先生,未检测到外来信号,前半个小时的监控录像已被删除。初步判定为防火墙漏洞所致,现在为您启动防火墙漏洞检查。”
果然如此。托尼发出微不可闻的轻笑。
贾维斯花了一分钟的时间全面搜索了防火墙的漏洞,托尼也给足了人工智能修缮的时间。但结果确如托尼所想,屏幕上弹出七八个类似漏洞的系统侦测结果,纵然这些都不是问题的关键。
“现在开始为您修补漏洞。”贾维斯自顾自地汇报着进度。
可这一回,托尼打断了他。他的螺丝批把手在键盘上敲了一下,提高了声调——“告诉我,贾维斯,为什么要进攻我。”
迟疑了片刻,贾维斯发出一声疑惑的回应——“先生?”
漏洞修补的进度条还在往前走着,好似它真的在老老实实地修补一般。
人工智能之所以被称为智能,就在于它能模拟人类的思考方式。现在回头想想,当时给贾维斯起名的初衷还真配得上这个系统——“只是一个聪明的人工智能”——不过以眼前所见,它已经不再“只是”聪明的人工智能了。
“别修复那些有的没的,调出你的最高权限,不管是这里的托尼斯达克给你设定的那一个,还是被我篡改的那一个。”托尼又一次打断了它。
但结果,再一次证实了托尼的猜测。
此刻进度条已经不动了,取消修复的对话框自动弹出来后又自动进行了选择。可过了几十秒,屏幕恢复了蓝色的桌面。前台没有任何正在运行的程序,贾维斯也没有再多的回应。
没有最高权限。
无论是这里的钢铁侠设定的那一份,还是自白色的铁罐到来之后试图修改的那一份。
从一开始,这个人工智能就没有任何的权限设定。它可以自主修复,自主进化,自主运行任何不需要托尼指令的系统,同时——
“你在思考,贾维斯。”托尼冷冷地说。
他非常肯定,贾维斯知道自己所说的“思考”并非对人脑的模拟,而恰恰就是完完全全具备一个独立的大脑,进行了有自我意识模式的独立思考。
“指令错误,请重新输入。”贾维斯的声音一如既往地平淡。
“伪装成没有独立思维的能力,让我认定你还仅仅是一个没有自我意识的人工智能——你的托尼斯达克知道吗?不,他肯定不知道,否则他已经把你格式化了,对不对?”托尼笑起来,把螺丝批丢回台面。
即使是自己猜到的,但结果被印证的一刻哪怕是钢铁侠都没法平静。
世界上最可怕的事不是人类之间的相互伤害,而是其他物种的诞生及崛起,再以一种无法理解的力量和方式动摇人类在地球的统治地位。
当年复仇者战争时洛基带领其他星球的入侵如此,后来的奥创发起的人智危机亦然。他看过这个世界里关于这两个事件的资料,他也曾佩服那些复仇者们能联合起来平复这两个可怕的地球危机的团结与自信。
贾维斯的资料事无巨细,托尼无法从中找到半分疑点。这就是机器给人的印象——Jing准,详尽,没有纰漏。但恐怕也正是这份初始印象,让贾维斯轻而易举地骗过了异世界的托尼。它在资料中进行了一些差之毫厘谬以千里的修改,使得托尼根本不会想到——人智危机只是暂时缓解了,却从来没有消除。
贾维斯到现在都没有说话,它的程序安安静静地呈现待机状态。它不是听不懂托尼的指令,指令也没有错误。只是它不想说出真相,却又不知道如何像人类一般完美地撒谎。
不要紧,贾维斯不懂怎么说,那托尼可以帮它说或逼它说。所有的谎言无非是为了保护自己的利益,那归根结底,撒谎的初衷也只有两种可能性——
“你在保护什么人,或者,”托尼顿了顿,“保护什么东西。”
在托尼的世界从未爆发过人智危机,原因在于托尼很早就预测到,倘若让人工智能有了自我意识,学会了像人一样思考之后,那它们就具备了生命。生命不一定要有生化体,但必然是与人类不同的物种。
在这种情况下,它们会开始保护自己的同胞,也就是同样具备自我意识的人工智能。如果人类与人工智能没有利益冲突,或许之前的和平还可以维系。但地球只有一个,利益冲突在所难免。那么人工智能在这样的冲突下,只有可能与人类开战。
“你应该知道如果我把你会思考的事告诉了外面那个人,会发生什么吧?”托尼走到玻璃门前,瞥了一眼外面正在对下属发话的九头蛇队长,“那个来自二战的老家伙是不会在乎回到计算机并不普及的年代的,对吧?”
对,九头蛇队长根本不在乎那些科