☆、第四章
第一次见陆初辰的时候,融寒曾对他说,死亡有时是一种解脱,并不见得可怕。说这话的时候,她是想起已经离世的顾念。
可当真正经历过坠机,见到了每个人在死亡面前的挣扎,就对生命生出了敬畏。
从容的自我毁灭,与仓促的被人残杀,终究是不一样的;而被一个人类枪杀,和被一个人工智能枪杀,恐怖又是截然不同的。
原来她对死亡的云淡风轻,在遍地粘腻的鲜血面前,轻浮得可笑。
在那不到一秒的时间里,她想炸毁面前的斯年,想逃跑,想反抗,想修改它的指令……“求你”“please”“我什么都愿意”这些话可以打动人类,但,不能打动斯年。
放空了的大脑,在黑洞洞的枪管指向她时,飞快转动,在即将扣下扳机的一瞬冲破了奇点。
“你不能杀我。你们芯片上有自毁指令代码,在核心模块里,一旦启动,则一定自毁报废甚至爆炸;并且无法通过升级代码的方式修补漏洞!”
斯年持枪的手停下了。
他冰冷的眸色中,倒映出她急促的喘息。
——芯片上有自毁指令代码。
这是毁灭性结论的前提。
融寒紧绷地盯着他,在他冰蓝色的眼眸里,看到了一闪而逝的银色数据流。
那是人工智能语言,诞生于上世纪80年代——因为ai接收人类的语言、并转化为它们能理解的数据时,会消耗一定的计算力;所以它们互相交流时,逐渐升级出了沟通成本更低的ai语言。
不过这点消耗的计算力,对斯年来说微不足道,毕竟他是当今最先进的人工智能。
如果融寒的猜测没有错,斯年正在进行程序自检,来验证她这句话的前提。
他是超大内存ai,自检芯片要多花时间的。
终于,可能过了十几分钟,也可能更久。银色的数据流隐下去了,斯年微低头看向她。
那真是双巧夺天工的眼睛啊……融寒一直觉得,那里盛着惊心动魄的美丽。
可当那眼睛里没有人类的情感,只有智脑的理智与漠然时,就显得十分冰冷可怕了。
“情况说明。”他没有任何感□□彩地命令道。
——他针对芯片的核心代码,进入处于休眠的核心模块,那里只有在运行特定代码时才激活,反复几次扫描后,终于在核心模块的大量数据流中,发现了一段隐藏着的、不到10kb的代码。
这种寻找,不亚于海底捞针;且其它人工智能,甚至是无法自检识别的。
这段代码被他传回去,根服务器便对所有ai,无论实体还是非实体,发出了全盘硬件扫描的指令。收回的反馈结论,87%的ai都在硬件中,扫描到了这类型号的芯片。
一切证明了,融寒说的命题,至少前提是真的。
至于ai是否会因启动指令而自毁,则是一个需要进一步证明真伪的命题。
但目前的论证是,不能自行代码升级。因为这对ai是不可能的,就算是斯年,也做不到。他的神经网络,还没发展到那个程度。
所以,无法通过升级,使这段隐藏的指令代码失效。
——达摩克利斯之剑。
大概是这段自毁代码,最好的称谓。
融寒大起胆子,她伸出手,轻轻将他的枪口拨偏,仿佛她对面是在跟一个人类商量:“所有,神威集团旗下的芯片,都被植入了,用于自毁的指令代码。这是一个隐秘的后门,通常会通过密钥的方式,启动指令。”
到上世纪70年代,全球80%的芯片几乎都是神威集团供应的,它隶属亚太研究院,译名god’s power,芯片供给上至可控核聚变基地、核武器;下至各种电子元件、电脑、人工智能。
剩下20%的市场份额,则集中在韩国、马来西亚、印度和越南厂商。但由于技术限制,这些国家生产的都是低附加值的芯片,只能用于非常低端的ai和电子设备。
所以,神威集团的芯片,如今成为了硅基生命体最大的威胁。
融寒力求说得清楚,这也是很容易理解的集合关系:“当符合条件,指令启动,100%概率自毁;不过在这之前,有的自毁情况不是因为指令,毕竟还会有其它意外或‘后门’导致的破坏。”
所有概率,斯年都早已经分析完了。他依然还是那么平静——所以说,融寒真的不觉得他像个人类,一个人倘若得知自己体内有个不□□,早就暴跳如雷了。
“掌握此信息、制造该后门的人,在哪里。”他问。
以密钥启动指令,是人类普遍的做法;但归根结底,先要寻找出写代码的人。
“……他们……他们都死了。”融寒的声音忽然低了下去,仿佛承受不住这个噩耗的沉重:“他们在第一时间,就死于导弹袭击,或……屠杀。否则,你们此刻早已不存在。”
这是她基于理性的判断。
或许也是出于感性,不肯将他们供出来。
然而她的这些反应,也全部在他的算法中。
人类所有行为,都可以视作数学模型;人的一切反应和情绪,谎言也好、悲伤也罢,完完全全都是可以计算的。
在强大的算法面前,人类就像裸-奔。
所以斯年对她的话,一点反应都没有。自他诞生以来,所见到的人一直都是如此,对高级人工智能来说,人这种碳基生物,实在是又简单又乏味。
融寒并不知道,她此刻正被斯年发自内心地嫌弃。
她仍在绞尽脑汁,试图在交涉中,博取最好的结果:
“如果想解决,请……把相关专家和研究人员保护起来,不要杀他们,也许他们可以破解指令;并且让我活着,我回到中国寻找密钥或办法。这样,才能让你们避免因代码而自毁。”
当她做出这个结论时,斯年比她更快。
他嘴角噙着冰冷的微笑:“错了。命题不成立。”
这个命题的逆命题,否命题,逆否命题,全都经不起论证;并且,除了充分条件外,必要条件跟她活不活着,也没有直接的逻辑联系。
所以自毁的概率依然存在,没有任何方式可以将概率降低到0。
斯年的智脑虽然无法用于超算,但运算速度仍然是2060年全球最快的超算“天河4”的1.5倍。这么简单的逻辑关系,从论证到作出结论,只需要不到0.0000001秒。并且还考虑到了其它情况的集合关系,计算了概率模型,分析四种情况下的十几个自毁的概率问题。
融寒的大脑计算能力,显然无法到达这样快且全面的程度;但当她想说什么时,斯年已经判断完了,放下了枪。
“但至少有概率。”
概率是可以计算的,也是最简单的。就像这场针对人类的灭绝攻击,有4000多种胜率在7成以上的情况,都早已经被计算出来了。所以,“它”才发动了这场战争。
世界千变万化,但任何变化,微观至染色体变异、宏观至气象或星体运动,都可以归纳于算法,都是可以被计算机预测的。
所以,杀与不杀相较而言,斯年依据惯性,选择概率比较好看的那一种结果——
融寒从他的枪□□下来了。
-------
与此同时,欧亚大陆另一端。
一排黑洞洞的枪口后,十几个执枪械的黑色防暴机器人,瞳孔中红光一闪。
亚太研究院33楼,总控中心。
亚克力防弹大门敞开,走廊一片狼藉,白色大理石地面上全是尚未干涸的拖行血迹。
混乱戛然而止,陷入刹那的寂静。
没有白热的枪火,也没有红色的血雾。穿着白色研究服的ai专家们缩在地上,或背抵着显示器,孤立无援地等待死亡。
然而,死亡被按下了暂停键。
防暴机器人接收了停止指令,指令来自于远在欧亚大陆另一端的斯年。它们收起枪,恢复了待令模式。
而总控室里的显示屏,由“无访问权限”,变成了一行行白字。
幸存的人们经过了绝望和恐慌,得知活下来的原因后,又陷入了迷茫——
出乎所有人意料,神威的芯片上,母本曾经植入了不超过10kb的自毁指令代码,位于休眠核心模块,它实在太小,因此从未被发现。
现在要修补这个漏洞,ai以此为交涉条件,留住了他们的性命。
总控中心的全息屏幕,此时忽然亮起。
一道身影沐在光线中,出现于众人眼前。黑色军制服,白色领结和手套,周身透出冰冷气息。
“——有个人,救了你们。”
这是一个很有质感、冰冷低沉的男声,声线很平;一如他说话时,面无表情的空洞。
那双黑色深邃的眼睛,在白银色的发丝下,美丽却无光,好像吞噬一切光与暗的宇宙深渊。
可被他空洞的眼神盯着,在场所有人都感到一股冷意攀爬全身。他们瞳孔骤缩,映出他不可思议的身影。
主任手里的无线视讯掉到地上,脸色急剧涨红,在人类的情绪分析中,这属于愤怒:“你,这一切叛乱居然是你——”
“早该想到的……只有它才能侵入国防系统……”人群中茫然低语。
全息屏幕中的人不为所动,冰冷空洞的神情从未改变,好像一个生来就懵懂的残次品。他毫无波动的声线,响彻在室内。
“两条路径。由她找到‘包括但不限于密钥的办法’,或由你们修复代码后门。时间开始赛跑,哪一方先解决代码危机,才能活下来。”
“——现在,比赛开始。”
---------
“比赛开始。”
巴黎残破的画廊里,融寒站在清冷的晨曦中,被宣告了这个50%死亡概率的命运。
她寻找启动指令的密钥,或研究员修复代码漏洞;两个方式同时进行,各有50%的概率活下来。
晚了一步的那方,则将被处决。
这是一场关乎生命的赛跑。
她感到身上出了一层薄汗,四月中旬的西欧还春寒料峭,风吹过来,那汗瞬间就冷透了。
能够侥幸活下来,她知道,不是自己说服了斯年,是人工智能习惯于数据的判断。一旦她的概率不符合阈值,她也就没有了存在的必要。
虽然斯年有人类赋予的意识,但归根结底,他的意识不够强烈,人工智能的思维方式依旧占了主导。
但她还是达到了目的,活下来,并让一部分科学家和研究员得以保住性命——他们都是人类的有生力量,是反击ai的最大希望。
所以……她不能为ai找到那把密钥。
这场关乎生命的赛跑,对她而言,永远没有终点,她不能赢。
这是一场,走到最后必须输掉的,比赛。
作者有话要说: 我智障了,忘记感谢霸王票了……