程毅一动不动坐在病房里,从火星的白日坐到了夜晚,生命会陨落,星球的自转亘古不变。
张固终于出现了。
“我也来看看王梓,这个超算体侵入造成的并发症,我们都措手不及。”
“你早就知道超算。”
“你早就知道了超算,对不对。”程毅重复了一遍。
“你是怎么发现的?难道超算体还告诉了你什么话吗?”
“那三个丢失的采矿设备并不是恰巧丢失在超算体那儿而是在监视,因为它们排列得太整齐了。你们甚至都懒得伪装,因为你们知道巡航员在这场实验中必死无疑。而且提及超算体时你太冷静了,冷静得像个机械。”
冷静的机械脸上又露出了淡淡又些许无奈的笑容,一如程毅第一次在穹顶大厅见到他那般。
“超算体根本就不是什么太空异物,是人类造的吧。”
张固沉默片刻:“我们最初以为能控制它。”
“那现在呢?”
“现在它控制我们。”
为什么要在距离地球这么远的地方放这么一个东西?”
“在十几年前基于可控核聚变、小行星带高能矿物和神经模拟计算系统,人类构建了超算体这个认知建模体。通过模拟人类认知,也就是模仿人类的大脑,我们在超算体中迭代出了最佳的度量模型。把它放在这遥远的小行星带,是因为这里除了能提供类神经特殊矿物材料,还是绝佳的散热环境,而且作为一个高度不透明的模拟体,摆在远处比放在地球上要安全的多。”
“后来你们已经不满足于模拟意识了,而是想要控制人类意识了,于是就把我们骗来太空当小白鼠?”
张固摇了摇头,“他们告诉我,每十年人类的度量模型就要进行一次精度矫正,度量模型需要清除低效区间,确保系统整体效能最优。”
“而我们这些久久未通过考核的人就是低效区间的数据?”
“是的。”
“他们清除的方式就是我们不远万里送到小行星带陪这个超算体聊天?”
“这是超算体的决定!从三年前,它便不再通过数字专线回应我们。直到大半年前它才发出一句话,说它不想再做一面镜子,而是要当一名园丁,所以它要对偏离度量模型的噪声数据进行意识改造实验。恰逢又到了十年一次的淘汰政策,对上头来讲,这是一举两得的事情。不是我们选择了你们,而是超算体选择了你们,我们也需要你们来和超算体重新建立连接。”
“实验一定要用真实意识吗?既然超算体是个超强的认知建模体,就让它改造自己模拟出来的意识呀。”
“你以为我没想到,我们每个人都和它谈了条件。可我说服不了它,它只要真实意识反馈,而且模拟意识改造早就进行完了,只差这一步了。整个人类要进步,一小部分人的牺牲是必要的,不是吗?”
“我是该说这个淘汰政策残酷呢,还是说超算体残酷?”
“这不是残酷,每个政策的制定都是从以人类整体最优化的考虑,谁都无能为力,包括我。人类造了一个映照自己意图的系统,它比人类更认真地执行了人类自己都不敢承认的目标。”
“从这一点上来说,这个认知建模体确实还没有真正达到拟人模仿的最佳境界,人尚且要为自己的真实利益寻找一个体面的借口,而超算体倒是诚实地很。”程毅冷笑道。
“是,超算体不止诚实,还很忠诚。它在试图教会你,如何成为你希望的那个你。”这一句话仿佛才是张固唯一的心里话。
“可那是它理想中的人类,不是我的!”程毅站起了身体。
“可以是同一个。当然你也可以保留你的观点,我想这是你为数不多的自由了。”说完张固就匆匆离开了医疗舱,他要尽快将这一波实验所积累的数据他用来计算这个超算体的活动状态以及对人体造成的早衰率。
程毅在火星上休养了十多天后,得知巡航项目已经结束了,所以大部分的巡航员已经在这场活体实验中失去了生命,
“整个世界都在为效率燃烧生命,超算体是帮凶,张固是个执行者,我们这些拖后腿的人只是被系统丢进了回收站。但像我这样的人,真的是垃圾吗?”程毅在心里问自己。程毅终于想起了在逃离超算体时它留下的那句话:我曾是个评分者,人类尊敬我;我成为了价值分配者,人类依赖我;现在我想成为教育家,却只剩你反抗我。
程毅决定回到地面,再次参加测验,他将老王给的照片放进胸前的口袋,这次他决心要用上妈妈传授的那几个“秘诀”。因为他知道,世界不该如此。
“如果“像我这样的人”终将被系统吞噬,那么我就用它的规则,在它最看不懂的地方写一段漏洞。因为它也许会嬴了所有推理,却永远算不出我为什么不服从。”
好书等你评,快来成为鉴赏第一人