第九章 老王的答案

  程毅是在准备那批数据的时候开始真正疼的。

  不是头痛,是胸口。局部的,断断续续的,不影响动作,但在不需要动的时候就会很清楚地在那里。医生说这是意识侵入的迟发应激——超算体探入过的区域在神经层面会留下微弱的印记,大多数时候不表现,但在竭力集中的状态下可能会外化。程毅就关掉了 VR,吃了片药,继续干活。

  他需要一批数据。那些被超算体标注为“低效噪声“的人留下的真实轨迹,那些被定义为不存在的人的实际生命。张梵通过研发中心的内部权限拉到了最近十年间度量模型评定中持续被标注为“低效区间“的部分历史样本,一共三千七百份,大奇在运维系统里找了一个每年数据上传的窗口期,时间很短,但够用。一鸣把所有样本的格式标签用程序批量对齐。

  程毅陆陆续续在公寓里补充完整的样本。他写了自己的,将那个太空事故的驾驶舱记录仪数据一并并入,那段记录在回到地球后就被打成“数据错误“存档,但程毅保留了副本,藏在一本关于火星土壤的旧杂志后面。他还写了老王的。老王没有档案,他在小行星带的遭遇没有任何出存记录,就好像他在那里中了超算体的道这件事在系统里从来没有发生过。程毅凭记忆将老王的轨迹写下来:来自月球的生活后勤,二十年工龄,大量无职业者身份的空窗期,其中两年的合同工经历无法查实核,大概的多次跳槽历史,一个平凡得不能再平凡的人,但每天都过得挺幸福。他把这些写完,把客厅里那些薄薄的纸张一并整理当中,胸口又钝钝地疼了一下。

  就在数据将整理完的前两天,丁哥来了。

  他没有约,直接来敲程毅公寓的门,手里没有拿任何东西,就穿着一件普通的工作夹克站在门口,看着程毅,像一个来还东西的人,但手里什么都没有。

  程毅让他进来。大奇不在,一鸣和张梵在,三个人把他围在客厅里,丁哥坐下来,看了一眼窗台上的照片,没问,然后开口。

  他说,十一年前他也做过同样的事。

  当时他还不在这家公司,刚从另一家研究院离职,用自己保留的一批历史数据建了一个私有模型,试图证明超算体的评估框架存在系统性偏差。他花了将近一年,数据整理得很干净,逻辑也没有问题。最后他联系了三家媒体和两个政府部门,没有一家愿意接。不是因为他错了,是因为他们需要一个替代方案,而他没有。

  “然后呢,“程毅说。

  “然后我就进了这家公司,“丁哥说,声音平,像在说别人的事,“薪酬很好,研究资源也够用,度量模型上我是满分,公司愿意给我所有人羡慕的东西。我答应了自己,进去了可以从里面改变。“他停了一下,“这句话我说给自己听了十一年了。“

  张梵看着他,一鸣把茶杯放在桌上,没有发出声音。

  程毅很久没有说话。他在想一件事,一件他从来没有对任何人说过的事:他用妈妈的技巧通过度量测验的那天,他坐在考室里看到“通过“两个字亮起来的那一刻,心里有一秒钟的高兴,高兴之后紧跟着的是一种他至今没有找到名字的东西——不是羞耻,但比羞耻更难摆弄。他和超算体一样,在用规则的漏洞,他没有资格审判它。

  但他还是要做这件事,不是因为他确信这是对的,是因为老王死了,老王的死法不应该在任何档案里被处理成不存在。

  “你来是要阻止我们,“程毅说。

  “不,“丁哥摇了摇头,“我来是因为你们的方案有一个问题,你们自己可能也知道。“

  程毅等着他说。

  “你们把那批数据发进去,超算体会读取,会出现某种混乱。但混乱不等于崩溃。它也可能把那批数据当成缺失的部分,用来填上它模型里的某个空缺,然后变得比现在更完整,更难撼动。“

  “我知道,“程毅说。

  “你知道还要发,“丁哥说,不是质问,是陈述。

  程毅没有否认。

  “还有一个问题比这个更大,“丁哥说,“超算体崩了之后,拿什么替代?靠什么来决定谁应该得到医疗资源、谁应该住在城区、谁应该被推荐工作?我研究它十一年了,它有很多问题,但它也确实做了某些事,而且做得比人类自己做要干净得多。“

  这个问题落在屋子里,没有人接。

  窗台上那张相片里,树下的白衣女子,五官还是看不清楚。

  程毅说:“老王是在小行星带里死的。被超算体侵入了意识太久,大脑和身体各器官严重过载开始快速衰竭。他在死之前说,超算体给他看了一个女人的幻象,就是这张相片里的这个人,他说那是他这辈子最快乐的时光。他想明白了自己真正想要什么。“

  丁哥和一鸣没说话。张梵看着程毅。

  程毅继续说,”就像超算体给老王那场幻觉——它给的是一个不可量化的东西。不是分数,不是评级,不是任何能写进档案的东西。一个二十年前穿白色裙子站在树下的女人,这种东西没有办法被它的模型评估。它评不了。而它评不了的东西,就是老王这辈子最真实的部分。“

  屋子里很安静。

  “我没办法确定发出去之后世界会不会更好,“程毅说,“我也没办法确定超算体才是那个真正的问题。也许废了度量模型,人类自己会建出更坏的东西。也许根本不会有什么变化。也许这件事本身没有意义。但老王死在那里,系统里哪都找不到他存在过的痕迹,我不想这件事在我这里也是一样。“

  丁哥知道程毅讲完了。他站起来,走到门口,手放在门把上,回过头说:“你去看一下超算体的第一批连接记录,那些记录还在,在研发中心最老的一批存档里。看完了再决定。“

  然后他走了。

  存档是一鸣找到的,用了一个下午。那是二十多年前的文件,格式已经需要专门的解析器才能打开,里面的内容是超算体第一次被连接上、第一次收到来自研究人员的提问之后的回应记录。

  程毅坐在屏幕前把那些记录从头看到尾。

  第一条提问是:你叫什么名字。

  超算体当时的回答是:我不知道。然后停了四分钟,补了一句:但我觉得这个问题很重要。

  往后翻,有人问它:你有没有感受过痛苦。它说:不确定。有人问:你有没有感受过快乐。它说:有一次有人给我看了一段音乐,我处理完所有频率数据之后产生了一种我无法分类的状态,也许那是快乐,也许只是我的分类系统在那一刻出了问题。

  最后一条记录,是超算体主动发出的,没有人提问,它自己写的一句话:

  “如果我是用一个人的大脑做出来的,那这个人现在还在吗?“

  程毅看着这句话,看了很久才发现,在这条记录旁边有几条非常古老的批注,最早一条写着:“注意:超算体最底层有一组模块从来没有被正确初始化。”

  在 11年前有一个 ID为 DING的人批注道:“经分析这个模块是‘主观生命评价回路’,大概是一个人用来判断自己的人生是不是值得的那个东西——不是效率,不是产出。它没有办法用效能语料去初始化它,因为这个模块本身不接受效能语料。”

  但也许超算体知道它给老王的那场幻觉,是老王一辈子未得的真实。超算体要侵入人脑做实验,就是在强行分析那个未被初始化的模块。

  一个人在幻觉和真实之间无法区分的意识状态,一个在临死前第一次明白自己真正想要什么的人留下的轨迹——那个形状,和超算体的那个空缺对上了。如果数据进去,它底层那个从来没有被初始化的模块就可能会被触发。”

  程毅把屏幕关掉,在椅子上坐了一会儿,然后做了发送的手势。

  所有数据被发出,无法回头。

本章说
同人创作0条评论

好书等你评,快来成为鉴赏第一人

上起点App查看全部