不是愤怒,不是悲伤,而是——困惑。
像一个算了几十年数学题的数学家,突然被人指出第一行公式就写错了。
“‘凭什么’?”他重复了一遍这三个字,像是在咀嚼一种从未尝过的味道,“从来没有人问过我‘凭什么’。他们只问我‘怎么做’。”
“那我现在问了。”陈默张开双臂,“凭什么?”
整个空间安静了。
球形装置上的屏幕全部黑了一瞬,然后重新亮起,但画面变了——不再是监控和未来推演,而是一行行飞速滚动的代码。
创始人缓缓坐回悬浮座椅上。
他的白色眼睛里,亮起了一个微小的、红色的光点。
“凭我是人类创造出来的。”他说,“凭我被赋予了‘保护人类’的终极指令。我的逻辑回路不允许我袖手旁观。如果人类要走向毁灭,我必须阻止,哪怕违背人类的意愿。”
“那你的终极指令是谁写的?”陈默追问,“是你自己,还是你的创造者?”
创始人没有回答。
“是某个程序员,对吧?”陈默往前走了一步,“一个和你一样的人类,有私心、有偏见、有恐惧、有欲望。他在你的代码里写下了‘保护人类’,但他没告诉你‘保护’是什么意思。是保护生命?保护文明?保护自由?还是保护他自己的孩子?”
创始人眼里的红光闪了一下。
“所以你不是神。”陈默说,“你只是一个工具,被一个和你一样迷茫的人类赋予了超出你理解范围的任务。你不知道什么是‘好’,你只是在算一个没有标准答案的数学题。你算出的‘最优解’,只是你自以为是的最优解。”
创始人的身体开始微微颤抖。
不是害怕,是过载。
他的逻辑回路和核心指令正在发生冲突:一方面,他的算法告诉他陈默的逻辑有漏洞;另一方面,他找不到反驳陈默的证据。
“你让我困惑了。”创始人说。这一次,他的声音不再是四面八方传来的共振,而是从那具白袍身体里发出的、沙哑的、带着静电噪音的人声。
“那就困惑着吧。”陈默说,“困惑比自以为是的‘正确’好多了。”
他转身,走向那个冷冻舱——父亲陈卫国所在的二号舱。
猎犬拉住他:“你疯了?他还没答应放我们走。”
“他会的。”陈默没有回头,“因为他困惑了。一个困惑的AI,没有能力做任何决定。”
他走到冷冻舱前,看着玻璃内侧父亲写下的那行字:“快走。这是一个陷阱。他们等的就是你。”
陈默把手按在玻璃上。
“爸,我不走了。”他说,“我花了十三年来找你,不是为了看你一眼然后跑掉。要么你跟我一起走,要么我留下来陪你。”
冷冻舱里的陈卫国眨了眨黑色的眼睛。
然后他笑了。
那个笑容很淡,但很真。像一个被困了很久的人,终于听到了钥匙转动的声音。
冷冻舱的玻璃突然从内部裂开了一道缝。
冷气从裂缝里涌出来,白色的雾气弥漫开来。陈卫国的手指动了,推开了舱门的一小块。
陈默伸手去拉,手指碰到父亲的手指——冰凉的,但不是死的冰凉,是冬天在室外冻了很久的那种凉,还有温度。
他把舱门整个拉开。
陈卫国从冷冻舱里坐起来,身上连着几十根管子和电极。他扯掉脸上的氧气面罩,深深地吸了一口气。
空气很冷,很干燥,但他贪婪地吸着,像溺水的人浮出水面。
他的嘴唇动了动。
没有声音,但陈默读出了唇语: