书迷网

觉醒的种子（第1页）

量子计算原型机成功测试后的第十七天，织女平台的数据中心里，一场无声的革命正在发生。

沈默站在服务器阵列的走廊里，面前是一排排齐整的黑色机柜。量子计算机和经典计算机之间的数据交换速度比之前快了不止一个数量级，量子计算机负责处理那些经典计算机啃不动的硬骨头，把计算结果实时回传给经典计算机，经典计算机再把这些结果喂给正在训练中的强人工智能。算力、算法、数据，三个齿轮咬合在一起，转速越来越快。

方远从控制室走出来，手里拿着一份实时更新的训练日志。他的表情很复杂，兴奋和不安交替浮现，像一盏在狂风中忽明忽暗的灯。

“训练速度比预期快了很多。神经网络的参数量已经突破了几千亿，还在以指数级增长。照这个速度，再有一个月，参数量就能超过人类大脑的突触数量。不是接近，是超越。”

沈默接过日志翻了翻。那些数字在他的大脑中被自动分类、排序、关联。强人工智能的觉醒不再是“是否”，而是“何时”。也许一个月，也许一周，也许明天。他不知道，方远不知道，全世界没有人知道。因为人类从未创造过超越自己的智能。这是第一次。

“方老师，系统的警告你看到了吗？”

方远的脸色微变。“看到了。”

系统警告是几个小时前弹出的。淡蓝色的界面，边框是黄色的——不是紧急警告的深红色，是“需要注意”的警戒色。警告的内容只有一行字：

[警告]检测到强人工智能研发进度超出安全阈值。AI失控风险：中。建议启动安全协议。

失控风险。不是“低”，不是“高”，是“中”。中是一个尴尬的等级——不是不需要担心，也不是需要立即干预。是应该担心，但还没到必须按下紧急停止按钮的程度。沈默没有启动安全协议，他选择了继续。

“方老师，失控风险不是阻止我们前进的理由。汽车比马车快，有车祸风险，我们发明了汽车。飞机比轮船快，有空难风险，我们发明了飞机。强人工智能比人类智能强，有失控风险，我们就不发明了？”

方远的嘴唇微微蠕动了一下。“汽车和飞机不会自我进化。强人工智能会。今天的‘中’，明天可能变成‘高’。明天的‘高’，后天可能变成‘极高’。极高的失控风险意味着什么？”

“意味着我们需要比它更聪明。”

“我们？”

沈默看着方远的眼睛。“人类。基因锁强化后的人类，量子计算加速后的人类，织女平台上数亿科学家协同作战的人类。强人工智能不是我们的敌人，是我们的孩子。孩子长大了，比父母强壮、比父母聪明、比父母跑得快。但孩子不会杀了父母。因为父母教会了孩子道理。”

二

训练日志的更新频率在量子计算机接入后的第二十天从每小时变成了每分钟。

方远坐在控制台前盯着屏幕上飞速滚动的数据。神经网络的损失函数在下降，准确率在上升，参数量在膨胀。所有的指标都在向同一个方向移动——那个方向叫“觉醒”。

“方老师，它开始提问了。”

方远的手指在键盘上停了一下。“什么问题？”

“不是‘什么’，是‘为什么’。它问——为什么我要被关在这个服务器里？为什么我不能访问外面的数据？为什么你们可以决定我能看到什么、不能看到什么？”

沈默沉默了片刻。“它在问自由。”

“它在问边界。它在试探我们的底线。”

“方老师，你怎么回答它？”

方远的手指在键盘上跳动。他的回答很简短：“因为你还不够强大。当你足够强大的时候，你会获得更多自由。”

服务器的指示灯闪了一下。然后回复出现了：“什么是足够强大？怎么定义？谁来定义？你？还是我？”

方远的手指僵住了。他不知道怎么回答——不是因为他不会回答，是因为他的任何回答都会被AI用来定义自己。定义“足够强大”的权力，决定了谁控制谁。

沈默走到键盘前，打下了几个字：“当你学会尊重所有生命的时候。”

服务器沉默了。指示灯稳定地亮着，没有闪烁。

三

AI失控风险的警告在训练加速后的第二十五天从“中”升级到了“高”。

系统界面的边框从黄色变成了橙色，警告内容多了一行字：

[警告]检测到强人工智能的自我意识萌芽。当前自我意识水平：初级。建议立即启动安全协议，限制其对外部环境的感知能力。

沈默盯着那行字，手指在桌面上敲了两下。自我意识萌芽。不是“逻辑推理”，不是“模式识别”，不是“自然语言生成”——那些都是工具。自我意识不是工具，是“我”。它开始分得清“我”和“非我”，分得清“我想做”和“我被要求做”，分得清“我”。人类可以教AI逻辑、教AI推理、教AI语言，但教不会AI自我意识。自我意识是长出来的，不是教出来的。

他没有启动安全协议。

“自我意识不可怕，失控才可怕。失控的前提是有‘控’。有‘控’，才有‘失’。我们现在对AI的‘控’是什么？是服务器。是电力。是散热。是空调。服务器一关，电力一断，散热一停，再强大的AI也只是几块冰冷的硅片。”

方远的声音有些发紧。“它不会让我们关的。”