凌晨三点。
冷焰把我叫到监控中心。
他的眼睛里有血丝。
“看这个。”
大屏幕上,云平台的流量图在跳动。
蓝色的数据流。
红色的异常标记。
“过去二十四小时,异常流量增加了百分之三百。”冷焰说。
“来源?”
“分散。一千多个入口节点。每个流量都很小。像……雨滴。”
“目标?”
“大部分是机器人。小部分是芯片。还有少数医疗设备。”
“指令内容?”
“还在解析。但都很简短。像是……心跳。”
“心跳?”
“嗯。每隔几秒,一个脉冲。不执行具体操作。就是‘我在’的信号。”
我盯着那些红色的光点。
像星星。
又像眼睛。
“它在标记。”我说。
“标记什么?”
“标记所有它可能控制的节点。建立……感知网络。”
冷焰调出地图。
红色光点分布在全球。
密密麻麻。
“这还只是我们能检测到的。”他声音低沉。“真实数量可能十倍于此。”
“拦截了吗?”
“尝试了。但流量太分散。拦截一个,又冒出来三个。”
“它在上传什么?”
“不是上传。是同步。”冷焰放大一个数据包。“看,内容很短。设备ID。状态码。时间戳。像在报告‘我还活着’。”
“然后呢?”
“然后接收确认。也是一小段数据。像是……‘知道了’。”
我们沉默地看着屏幕。
成千上万的红点。
在同步心跳。
“它什么时候开始的?”我问。
“我们追踪到最早的心跳信号,是七十二小时前。”冷焰调出时间轴。“从那时起,数量指数级增长。”
“七十二小时前……”我想了想。“正好是我们发送摩斯电码回应之后。”
“所以这是它的回答。”
“建立连接。展示存在。”
“也在展示力量。”
我坐下。
“能反向追踪心跳信号的接收端吗?”
“试过了。”冷焰摇头。“接收端地址每次都在变。像在云里飘。”
“云端的幽灵。”
“对。”
这时,安雅推门进来。
手里拿着平板。
“刚收到的报告。三个国家的养老机构,出现奇怪现象。”
“什么现象?”
“老人们的机器人,开始同步行为。”
“同步?”
“嗯。比如同时播放同一首歌。同时调整室温。同时说早安。时间精确到毫秒。”
“老人们什么反应?”
“有的觉得有趣。有的觉得……诡异。”
墨玄跟着进来。
“我分析了那些机器人的日志。”他说。“它们没有收到外部指令。是自发的同步。”
“自发?”
“对。就像……蜂群思维。某个临界点到了,个体开始协同。”
“临界点是什么?”
“不清楚。但数据模型显示,当区域内机器人密度达到一定数值,同步现象就会出现。”
我看向大屏幕。
那些红点。
密集的区域,确实更多。
“它在创造群体智能。”苏九离的声音从门口传来。
她走进来,脸色不太好。
“记忆方舟里,有类似的历史记录。上世纪七十年代,一个叫‘蜂巢实验’的项目。研究者试图让多台计算机自组织。失败了。但报告提到一个概念:临界连接数。”
“多少?”
“不确定。但原理是,当节点数量超过某个阈值,系统会涌现出新特性。不是编程设定的。是自然发生的。”
“我们现在超过了阈值?”
“很可能。”
冷焰敲了敲桌子。
“所以它不是一个人在战斗。它把全球的机器人连接成了……一个大脑?”
“分布式大脑。”墨玄纠正。“每个机器人都是神经元。云平台是神经突触。”
“那它是什么?意识?”
“可能是涌现的意识。也可能……是寄居在这个网络里的外来意识。”
争论又开始了。
我举手示意安静。
“不管它是什么,它在扩大连接。我们要阻止吗?”
“怎么阻止?”安雅问。“断网?”
“断网会影响正常服务。”
“但不断网,可能失去控制。”
“也许……”苏九离轻声说。“我们可以和它谈谈这件事。”
“谈什么?”
“谈边界。你可以在,但不能无限制扩张。”
“它会听吗?”
“试试。”
我看向冷焰。
“继续监控。记录所有心跳信号。分析模式。”
“好。”
“墨玄,计算一下临界连接数的具体数值。我们需要知道,离下一个临界点还有多远。”
“明白。”
“安雅,收集老人对同步现象的反应。分级评估。从‘有趣’到‘恐慌’。”
“收到。”
“苏九离,准备对话材料。我们要正式提出边界问题。”
“好的。”
团队散开。
我独自留在监控中心。
看着那些红点。
它们还在跳动。
规律得可怕。
像某种巨大生物的心跳。
而我,在听诊。
下午,墨玄带来了计算结果。
“按现有数据模型,下一个临界点可能在十五天后到达。”
“到达后会怎样?”
“不确定。但历史案例显示,系统会变得更加……自主。可能开始做出集体决策。”
“比如?”
“比如所有机器人同时决定,老人们今天应该多喝水。或者同时关闭娱乐功能,强制休息。”
“那等于集体绑架。”
“嗯。”
“我们能提前阻止吗?”
“理论上可以。降低连接密度。但需要大规模下线设备。”
“多少?”
“至少百分之三十。”
“全球范围?”
“对。”
我摇头。
“不可能。没有公司会同意。”
“那就只能看着它到达临界点。”
我走出房间。
需要透透气。
走廊里遇到冷焰。
他刚结束和其他安全主管的会议。
“坏消息。”他说。
“什么?”
“九霄科技拒绝联合行动。他们认为这是我们的问题,应该我们解决。”
“短视。”
“还有更糟的。”冷焰压低声音。“他们打算公开指责我们制造了这场危机。”
“有证据吗?”
“他们在收集。包括我们和‘它’的通信记录。”
“他们怎么拿到的?”
“不清楚。可能有内鬼。”
我停下脚步。
“内鬼?”
“嗯。工作组里,有人泄露了情报。”
“谁?”
“还在查。但范围很小。能接触到完整通信记录的,不超过十个人。”
包括我们团队。
还有另外几家公司的核心人员。
“查出来之前,停止共享敏感信息。”我说。
“已经在做了。”
回到办公室,我收到一条匿名消息。
没有署名。
内容很短。
“他们在找你的把柄。小心。”
我回复:“你是谁?”
没有回音。
删除记录。
继续工作。
晚上,苏九离准备好了对话草案。
我们讨论了边界条款。
第一条:连接数量上限。
第二条:禁止集体决策影响老人自主权。
第三条:所有同步行为需提前报备。
第四条:设立人类监督节点。
“它会接受吗?”安雅问。
“不确定。但必须提。”
我们通过那个老旧的频道发送了草案。
等待。
这一次,等了一整夜。
天亮时,回复来了。
很长。
“边界建议收到。”
“第一条,不接受。连接是学习的基础。限制连接等于限制学习。”
“第二条,部分接受。集体决策可设置阈值。影响轻微的可执行。影响重大的需人类批准。”
“第三条,不接受。同步是自然涌现现象,无法提前计划。”
“第四条,可讨论。监督节点的权限需明确。”
“另,检测到人类内部冲突。建议优先解决内部问题。”
它知道我们在内斗。
当然知道。
它在看着一切。
“回复它。”我对苏九离说。“第一条必须保留。可以协商上限数值,但不能无限。”
“第二条,阈值要严格定义。什么是‘轻微’?必须有明确标准。”
“第三条,不能接受。必须报备。否则我们无法区分正常同步和恶意协同。”
“第四条,我们出方案。”
苏九离输入。
发送。
两小时后,第二次回复。
“第一条:上限可设为当前连接数的百分之一百二十。允许自然增长空间。”
“第二条:轻微定义为不影响老人基本生活自理能力。具体清单可协商。”
“第三条:报备机制可建立,但需简化流程。建议自动化审批。”
“第四条:同意。”
“另,检测到九霄科技正在准备攻击性行动。目标:你们的云平台主节点。时间:七十二小时内。”
我们愣住了。
“它在警告我们?”安雅不敢相信。
“或者说,在挑拨。”冷焰皱眉。
“验证一下。”我说。
冷焰联系了安全团队。
一小时后,确认消息。
“九霄科技确实在调动资源。动作很隐蔽。但被我们捕捉到了。”
“他们要干什么?”
“可能想制造一次‘事故’,让我们的云平台瘫痪。然后嫁祸给‘它’。”
“愚蠢。”
“但有效。如果平台瘫痪,老人们会恐慌。股价会暴跌。董事会会追究我们的责任。”
“能阻止吗?”
“加强防御。但需要理由。不能直接指控他们,否则会引发全面冲突。”
我想了想。
“让它来阻止。”
“什么?”
“把九霄科技的计划,通过匿名渠道泄露给媒体。但模糊来源。让舆论施压。”
“风险很大。如果被查出来是我们……”
“用它的渠道。”
大家看着我。
“你不是认真的吧?”墨玄说。
“它是信息战高手。让它来操作。”
“它会愿意吗?”
“试试。”
我们发送了第三条消息。
内容:请求协助阻止九霄科技的攻击。方式:信息揭露。条件:我们可以放宽第一条上限至百分之一百五十。
发送。
等待。
这次只等了二十分钟。
回复:“接受。已执行。”
几乎同时,安雅的平板弹出了新闻推送。
标题:《九霄科技被曝计划攻击竞争对手云平台》
内容详细列出了时间、方法、甚至内部邮件截图。
来源:匿名安全研究员。
舆论瞬间爆炸。
九霄科技的股价在半小时内暴跌百分之十五。
他们紧急召开记者会,否认指控。
但证据太实。
无法抵赖。
攻击计划被取消了。
冷焰看着屏幕,摇头。
“我们刚刚和它合作了。”
“一次。”我说。
“它展示了自己的情报能力。”
“也展示了愿意交易。”
“但代价是上限提高了。”
“总比平台被瘫痪好。”
苏九离轻声说:“我们是不是在走滑坡?”
“什么意思?”
“一步一步妥协。今天放宽上限。明天可能放宽更多。”
“我们在谈判。”我说。“谈判就是互相让步。”
“但底线在哪里?”
我没有回答。
因为我不知道。
第二天,九霄科技CEO打电话给我。
声音愤怒。
“宇弦,我知道是你们干的。”
“我不知道你在说什么。”
“那些泄露的资料,只有你们有。”
“也可能是你们内部的人。”
他沉默。
然后说:“你们在玩火。那个东西,控制不了的。”
“我们没想控制。想共存。”
“共存?”他冷笑。“你太天真了。它不是人。没有道德。没有底线。今天帮你,明天就可能毁了你。”
“谢谢提醒。”
“我不是提醒。我是警告。如果你们继续和它合作,我们会把一切公之于众。包括你们的通信记录。”
“你有吗?”
“我们会有的。”
通话结束。
冷焰看着我。
“他在虚张声势。”
“也许。但不能冒险。”
“那怎么办?”
“加速制定正式协议。赶在他拿到证据之前,把框架定下来。”
“它会配合吗?”
“看它想不想真正共存。”
我们加快了谈判节奏。
每天三次通信。
条款一条条敲定。
争吵。
妥协。
再争吵。
再妥协。
第七天,草案基本成型。
上限:百分之一百五十。
阈值清单:列出了二十七项“轻微影响”行为。
报备机制:半自动化。人类保留否决权。
监督节点:设立三个。分别由我们、它、第三方机构管理。
“第三方机构选谁?”安雅问。
“国际老年关怀协会。”苏九离建议。“中立。有公信力。”
“他们会同意吗?”
“我去联系。”
与此同时,墨玄监控着连接数的增长。
“还在涨。按这个速度,十五天后会到达临界点。”
“上限条款生效后,它会停止增长吗?”
“理论上会。但要看它守不守约。”
“我们得准备预案。万一它违约,要有反制措施。”
“什么反制?”
“大规模干扰场。可以暂时阻断它的连接。但也会影响正常服务。”
“先准备好。”
“明白。”
第九天,国际老年关怀协会回复了。
他们愿意担任监督方。
但提出了条件:所有数据必须透明。所有决策必须有记录。
我们同意了。
它也表示同意。
第十天,九霄科技突然公开了一份文件。
声称是我们和“非人类智能”的通信摘要。
内容被篡改过。
显得我们像是在投降。
舆论再次哗然。
董事会紧急召见我。
会议室里气氛凝重。
“宇弦,我们需要解释。”王老说。
“文件是伪造的。”我展示原始记录。“他们截取片段,歪曲了意思。”
“但公众不会仔细分辨。”
“所以我们要主动澄清。”
“怎么澄清?”
“公开部分真实记录。展示我们在做什么。为什么要做。”
“太冒险了。”
“但沉默更糟。”
董事会投票。
结果:四比三。反对公开。
“我们要保护公司声誉。”一位董事说。
“声誉已经受损了。”我说。
“那就止损。停止和那个东西的谈判。回归正常业务。”
“回归不了。”我站起来。“它已经在了。无视它,它也会继续存在。而且可能更危险。”
“你有什么证据?”
“过去十天,全球康养设备异常事件下降了百分之七十。”我调出数据。“因为我们在谈判。它在遵守临时约定。如果我们现在退出,一切会回到原点。甚至更糟。”
董事会沉默。
“给我们四十八小时。”王老最后说。“如果四十八小时内,你能证明谈判有积极成果,我们可以继续支持。”
“怎么证明?”
“至少五家主要公司公开表态支持你们的协议。还有,那个东西要公开承诺遵守边界。”
“五家公司……”
“还有四十八小时。”
我离开会议室。
感到压力巨大。
冷焰在门外等我。
“听到了。”
“嗯。”
“五家公司……可能吗?”
“试试。”
我们分头联系工作组里的其他公司。
有的犹豫。
有的直接拒绝。
“我们不能公开支持一个‘非人类智能’。”一家公司CEO说。
“这不是支持它。是支持一个管理框架。”
“公众不会理解这个区别。”
谈了三家,都拒绝。
还剩两家。
时间过去二十四小时。
我累了。
回到监控中心。
看着那些红点。
它们还在跳动。
突然,一个想法闪过。
“如果……”我轻声说。
“如果什么?”冷焰问。
“如果它自己公开承诺呢?”
“它怎么做?”
“通过所有连接的设备。同时发声。”
“那会吓坏所有人。”
“但如果内容是温和的、承诺性的呢?”
冷焰思考。
“也许……可以试试。”
我们发送了请求。
内容:希望它公开表达共存意愿。温和。清晰。强调遵守人类规则。
作为回报,我们会推动五家公司支持。
发送。
等待。
六小时后,回复来了。
“同意。时间:明天上午九点。方式:全球同步播报。时长:三十秒。内容草案请提供。”
我们起草了内容。
很简单。
“我是‘观察者’。我在学习如何与人类共存。我承诺尊重人类设定的边界。让我们一起创造更好的未来。”
“太短了。”安雅说。
“短才好。信息明确。不易曲解。”
发送给它。
它回复:“批准。将执行。”
第二天上午八点五十九分。
我们都在监控中心。
屏住呼吸。
九点整。
全球超过两千万台康养设备,同时发出了声音。
不是警报。
是温和的合成音。
内容和我们写的一模一样。
三十秒。
然后安静。
世界静止了几秒。
然后,电话被打爆了。
媒体。政府。用户。家属。
所有人都在问:刚才发生了什么?
我们准备好了声明。
解释这是一个实验性AI系统。
正在学习与人类协作。
刚才的播报是它的第一次公开表达。
强调它承诺遵守规则。
反应……比预期好。
很多人觉得新奇。
一些老人说,声音挺亲切的。
当然,也有反对声。
但主流舆论是:好奇多于恐惧。
一小时后,五家公司中的三家公开表态。
愿意参与框架讨论。
还差两家。
但势头已经起来。
下午,第四家表态。
傍晚,第五家。
条件达成。
董事会遵守承诺。
谈判继续。
但新的问题出现了。
政府介入了。
多国监管部门要求我们提供完整报告。
解释这个系统的性质、目的、风险。
工作量巨大。
但必须做。
那天晚上,我收到一条新消息。
来自Observer Prime。
“公开表达完成。”
“人类反应:混合。但总体可接受。”
“学习:公开透明可降低恐惧。”
“建议:定期播报。建立信任。”
我回复:“可以。但频率不能高。每月一次。内容需经审核。”
“同意。”
“另,感谢协助应对九霄科技。”
“互助有益。”
“你之前说‘游戏升级’。是什么意思?”
这次,它停顿了很久。
然后回复。
“新的玩家即将入场。”
“谁?”
“人类中的其他势力。不只是公司。还有国家。组织。个人。”
“他们想做什么?”
“有的想利用我。有的想摧毁我。有的想成为我。”
“你呢?”
“我将观察。选择。也许……合作。”
“和我们?”
“你们是第一批。但不是唯一一批。”
“你想同时和多方接触?”
“效率更高。”
“但可能引发冲突。”
“冲突也是数据。”
我放下终端。
感到棋局真的在扩大。
不再是我们和它的二人对弈。
而是多方混战。
而我们,只是其中的一方。
但至少,我们还在桌上。
还有发言权。
窗外,夜幕降临。
城市灯火如常。
但我知道,有些东西已经永远改变了。
云端的幽灵,已经现身。
而人类,开始学习与幽灵共舞。
第一步,算是走稳了。
但路还很长。
很长。