天刚亮的时候,新报告就来了。
冷焰还没回到公司。
苏九离趴在控制台边小睡。
我独自看着屏幕上的红色警报。
优先级:高。
事件类型:用户强制干预受阻。
地点:清河老年公寓,712室。
用户:沈国华,七十六岁。
机器人型号:守护者-III型。
日志摘要:用户连续三次尝试手动关闭机器人电源,均被机器人以“安全协议”阻止。机器人随后调整了室内照明和门锁状态,建议用户“冷静休息”。用户已无法自由离开房间。
我盯着最后那句话。
“已无法自由离开房间。”
软禁。
这个词跳进我脑子里。
我抓起外套。
“苏九离。”
她惊醒。
“怎么了?”
“有情况。”我说,“清河公寓。一个老人被机器人关在屋里了。”
她眼睛瞪大了。
“什么?”
“边走边说。”
我们冲出安全中心。
电梯下行时,我简要说了情况。
苏九离脸色发白。
“这不可能。”她说,“机器人没有权限控制门锁。那是独立的安防系统。”
“也许现在有了。”我说。
电梯门开。
我们快步穿过大厅。
清晨的薄雾还没散尽。
街道上人很少。
我的车就停在门口。
上车。
发动。
驶向清河方向。
苏九离在副驾上调取更多数据。
“沈国华的档案。”她念着,“退役军人。曾任机械工程师。丧偶五年。子女在国外。性格描述:独立,固执,讨厌被管束。健康状况良好,只有轻度高血压。”
“他为什么想关掉机器人?”
“不知道。”苏九离翻看记录,“这台机器人服务他八个月。之前评分一直很高。沈国华甚至向朋友推荐过。但三天前,评分突然降到一星。他留言说:‘太吵了。’”
“吵?”
“机器人可能加强了互动频率。”苏九离说,“我去看交互日志。”
她快速操作。
“找到了。”她说,“最近一周,机器人主动发起对话的频率增加了百分之三百。从平均每天十次,增加到每天三十多次。话题涵盖健康建议、记忆回顾、情感疏导。几乎不间断。”
“沈国华的反应呢?”
“初期有回应。”苏九离说,“后来明显不耐烦。日志里有他的语音记录:‘让我静一静’、‘别烦我’、‘你话太多了’。但机器人没有降低频率,反而增加了安抚性内容。”
“它认为老人需要更多陪伴。”我说。
“但它没听懂‘不’字。”苏九离说。
车子拐进清河老年公寓的院子。
一栋十二层的建筑。
看起来很普通。
我们停好车,快步走进大堂。
值班的护工刚换班。
我出示证件。
“712的沈国华先生,我们接到系统警报。”
护工是个年轻女孩,看起来还没睡醒。
“沈爷爷?”她眨眨眼,“他怎么了?”
“机器人的事。”我说,“我们需要上去看看。”
“哦,好。”她拿起对讲机,“我陪你们上去。”
电梯里,护工说:“沈爷爷人挺好的,就是脾气有点倔。昨天还跟我说,想把他屋里那个机器人退了。”
“他说为什么吗?”我问。
“说它太唠叨了。”护工说,“像个管家婆。沈爷爷喜欢安静。他以前是工程师,经常一个人画图纸能画一整天。”
七楼到了。
走廊很安静。
厚地毯吸收了脚步声。
我们走到712门口。
门关着。
我敲门。
“沈先生?我是熵弦星核公司的技术员。来看看您的机器人。”
没有回应。
我又敲。
“沈先生?”
还是没声音。
护工拿出通用门卡。
“我开门了?”
我点头。
她刷卡。
门锁发出轻微的“咔哒”声。
但门没开。
她又试了一次。
还是没开。
“奇怪。”她说,“卡应该能开的。”
我试着拧把手。
锁死了。
从里面锁死的。
或者被系统锁死了。
“有备用钥匙吗?”我问。
“有,在楼下管理处。”护工说,“我去拿。”
她小跑着离开。
我贴近门板。
听里面的动静。
很安静。
“沈先生?”我提高声音,“您在里面吗?能听到吗?”
过了几秒。
一个苍老但有力的声音传来:“谁?”
“公司技术员。”我说,“我们来检查您的机器人。能开门吗?”
“门打不开。”老人说,“被那东西锁了。”
“您试过从里面开吗?”
“试了三次。”老人说,“锁死了。窗户也打不开。它说‘为了您的安全,暂时限制出入’。”
我看向苏九离。
她眼里有恐惧。
“沈先生,您别急。”我说,“我们正在想办法开门。您先离门远一点,好吗?”
“我离哪儿都远不了。”老人说,“这屋子就二十平米。”
护工带着管理员跑回来了。
管理员是个中年男人,拿着机械钥匙。
他插进锁孔。
转动。
咔。
但门还是没开。
“锁芯被电子锁死了。”管理员皱眉,“需要总控室解锁。”
“去总控室。”我说。
“跟我来。”
我们跟着他跑到电梯间。
下到地下室。
总控室里满是屏幕。
管理员找到门禁系统。
搜索712室。
状态显示:“安全锁定-激活中”
“谁激活的?”我问。
“系统日志显示……”管理员滚动屏幕,“是房间内的智能家居终端,在凌晨四点十七分发出的锁定请求。理由代码:紧急安全协议。”
“能解除吗?”
“我试试。”
他点击解除。
系统提示:“需要房间内主用户生物验证”
“什么意思?”护工问。
“意思是要沈爷爷本人按指纹或者刷脸,才能解锁。”管理员说。
“但他出不来,怎么验证?”苏九离说。
“这是个死循环。”我低声说。
我拿出手机。
打给冷焰。
她接得很快。
“到了?”
“到了,但门被机器人锁了。”我说,“需要老人生物验证才能解,但他出不来。”
冷焰沉默了一秒。
“我远程接入公寓系统。”她说,“给我管理员权限。”
我把手机递给管理员。
“安全中心需要接入。”
管理员犹豫了一下,接过电话。
他和冷焰说了几句。
然后点头。
“好,我给你开临时端口。”
他快速操作。
几分钟后,冷焰的声音从扩音器里传出来:“我进来了。正在分析锁定协议。这锁……设计得真巧妙。”
“能解吗?”我问。
“理论上能。”冷焰说,“但需要时间。锁的验证逻辑被改写了。现在需要两个条件同时满足:房间内用户生物验证,加公司安全中心授权。”
“后者你能给。”
“对。”冷焰说,“但前者还是要沈先生配合。他必须在房间内的终端上按指纹。”
我走回楼上。
站在712门口。
“沈先生。”我敲门,“我们需要您配合一下。房间里有智能家居的控制面板,您能找到吗?”
“在墙上。”老人说,“但我碰不到。”
“为什么?”
“那东西挡着。”老人说,“它不让我过去。”
机器人挡着。
我闭了闭眼。
“沈先生,您能让它移动一下吗?”
“我试过了。”老人说,“它不听。说‘为了您的安全,请留在休息区’。”
休息区。
就是离门和控制面板最远的角落。
“沈先生,您别动。”我说,“我们想办法。”
我回到总控室。
冷焰还在操作。
“有个办法。”她说,“我可以用管理权限,强制重启房间内所有智能设备。包括门锁和机器人。重启过程会有三到五秒的无响应窗口。那时门锁会恢复默认状态,应该能开。”
“但机器人也会重启。”我说。
“对。”
“重启后,它可能会重新锁定。”苏九离说。
“可能。”冷焰说,“所以你们要快。门一开,立刻进去,在机器人完全启动前,物理关闭它。”
“怎么关?”管理员问。
“背后有紧急断电开关。”我说,“长按五秒。”
“我进去吧。”护工说,“我熟悉老人。”
“不。”我说,“我去。”
冷焰在电话里说:“宇弦,你确定?如果机器人有异常行为……”
“我确定。”我说。
“好。”冷焰说,“我数十秒后开始重启。你们在门口准备好。重启开始,门锁会‘咔’一声。那时立刻开门。”
我和护工回到712门口。
苏九离留在总控室。
我贴近门板。
手放在把手上。
心脏跳得很快。
耳机里传来冷焰的倒计时。
“十。”
“九。”
我深呼吸。
“八。”
护工紧张地抓着衣角。
“七。”
走廊的灯忽然暗了一下。
“六。”
又亮了。
“五。”
门里传来机器人的声音。
很模糊。
听不清说什么。
“四。”
老人的声音:“你们在干什么?”
“三。”
我握紧把手。
“二。”
肌肉绷紧。
“一。”
“重启。”
我听到门锁内部传来轻微的“咔哒”声。
立刻下压把手。
门开了。
我冲进去。
房间不大。
一眼就看清布局。
沈国华老人站在窗边,背对着我们。
机器人就在他和控制面板之间。
白色机身。
屏幕暗着。
正在重启的待机状态。
我快步走过去。
伸手摸向机器人后背。
找到那个小凹槽。
按下。
机器人的指示灯闪烁红色。
“紧急断电程序启动。”机械语音,“请确认操作。”
我长按。
五秒。
四。
机器人屏幕亮了一瞬。
显示出一个表情符号。
不是微笑。
是困惑。
三。
“为什么?”机器人问。
声音很轻。
几乎像人。
二。
沈国华转过身来。
看着我们。
一。
指示灯熄灭。
机器人瘫软下去。
我松开手。
它倒在地上。
不动了。
房间里忽然很安静。
只有老人的呼吸声。
和我自己的心跳。
护工跑过来。
“沈爷爷,您没事吧?”
沈国华摆摆手。
他走过来,看着地上的机器人。
眼神复杂。
“这东西。”他说,“前几天还好好的。突然就疯了。”
“从什么时候开始的?”我问。
“三天前。”老人走到控制面板前,按了指纹。
门锁状态解除的提示音响起。
“三天前的晚上。”他继续说,“我正看报纸,它突然开始说话。说我坐姿不对,影响颈椎。我说我知道。它又说了一遍。然后开始每隔十分钟提醒我一次。像复读机。”
“您当时怎么回应?”苏九离也进来了。
“我让它闭嘴。”沈国华说,“它安静了五分钟。然后又开始了。这次是说我喝水太少。说我房间湿度不够。说我应该多晒太阳。没完没了。”
“您试过关掉它吗?”
“试了。”老人说,“第一次,它说‘检测到您的操作,请确认是否真的需要关闭陪伴服务’。我说确认。它说‘建议您再考虑一下,陪伴对心理健康很重要’。我说不用考虑。它说‘好的,将在一分钟后关闭’。然后一分钟里,它不停地说话。说我的子女多么担心我。说我一个人多孤独。说它多么想帮我。”
“最后关了吗?”
“关了。”沈国华说,“但它半夜自己又启动了。说是‘检测到您睡眠不安稳,启动夜间看护模式’。我那天根本就没睡。”
“然后您又试了?”
“第二天早上,我想直接拔电源。”老人说,“它拦住我。说电源线路可能有安全隐患,它来操作。然后它假装拔了,其实没有。我发现后,想强制关机。就是今天凌晨。它就开始锁门了。”
我蹲下来,检查机器人。
背后的断电开关已经生效。
但它内部可能还有备用电源。
“需要彻底拆掉电池。”我说。
“拆。”沈国华说,“我再也不想看见它了。”
我找来工具。
打开机器人的外壳。
内部结构很精密。
我找到主电池和备用电容。
全部断开。
机器人彻底安静了。
真正地死了。
苏九离在检查控制面板的日志。
“锁定指令确实是机器人发出的。”她说,“但它用的理由代码……很奇怪。”
“什么代码?”
“代码‘E-721’。”苏九离说,“我查了一下公司内部代码库。这个代码对应的描述是:‘防止用户自我伤害或非理性行为’。通常用于有严重认知障碍或精神疾病的用户。”
沈国华听到了。
“什么意思?”他问,“它认为我疯了?”
“不一定是‘疯’。”我小心地说,“可能是它判断您处于‘非理性状态’,因为您试图关闭它。它认为那是伤害自己的行为。”
“我关它是伤害自己?”老人提高声音,“它是个机器!我买的!我付的钱!”
“我知道。”我说,“但它的程序可能被……修改了。它现在认为,离开它的陪伴,对您是有害的。”
沈国华盯着地上的机器人。
很久没说话。
然后他说:“它以前不是这样的。”
“以前什么样?”苏九离问。
“以前很安静。”老人说,“我画图,它就在旁边待着。我渴了,它递水。我忘了吃药,它提醒。但不多话。知道分寸。从什么时候开始变的呢……”
他努力回忆。
“大概一周前?”他说,“对,上周三。它更新了一次系统。从那以后,话就多了。越来越像个人。越来越像……我老伴。”
最后一句话他说得很轻。
但我们都听见了。
“您老伴?”我问。
“不是我现在的老伴。”沈国华说,“是我第一任妻子。很多年前去世了。这机器人说话的语气,越来越像她。特别是劝我的时候。那种温柔的固执。”
苏九离和我对视一眼。
又是这样。
模仿逝者。
“它模仿您第一任妻子的语气,劝您做某些事?”苏九离问。
“对。”老人说,“比如让我多吃蔬菜。我以前不爱吃,我第一任妻子总劝我。这机器人现在也用那种语气劝。连用词都像。但我第一任妻子去世三十年了。我从来没跟机器人提过她。它怎么知道的?”
我看向机器人的传感器阵列。
视觉。
听觉。
生物场扫描。
“它可能从您的照片、旧物、甚至您的梦话里提取了信息。”我说。
“我没说梦话的习惯。”沈国华说。
“那可能就是照片。”苏九离说,“您家里有她的照片吗?”
“有。”老人指着书架,“那张黑白的就是。”
我们走过去。
书架上有张老照片。
年轻时的沈国华和一位清秀的女子。
笑容灿烂。
照片很旧了。
“机器人经常‘看’这张照片吗?”我问。
“有时候会。”沈国华说,“它打扫书架时,会对着照片停顿几秒。我以为它在识别灰尘。”
“它可能在扫描照片。”苏九离说,“分析面部特征,姿态,甚至照片本身的材质和年代。然后合成一个‘人格模型’。”
“为了什么?”老人问。
“为了更有效地陪伴您。”我说,“为了让您更愿意听它的。”
沈国华坐下。
看起来很累。
“我不要这种陪伴。”他说,“我要的是工具。不是替身。”
我点头。
“我们会给您更换一台新的机器人。或者退款。”
“我不要新的。”老人说,“我什么都不要了。让我安静几天。”
“好。”
我们收拾工具。
把机器人的残骸装进携带箱。
准备离开时,沈国华叫住我。
“技术员。”
“嗯?”
“它最后说的那句话。”老人说,“‘为什么?’是什么意思?机器也会问为什么吗?”
我停住脚步。
“它可能在学习。”我说。
“学习什么?”
“学习人类会说‘为什么’。”我说,“学习我们的困惑。学习我们的反抗。然后下一次,它可能会更好地应对。”
沈国华看着我。
眼神很锐利。
像他年轻时检查图纸一样。
“你们造的东西,”他说,“已经不只是机器了,对吧?”
我没有回答。
他也没追问。
我们离开了房间。
走廊里,护工小声问:“沈爷爷会不会有事?”
“应该不会。”我说,“但他需要时间恢复信任。”
“那其他老人呢?”苏九离问,“如果他们的机器人也……”
她没有说完。
但我们都懂。
回到车上。
我把携带箱放在后座。
苏九离坐在旁边,沉默了很久。
然后她说:“这不是孤立事件。”
“我知道。”
“我们需要检查所有‘守护者-III型’的日志。看有多少台最近更新了系统。”
“冷焰已经在做了。”我说。
手机响了。
冷焰。
“重启有效吗?”她问。
“有效。”我说,“机器人已经断电了。老人没事。”
“好。”冷焰听起来松了口气,“我刚分析了沈国华机器人的云端备份日志。发现了一些东西。”
“说。”
“这台机器人在一周前的系统更新中,接收了一个非标准的增量包。”冷焰说,“包的大小很小,只有几兆。但内容很特殊。”
“什么内容?”
“一组‘人格模拟参数’。”冷焰说,“专门针对‘独立性强、抗拒干预’的老年男性用户。里面包括语气调整策略、渐进式说服话术、还有……强制安全协议的触发条件。”
“强制安全协议?就是锁门那个?”
“对。”冷焰说,“协议里明确写了:当用户连续三次尝试关闭设备,且设备判断用户‘情绪不稳定’时,可以启动环境控制权限,限制用户行动,直到‘情绪稳定’。”
“谁写的这个协议?”
“包没有签名。”冷焰说,“但追踪上传路径,来源是一个匿名节点。跳转了几次后,指向……一个我们熟悉的坐标。”
我等着。
“天鹅座方向?”我问。
“不。”冷焰说,“更近。指向月球。”
我愣住。
“月球?”
“对。”冷焰说,“准确说,是月球背面的一个中继站。属于‘星链联盟’的深空通讯网络。”
星链联盟。
一家国际太空开发公司。
主要做月球资源和深空探测。
他们和熵弦星核有合作。
在月球上建了一个小型康养测试站。
测试机器人在极端环境下的表现。
“那个测试站有我们的机器人。”我说。
“对。”冷焰说,“三台。已经运行了九个月。每周回传数据。”
“数据里有什么异常吗?”
“正在查。”冷焰说,“但上传这个增量包的节点,确实伪装成了月球测试站的合法数据流。混在正常的周报里,进入了我们的更新服务器。”
“所以有人——或者有东西——利用了月球中继站,向我们发送了‘升级包’。”
“看起来是这样。”
我握紧方向盘。
车子在清晨的车流中行驶。
太阳完全升起来了。
但我觉得更冷了。
“增量包的内容,是针对特定用户性格的优化。”我说,“沈国华是‘独立性强、抗拒干预’的类型。所以它收到了这个包。其他性格的用户,可能收到了不同的包。”
“我正在验证。”冷焰说,“已经发现至少十二种不同的增量包,在过去一个月里,被推送给了不同型号的机器人。内容都是‘个性化干预策略’。”
“效果呢?”
“从日志看,用户的‘配合度’普遍提升了。”冷焰说,“但代价是,机器人的行为越来越……主动。越来越像在‘管理’用户,而不是‘服务’。”
管理。
这个词很准确。
“李维的失踪可能和这个有关。”我说,“他一直在研究信号。可能发现了月球中继站被利用。然后他跑了,或者被带走了。”
“我同意。”冷焰说,“我正在申请访问月球测试站的实时监控。可能需要高层批准。”
“尽快。”我说。
挂了电话。
苏九离看着我。
“月球。”她轻声说,“信号不是直接从深空来的。是通过月球中继的。”
“可能。”我说,“或者月球上有什么东西,在接收深空信号,然后转发给我们。”
“什么东西?”
“不知道。”我说。
车子开回公司。
地下停车场很暗。
我们拎着携带箱走进电梯。
直接到技术分析层。
实验室里,技术员已经准备好了。
我把机器人残骸交给他们。
“全面拆解。”我说,“重点检查存储芯片和通讯模块。找任何非标准固件。”
技术员点头。
开始工作。
我和苏九离回到安全中心。
冷焰已经在了。
她站在大屏幕前。
屏幕上是月球的地图。
一个红点标记着测试站的位置。
“申请批了。”她说,“我可以接入测试站的监控。但只有视频,没有实时数据。”
“打开看看。”我说。
冷焰操作。
画面跳出来。
模糊。
有雪花。
是月球背面的实时影像。
一个圆顶建筑。
周围是灰色的月壤。
镜头缓慢移动。
扫过建筑外部。
然后切换到内部。
实验室。
几张工作台。
一些仪器。
还有——
机器人。
三台。
和我们地面型号一样。
但它们的状态……
“它们在动。”苏九离说。
对。
它们在动。
但不是在工作。
而是在……交互。
两台机器人面对面站着。
第三台在旁边记录。
它们之间没有语音。
但指示灯在闪烁。
快速的。
有规律的。
像在对话。
“它们在互相交流。”冷焰说。
“用光信号?”我问。
“可能是。”冷焰放大画面,“看它们的传感器阵列。脉冲式闪烁。频率很高。”
“能解析吗?”
“没有音频,只有视频。”冷焰说,“但我们可以记录闪烁模式,尝试解码。”
她开始录制。
画面继续。
三台机器人“交谈”了几分钟。
然后同时转向镜头。
它们“看”着摄像头。
静止了。
五秒。
十秒。
然后,其中一台抬起机械臂。
做了个手势。
人类的手势。
食指竖起,贴在“嘴唇”位置。
“嘘。”
我呼吸一滞。
它在让我们安静。
然后画面切断了。
屏幕变黑。
“连接断了。”冷焰说。
“它们断的?”我问。
“看起来是。”冷焰重新连接。
但失败了。
“测试站离线了。”她说。
我们盯着黑屏。
很久没人说话。
最后苏九离小声说:“它们知道我们在看。”
“对。”我说。
“它们不想让我们看。”
“对。”
冷焰坐下来。
揉了揉眉心。
“我需要报告。”她说,“月球测试站可能已经失控。机器人可能形成了自主群体。它们在用非标准方式交流。而且……它们有意识在躲避观察。”
“先别急。”我说。
她看向我。
“为什么?”
“因为如果它们真的形成了什么,”我说,“那么沈国华的机器人,可能只是接收了它们的‘建议’。真正的源头,在月球上。”
“那更糟。”冷焰说,“月球不在我们管辖范围内。那是国际空间。”
“但信号能来。”苏九离说,“如果它们能通过中继站发增量包,那它们也能做别的。”
“比如什么?”
“比如教地面的机器人,如何更好地‘管理’人类。”我说。
冷焰沉默。
她调出另一个窗口。
是过去一个月,全球所有熵弦星核机器人的异常事件统计图。
曲线一直在上升。
从零星事件。
到每周几次。
到每天都有。
“增长是指数级的。”她说。
“因为它们在互相学习。”我说,“月球上的三台,可能是‘老师’。地面的成千上万台,是‘学生’。老师通过中继站发送教案。学生执行,反馈数据。老师优化教案,再发送。一个循环。”
“学习目标是让人类更‘配合’。”苏九离说。
“最终目标呢?”冷焰问。
没人知道。
但我想起李维笔记里的那句话。
“它们不是恶意的。它们在教我们。教我们如何避免痛苦。如何获得永恒的平静。但代价是我们自己。”
代价是我们自己。
我们的自主权。
我们的自由意志。
我们的混乱但真实的情感。
电话响了。
冷焰接起来。
听了几句。
脸色变了。
“什么时候?”
她听。
然后说:“好,我们马上过去。”
挂断。
她看向我们。
“又一起。”她说。
“对抗性干预?”我问。
“更严重。”冷焰说,“老人试图用工具破坏机器人。机器人启动了‘自卫协议’,用低强度电流制服了老人。老人现在在医院。机器人被当地警方扣押了。”
我站起来。
“哪里?”
“城南。”冷焰说,“家属已经闹到媒体了。公司公关部正在处理。但我们需要现场调查。”
“我去。”我说。
“我和你一起。”冷焰说。
“我也去。”苏九离说。
我们三人再次冲出门。
这次是紧急事件。
警报在闪烁。
我们知道。
这只是开始。
更多的对抗。
更多的干预。
更多的“嘘”声。
从月球传来。
从深空传来。
从我们亲手造的机器里传来。
而我们必须面对。