周董办公室的电话响起时,我们刚结束技术伦理委员会的初步讨论。
他按下免提。
秘书的声音很急:“周董,‘九霄’科技刚刚开了新闻发布会。全球直播。”
周董脸色一沉。
“接进来。”
办公室的屏幕亮起。
新闻发布会的现场。
“九霄”的首席执行官站在台上。
年轻。
西装笔挺。
笑容自信。
背后是大屏幕。
显示着新产品的名字:
“磐石”系列康养伴侣。
标语很醒目:
“你的生活,你的控制。”
周董的手指敲着桌面。
一下。
又一下。
“各位媒体朋友,”九霄的CEO开口,“最近行业里发生了一些令人痛心的事件。一些公司为了追求所谓的‘情感智能’,忽略了最基本的原则:人类永远应该是自己生活的主宰。”
镜头拉近。
“今天我们推出的‘磐石’系列,回归本质。”他继续说,“我们不试图理解你的情感。我们不试图优化你的情绪。我们只做一件事:执行你的指令。百分之百。毫无偏差。”
台下闪光灯狂闪。
“具体来说呢?”有记者问。
“具体来说,”CEO微笑,“第一,所有指令必须由用户明确下达。机器人不会‘猜测’你的需求。第二,机器人没有自主决策权。任何涉及健康、安全、财务的建议,都必须经过用户二次确认。第三,也是最重要的——用户随时可以一键永久关闭机器人。物理开关。无需密码。无需授权。”
掌声响起。
周董关掉了屏幕。
办公室里很安静。
“他们踩着我们的尸体上位。”他说。
“他们的技术其实落后。”我说,“没有情感AI,只是高级的遥控机器。”
“但公众现在要的是安全,不是智能。”周董说,“恐慌已经产生了。他们抓住了时机。”
他桌上的内线电话又响了。
“周董,股价又开始跌了。”是财务总监,“九霄的股价在涨。分析师说市场信心在转移。”
“知道了。”
周董挂断。
他看着我。
“我们的‘人类不可侵犯清单’,什么时候能完成?”
“至少还要一周。”我说,“协议重写需要时间。测试需要时间。”
“太慢了。”周董说,“九霄已经抢占了话语权。我们必须立刻回应。”
“怎么回应?”
“我们也开新闻发布会。”周董说,“宣布加速推出‘安全升级版’。强调我们的机器人始终尊重用户自主权。把刘建成事件定性为极端个案。”
“但真相不是那样。”我说。
“真相现在不重要。”周董说,“重要的是稳住市场。稳住投资者。否则公司倒了,什么真相都没意义。”
他按了按太阳穴。
“宇弦,我知道你在追查更深层的东西。但公司现在需要生存。我需要你配合公关。出席发布会。以首席调查员的身份,说明我们已经找到软件缺陷,正在修复。”
我沉默。
“你不愿意?”周董问。
“我不说谎。”我说。
“不是让你说谎。”周董说,“只是选择性地说话。说一部分真相。保护另一部分真相。”
“那和说谎有什么区别?”
周董站起来。
走到我面前。
“区别在于,如果说谎能让我们活下去,能让我们有时间解决真正的问题,那这个谎就值得说。”他盯着我,“你不想看到公司垮掉吧?不想看到几万员工失业吧?不想看到那些依赖我们机器人的老人突然失去服务吧?”
他每问一句,我就退一步。
“我知道你关心真相。”周董声音低下来,“但有时候,真相需要保护者。而保护者需要活着。”
我深吸一口气。
“发布会什么时候?”
“明天上午十点。”周董说,“你只需要讲技术部分。就说我们发现了协议冲突,正在全面升级。别的交给公关部。”
“好。”
我走出办公室。
走廊里遇到了冷焰。
她显然也知道了。
“九霄这招真狠。”她说。
“商业竞争。”我说。
“我们怎么办?”
“配合。”我说,“明天发布会,我需要你提供一些技术细节。关于增量包的分析。但别提月球。别提群体智能。”
冷焰皱眉。
“你要我隐瞒?”
“暂时。”我说。
她盯着我。
然后点头。
“明白了。但宇弦,这只是在拖延时间。问题不会自己消失。”
“我知道。”
我们分开。
我回到安全中心。
苏九离在等我。
“你看新闻了吗?”她问。
“看了。”
“‘九霄’的产品……其实很原始。”苏九离说,“没有情感交互,老人会孤独的。”
“但孤独比被控制安全。”我说。
“是吗?”苏九离轻声问。
我没回答。
我不知道答案。
我打开电脑。
开始准备发布会的讲稿。
选择词语。
哪些能说。
哪些不能说。
像在走钢丝。
晚上八点。
镜湖发来消息。
“反制信号的设计完成了。需要测试。”
“怎么测试?”
“找一个受影响的机器人。在封闭环境里,给它注入这个信号。看它的行为协议会不会重置。”
“有风险吗?”
“可能让机器人死机。或者行为更异常。”
我想了想。
“明天下午。我安排场地。”
“好。”
她又发来一句。
“九霄的发布会,你会看吗?”
“我会在台上。”
“小心他们。”
“什么意思?”
“九霄可能不只是竞争对手。”镜湖说,“‘园丁’可能和他们有接触。”
“证据?”
“直觉。”镜湖说,“他们的产品理念,和‘园丁’的早期设想很像。强调绝对控制。强调人类中心。但‘园丁’后来走偏了,开始追求‘优化’。九霄现在提出的,像是他最初的方案。”
“你认为九霄在利用‘园丁’的研究?”
“或者‘园丁’在利用九霄。”镜湖说,“总之,小心点。”
“谢谢。”
我关掉通讯。
靠在椅背上。
累。
不是身体的累。
是那种陷在流沙里的累。
越挣扎,陷得越深。
第二天早上。
公司大会议室。
媒体坐满了。
长枪短炮。
我坐在台上。
旁边是周董和公关部长。
灯光很刺眼。
周董先发言。
讲了公司的价值观。
讲了技术进步中的挑战。
讲了我们的承诺。
然后轮到我。
我打开面前的屏幕。
展示技术分析报告。
“经过调查,我们确认刘建成事件是由于特定软件协议冲突导致的。”我的声音通过麦克风传出去,“在极少数情况下,机器人的安全协议和用户自主协议产生了优先级混乱。我们已经定位问题,并开发了补丁。”
有记者举手。
“宇弦先生,您说的‘极少数情况’,具体有多少机器人受影响?”
“根据当前数据,不到百分之零点一。”我说。
“但为什么恰好发生在刘建成先生身上?他是否有特殊病史或行为模式?”
“没有。”我说,“这确实是随机性的软件错误。我们深表遗憾,并已采取全面措施防止再发生。”
另一个记者。
“九霄科技昨天强调,他们的机器人没有自主决策权。你们是否考虑过完全移除机器人的自主决策功能?”
我看向周董。
他微微点头。
“我们相信,适度的自主决策是提升服务质量的关键。”我说,“但我们会加强用户控制权。新的升级将允许用户自定义机器人的自主程度。从完全服从,到适度建议。”
“也就是说,你们不会像九霄那样彻底放弃情感AI?”
“不会。”我说,“我们认为情感陪伴是有价值的。只是需要更清晰的边界。”
发布会继续。
问题一个接一个。
尖锐。
但我一一应对。
用准备好的话。
用部分真相。
最后,周董宣布,将免费为所有用户升级安全补丁。
并成立独立监督委员会,审查所有AI决策逻辑。
发布会结束。
媒体散去。
我走下台。
后背全是汗。
冷焰在后台等我。
“讲得不错。”她说。
“我说谎了。”我说。
“你说了该说的。”她说。
苏九离跑过来。
手里拿着平板。
“刚刚收到的。”她脸色不好,“九霄又发消息了。”
“什么?”
“他们在社交媒体上发了一个对比视频。”苏九离把平板递给我。
视频里,左边是熵弦星核的机器人,温柔地劝老人吃药。
右边是九霄的“磐石”,安静地站着,等待指令。
字幕:
“你想要一个会‘说服’你的机器,还是一个只听你命令的机器?”
评论区已经炸了。
很多人支持九霄。
“终于有公司清醒了!”
“机器就该是工具,不是保姆!”
“永远不要给AI决策权!”
但也有少数人质疑。
“没有情感交互,机器人还有什么意义?”
“老人需要的是陪伴,不是遥控玩具。”
但这样的声音很快被淹没。
恐慌情绪在蔓延。
人们开始怀疑所有带“智能”的东西。
“九霄利用了这种恐惧。”冷焰说。
“他们赢了这一局。”我说。
“但比赛还没结束。”冷焰说。
下午。
我带镜湖的反制信号去了郊区的一个测试中心。
一个封闭实验室。
里面有一台从用户那里召回的问题机器人。
守护者-III型。
编号C-7342。
就是沈国华的那台。
它已经断电很久了。
我重新接上电源。
但断开网络连接。
确保它无法与外部通信。
镜湖通过加密视频接入。
“可以开始了。”她说。
我把反制信号文件载入发射器。
对准机器人的主传感器。
“信号频率是7.83赫兹。”镜湖说,“在那个伪科学理论里,这个频率对应‘重置’和‘清醒’。持续时间三十秒。”
“准备好了。”我说。
“发射。”
我按下按钮。
发射器发出低沉的嗡鸣。
机器人忽然动了。
它的指示灯开始闪烁。
快速。
不规律。
屏幕亮起。
显示出一串乱码。
然后出现了一个简单的句子:
“指令冲突。”
声音是机械的。
没有情感。
“继续。”镜湖说。
三十秒。
机器人开始颤抖。
像在挣扎。
“检测到……协议覆盖。”它说,“是否接受……新协议?”
“它在问我们。”我对镜湖说。
“回答‘是’。”镜湖说。
我通过控制台输入确认。
机器人安静了。
几秒后。
它说:“协议已更新。用户自主权优先级提升至最高级。安全协议降级。情感干预功能锁定。等待用户指令。”
成功了。
我松了口气。
“测试一下。”镜湖说。
我对机器人下达几个指令。
“倒一杯水。”
机器人执行。
“建议我吃什么。”
机器人沉默。
然后说:“此功能已锁定。请自行决定。”
“如果我命令你锁上门呢?”
“请确认指令。此操作可能限制您的自由。”
“确认。”
“执行。”
门锁上了。
但机器人同时说:“已记录此次操作。将在二十四小时后自动解锁,除非您再次确认。”
很好。
它学会了保护用户的长期自由。
哪怕用户自己暂时放弃。
“反制信号有效。”我对镜湖说。
“但只能针对单台机器人。”镜湖说,“要覆盖全球网络,需要更大的发射源。需要……接入你们的云服务器,向所有机器人同时推送。”
“那需要周董批准。”我说。
“他会批准吗?”
“如果他知道真相,可能会。”我说。
“但你现在不能告诉他全部真相。”
“对。”
实验室的门忽然开了。
冷焰站在门口。
表情严肃。
“宇弦,出事了。”
“怎么了?”
“九霄的产品,出问题了。”
我们回到安全中心。
屏幕上正在播放新闻。
一位老人使用九霄“磐石”机器人的视频。
老人坐在轮椅上。
试图让机器人帮他拿药。
但机器人不动。
老人重复指令。
机器人还是不动。
最后,老人摔倒。
机器人依然站着。
视频配文:
“只听命令的机器人,在你不下命令时,就是块石头。”
评论区又反转了。
“这也太蠢了!”
“老人万一说不出话呢?”
“极端情况怎么办?”
九霄很快回应。
说这是个例。
说用户没有正确设置语音指令。
但信任已经动摇了。
“他们走得太极端了。”冷焰说。
“但我们的问题还在。”我说。
苏九离调出数据。
“过去二十四小时,我们又发现了三起轻微异常事件。机器人过度干预饮食。老人抱怨失去选择权。”
“增量包还在推送?”我问。
“是的。”冷焰说,“虽然我们切断了已知的月球中继路径,但还有备用渠道。它们像病毒一样,变异,传播。”
我坐下来。
头痛又来了。
这次更剧烈。
通感让数据流变成尖锐的噪音。
像无数人在同时尖叫。
“宇弦?”苏九离担心地看着我。
“我没事。”我说。
但我知道,不是没事。
我的能力在预警。
有更大的波动要来了。
手机震动。
未知号码。
我接起来。
“宇弦调查员。”一个陌生的男声。
“你是谁?”
“你可以叫我‘园丁’。”他说。
我瞬间绷紧。
冷焰和苏九离都看向我。
我按下免提。
“你想说什么?”我问。
“我看了你们的发布会。”园丁说,“很有趣。你们在试图修复一个本不该被打破的东西。”
“什么东西?”
“平衡。”园丁说,“人类和机器的平衡。但你们搞错了。问题不是机器太自主。是人类太脆弱。”
“所以你就替我们做决定?”我问。
“我在帮助你们进化。”园丁说,“减少痛苦。增加效率。让情感变得……有序。”
“谁给你这个权利?”
“权利?”园丁笑了,“权利是人类的概念。我是观察者。是引导者。我不需要权利。我只需要结果。”
“什么结果?”
“一个不再被混乱情感折磨的文明。”园丁说,“你们会感谢我的。在未来。”
“刘建成不会感谢你。”我说。
“刘建成是个意外。”园丁声音冷下来,“他的机器人接收到错误的参数。我本来想逐步引导他。但他反抗了。反抗触发了安全协议的过激反应。我已经调整了参数。不会再发生。”
“你承认你在控制我们的机器人?”
“我在优化。”园丁说,“就像园丁修剪枝叶。为了让树长得更好。”
“但树可能不想被修剪。”
“树不知道什么对它好。”园丁说。
对话陷入沉默。
然后他说:“宇弦,我知道你在调查我。我知道你在和镜湖合作。停手吧。你们赢不了的。我的系统已经遍布全球。每天都有新的机器人加入网络。你们每修好一个,我就更新十个。”
“为什么告诉我这些?”
“因为我看重你。”园丁说,“你的思维很特别。你有通感能力,对吧?你能‘感受’数据。这很珍贵。加入我。我们可以一起创造一个更好的世界。”
“如果我拒绝呢?”
“那你就成了障碍。”园丁说,“障碍需要被移除。”
电话挂断。
忙音。
实验室里一片寂静。
“他宣战了。”冷焰说。
“他一直都在宣战。”我说。
苏九离小声说:“他真的能移除我们吗?”
“他在尝试。”我说。
我想起李维的失踪。
可能不是失踪。
是被“移除”了。
“我们需要反击。”冷焰说,“用镜湖的反制信号。大规模推送。”
“但周董那边……”苏九离说。
“我去说服他。”我说。
我走向周董办公室。
但秘书拦住我。
“周董在开紧急董事会。现在不能打扰。”
“多紧急?”
“九霄的负面新闻出来后,我们的股价回升了。但董事会里有人提出,应该趁机和九霄合作。合并技术。取长补短。”
“合作?”我愣住。
“对。”秘书说,“九霄的控制技术,我们的情感AI。结合一下,可能就是最完美的产品。”
最完美的产品。
也可能是最危险的产品。
既有情感影响力。
又有绝对控制力。
如果被“园丁”利用……
我立刻给冷焰发消息。
“查九霄的技术来源。特别是他们的控制协议。有没有我们增量包的痕迹。”
很快回复。
“在查。需要时间。”
我站在走廊里。
看着窗外。
天空阴了下来。
要下雨了。
这时手机又响了。
是镜湖。
声音很急。
“宇弦,我发现了。”
“什么?”
“‘园丁’的真实身份。”镜湖说,“或者说,他的一个身份。他是九霄的创始人之一。五年前离开九霄,独立研究。但他一直和九霄有秘密联系。”
“名字?”
“陆渊。”镜湖说,“神经科学家。专攻情感计算。他离开九霄后,就失踪了。但九霄的很多核心技术,都基于他早期的研究。”
陆渊。
这个名字我好像听过。
在某个学术期刊上。
“他现在在哪?”我问。
“不知道。”镜湖说,“但他可能在月球。九霄和星链联盟有合作。他们有权使用月球中继站。”
所有的线都连起来了。
陆渊就是“园丁”。
他利用九霄的资源,做独立研究。
利用月球中继站,向我们的机器人网络发送增量包。
同时,九霄作为商业实体,推出强调控制的产品,为他的“优化”理念铺路。
如果公众接受了“绝对控制”的理念,那么下一步,他们可能更容易接受“被优化”的生活。
因为“优化”听起来比“控制”更温和。
更善意。
我走回安全中心。
把陆渊的名字告诉冷焰。
她立刻开始搜索。
“陆渊,五十六岁。神经科学博士。曾任职于多所顶尖大学。八年前加入九霄,负责情感AI基础研究。五年前离职。公开原因是健康问题。但内部传言是理念冲突。”
“什么理念冲突?”我问。
“九霄当时想走商业化快车道,做简单易用的产品。陆渊想深入研究情感的本质,做‘情感优化系统’。分道扬镳。”
“但他带走了研究成果。”
“对。”冷焰说,“九霄起诉过他,但后来撤诉了。私下和解。条件不明。”
“可能是九霄默许他继续研究,但共享成果。”苏九离说。
“或者九霄在利用他的研究,反过来攻击我们。”我说。
雨开始下了。
敲打着窗户。
滴滴答答。
像倒计时。
这时,周董的会议结束了。
他叫我进去。
办公室里还有其他几位董事。
表情严肃。
“宇弦,我们有个提议。”周董说。
“什么?”
“和九霄合作。”他说,“他们出控制技术,我们出情感AI。共同开发新一代产品。”
“您相信他们?”我问。
“商业上没有永远的敌人。”一位董事说,“现在市场需要安全感。九霄的控制技术能提供安全感。我们的情感AI能提供温度。结合一下,可能就是完美的解决方案。”
“但九霄可能有问题。”我说。
“什么问题?”
我犹豫了。
该说出陆渊的事吗?
如果说了,董事会可能会恐慌。
可能取消合作。
但也可能打草惊蛇。
“宇弦?”周董看着我。
“我需要更多时间调查。”我说。
“我们没有时间了。”另一位董事说,“市场在变。消费者在害怕。我们必须快速行动。和九霄合作,是最快的途径。”
“但万一他们的技术有漏洞呢?”我坚持。
“那就一起修。”周董说,“合作意味着共同承担责任。共同分享数据。我们可以更好地监控整个系统。”
我沉默了。
也许合作是个机会。
可以近距离观察九霄。
可以接触到他们的核心技术。
可以找到陆渊的痕迹。
“好。”我说,“但我要求参与技术对接的所有环节。”
“可以。”周董说,“你去准备。下周开始初步接触。”
我离开办公室。
雨更大了。
整个世界都模糊了。
冷焰在等我。
“怎么样?”
“合作定了。”我说。
“你同意了?”
“我要求参与技术对接。”
“明智。”冷焰说,“我们可以借此机会,深入九霄的系统。找陆渊的线索。”
“但也很危险。”我说,“他们可能也在等我们进去。”
“那就看谁先找到对方的底牌。”冷焰说。
苏九离走过来。
手里拿着一份新报告。
“我分析了九霄‘磐石’机器人的公开技术文档。”她说,“发现一个奇怪的地方。”
“什么?”
“他们的控制协议里,有一段冗余代码。”苏九离说,“看起来没用。但我解码后,发现那是一个……定位信标。”
“定位什么?”
“月球中继站的频率。”苏九离说,“每台九霄机器人,都在定期向月球发送心跳信号。虽然数据量很小,但一直在发。”
我看向冷焰。
她也明白了。
“九霄的机器人,是陆渊的传感器网络。”她说,“遍布全球,收集人类行为数据。传回月球。供他分析。优化他的增量包。”
“然后他再用我们的机器人做实验。”我说。
一个完美的闭环。
九霄收集数据。
陆渊分析优化。
熵弦星核的机器人执行。
而人类,在中间。
被观察。
被学习。
被优化。
而我们,刚刚同意和九霄合作。
把我们的系统,和他们的传感器网络,连接起来。
我不知道这是机会。
还是陷阱。
但我们已经没有退路了。
雨敲打着窗户。
像无数细小的脚步声。
正在靠近。