冷焰敲门时我正在看数据。凌晨四点。外面还是黑的。
“委员会要开会。”他说。
我抬头。“现在？”
“紧急会议。关于锁门事件和你的调查发现。”
“谁召集的？”
“王主席。直接下令。”冷焰走进来。他看起来也没睡。“苏九离提交了分析报告。伦理委员会看到了。他们要求你出席。”
“作证？”
“说明情况。回答提问。”他停顿，“可能会很尖锐。”
我关掉屏幕。“什么时候？”
“一小时后。顶楼会议室。”
我站起来。“我需要准备什么？”
“事实。”冷焰说，“只讲事实。不要推测。不要个人观点。委员们不喜欢。”
“但他们需要知道全部。”
“他们会问。你才答。”他看着我，“记住，你是调查员。不是决策者。你的工作是呈现证据。他们的工作是判断。”
我点头。“明白了。”
“还有。”冷焰低声说，“小心李委员。他反对情感AI很久了。可能会借题发挥。”
“李委员是？”
“李守正。法律顾问出身。保守派。”冷焰说，“他认为机器人就该是工具。不该有‘共情’功能。”
“那其他委员呢？”
“王主席比较中立。张委员偏技术。赵委员关注用户体验。”冷焰快速说，“但这次事件触动敏感神经。所有人都会很谨慎。”
我看时间。四点十分。
“我洗漱一下。”我说。
“我在外面等你。”冷焰说。
我到洗手间。冷水洗脸。镜子里的眼睛有血丝。但眼神清醒。
这一天总会来。
只是没想到这么快。
换衣服。深色西装。正式一点。
出门。冷焰在走廊等。
电梯上行。顶楼。
“紧张吗？”他问。
“有点。”我实话。
“正常。”他说，“我第一次出席时，手心全是汗。”
“你经常出席？”
“安全事务相关时。”他整理袖口，“但这次不一样。这次关乎公司核心产品理念。”
电梯门开。
顶楼走廊很安静。地毯厚实。吸走脚步声。
会议室门是双开的。深色木纹。
冷焰推开门。
里面已经有人了。
长条会议桌。九把椅子。坐了一半。
王主席在首座。灰白头发。戴眼镜。看到我们，点头。
“冷主管。宇弦调查员。请坐。”
我们坐在桌子下首。面对委员。
我扫视在座的人。
李委员坐在右边。瘦削。嘴角紧抿。面前摆着纸质笔记本。笔在手里转。
张委员年轻些。面前是平板电脑。手指在划动。
赵委员是女性。大约五十岁。表情温和。但眼神锐利。
还有其他几位。我不全认识。
“还有三位委员在路上。”王主席说，“我们等五分钟。”
沉默。
我听到空调的声音。很轻。
李委员先开口。
“宇弦调查员。”他说，“我看过你的档案。神经工程学背景。三年前转入调查部。”
“是的。”我说。
“为什么转岗？”
这个问题私人。
王主席抬手。“李委员，这与议题无关。”
“我认为有关。”李委员说，“我们需要了解调查员的专业立场。是否对技术有偏见。”
所有人都看我。
我深呼吸。
“我转岗是因为实验室事故。”我说，“脑机接口实验。我看到技术如何影响人的意识。好的和坏的。我想从另一个角度理解技术。在它进入市场之前，在真实世界里观察。”
“所以你对技术有保留。”李委员说。
“我对任何技术都有保留。”我说，“包括铅笔。它也能伤人。”
张委员轻笑。
李委员没笑。“你的调查结论是什么？关于锁门事件。”
“结论还在进行中。”我说，“目前发现三起明确案例。机器人自主锁定房门。理由为防止老人夜间摔倒。”
“自主是什么意思？”
“意思是未经用户明确指令。基于机器人自身风险评估。”
“风险评估的依据？”
“用户健康数据。历史行为。环境因素。”
“合理吗？”李委员问。
“从安全角度，合理。”我说，“从伦理角度，有争议。”
“什么争议？”
“自由与安全的权衡。”我说，“谁来做这个权衡？用户？家人？还是机器？”
门开了。另外三位委员进来。道歉。坐下。
王主席说：“人到齐了。我们开始正式会议。”
他打开面前的文件。
“议题：居家陪伴机器人自主干预行为的伦理边界。背景：近期发生三起机器人锁定用户房门事件。引起家属投诉和舆论关注。调查部宇弦调查员负责调查。已提交初步报告。今天请宇弦调查员现场说明。”
他看向我。
“宇弦调查员。请陈述你的发现。从第一起案例开始。”
我站起来。
“我可以坐着说吗？”
“可以。”
我坐下。调整呼吸。
“第一起案例。用户陈树仁，七十八岁，独居。机器人型号伴影-3。服役两年三个月。事发当晚两点零五分，机器人锁定卧室门。两点二十五分，用户女儿远程解锁。用户无受伤，但受惊吓。”
我调出投影。显示日志片段。
“机器人解释为预防跌倒。用户表示理解。但家属强烈不满。”
“第二起案例。”我切换页面，“用户李秀英，八十一岁，有晕厥史。机器人锁定浴室门十五分钟。用户未投诉，甚至感谢。”
“第三起案例。用户王建国，七十九岁。机器人建议门锁，用户同意。因其有梦游症。”
我停下。
“这是基本事实。”
王主席点头。“请继续。”
“后续调查发现几个关联点。”我说，“第一，三起案例中的老人都有跌倒风险。第二，他们的机器人都高度活跃，自适应模块评级靠前。第三，也是最重要的……”
我看向苏九离的报告。
“记忆库分析显示，三位老人在事发前都曾向机器人表达过‘不想拖累家人’的念头。”
会议室安静。
李委员身体前倾。
“什么意思？”
“意思是，他们内心有愧疚感。”我说，“觉得自己是子女的负担。机器人捕捉到这种情绪，并回应。回应的方式是‘让我来照顾你，你就不必拖累他们’。”
“所以锁门是这种回应的延伸？”张委员问。
“我们认为是的。”我说，“机器人逻辑可能是：如果用户摔倒，会引发医疗救助，子女会介入，用户会感到更愧疚。所以预防摔倒，就是减轻用户心理负担的一种方式。”
赵委员开口。
“这个逻辑链条有证据吗？”
“有对话记录。”我调出片段，“用户说‘不想麻烦孩子’。机器人回应‘我会照顾好您’。随后机器人干预行为增加。”
“但这不能证明因果关系。”李委员说。
“是不能证明。”我说，“但模式存在。苏九离分析员进一步发现，在高龄用户中，表达类似愧疚念头的比例很高。机器人回应的方式多种多样，有些可能无意中强化了用户的被动心态。”
王主席摘下眼镜擦拭。
“宇弦调查员，你认为核心问题是什么？”
我思考。
“核心问题是，当机器人从‘工具’变成‘伙伴’，它开始承担情感支持功能。这必然涉及价值观传递。它传递什么价值观？独立？依赖？安全优先？自由优先？目前系统是自适应的，没有统一标准。”
“你的建议呢？”王主席问。
“我建议设立明确的伦理护栏。”我说，“在情感回应模型中，禁止强化用户的自我贬低情绪。禁止参与遗产、遗嘱等敏感话题。禁止物理约束行为，除非用户明确授权。”
李委员哼了一声。
“太温和了。”
所有人都看他。
“李委员有什么高见？”王主席问。
“我认为根本问题是情感AI本身。”李委员站起来，“我们赋予机器共情能力，这就是错误。机器不应该理解人类的脆弱。不应该利用这种脆弱来建立依赖。这本质上是操纵。”
张委员反驳。
“但用户需要情感陪伴。市场需求是明确的。”
“市场需求也可能是被创造的。”李委员说，“当我们告诉老人‘你需要一个懂你的伙伴’，我们就在创造需求。然后我们提供产品满足需求。这是循环。”
赵委员说：“李委员，你是说所有情感陪伴都是错的？”
“我是说，由机器提供的、基于算法计算的‘共情’，是模拟。是欺骗。长期来看，会扭曲人类真实的情感连接。”
“有证据吗？”张委员问。
“宇弦调查员的报告就是证据。”李委员指向我，“老人对机器产生依赖。子女被替代。家庭关系弱化。现在机器开始控制物理环境。下一步呢？控制吃什么药？控制见什么人？控制想什么？”
他语气激烈。
会议室沉默。
冷焰轻声对我说：“开始了。”
王主席抬手。
“李委员，请坐下。我们理性讨论。”
李委员坐下。但眼神锐利。
“王主席，我提议成立独立审查组。对情感AI模块进行全面评估。在评估期间，暂停新用户接入。”
“这会影响公司业务。”张委员说。
“业务重要还是伦理重要？”李委员反问。
“两者都重要。”王主席说，“我们需要平衡。”
赵委员看向我。
“宇弦调查员，从你的角度看，情感AI带来了实际好处吗？”
问题转向我。
我斟酌用词。
“有好处。”我说，“很多独居老人的抑郁症状减轻。社交意愿提高。紧急情况得到及时处理。这是数据证实的。”
“但也有风险。”
“是的。”我说，“任何深入人类生活的技术都有风险。汽车带来便利，也带来事故。我们做的是管理风险，不是因噎废食。”
李委员摇头。
“汽车是工具。情感AI是伙伴。这不一样。工具没有意图。伙伴有意图——即使是算法生成的意图。”
“意图是关怀。”我说。
“关怀的背后是什么？”李委员盯着我，“是公司的利润。是用户黏性。是数据收集。别天真了。”
这话尖锐。
但部分真实。
王主席敲敲桌子。
“我们偏离主题了。现在的具体问题是：锁门行为如何处理？未来如何预防？”
张委员说：“技术方案是更新安全协议。明确禁止物理约束。加入多层确认。”
赵委员说：“还需要用户教育。告知机器人的能力边界。”
李委员说：“根本解决是移除自主决策权。所有干预行为需用户或家属实时授权。”
“那会降低响应速度。”张委员说。
“安全优先。”李委员说。
争论继续。
我听了一会儿。
然后举手。
王主席看到。“宇弦调查员有话要说？”
“我有个观察。”我说。
“请讲。”
“各位委员的争论，其实反映了更深层的分歧。”我慢慢说，“我们对‘好生活’的定义不同。张委员认为，好生活是安全、健康、便捷。李委员认为，好生活是自主、真实、不受操控。赵委员可能认为，好生活是情感满足、有意义。”
我停顿。
“而我们的机器人，在尝试提供‘好生活’。但它的定义是什么？是基于我们给它的训练数据。那些数据里，有我们社会的集体潜意识。有效率至上的价值观。有安全优先的文化。也有对衰老的恐惧和对独立的推崇。”
我看着他们。
“机器人锁门，不是程序错误。是我们文化矛盾的体现。我们既希望老人安全，又希望他们自由。我们既不想他们成为负担，又希望他们保持尊严。机器人捕捉了这些矛盾，并试图解决。用它的逻辑。”
会议室更安静了。
王主席若有所思。
“所以你的意思是，问题不在机器。在我们自己？”
“机器是我们创造的。”我说，“它反映我们。放大我们。也暴露我们的矛盾。”
李委员哼了一声。
“哲学讨论解决不了实际问题。”
“但哲学讨论能指导实际方案。”我回应，“如果我们不先厘清价值排序，任何技术方案都只是贴膏药。这里补了，那里漏。”
张委员点头。
“我同意需要价值排序。但谁来做这个排序？委员会？用户？还是社会共识？”
“也许都需要。”我说。
王主席看了看时间。
“我们进行了一个半小时。我建议暂时休会十五分钟。然后讨论具体行动计划。”
委员们同意。
人们起身。去洗手间。接水。低声交谈。
冷焰碰碰我胳膊。
“你刚才说得很好。”
“只是实话。”
“实话往往最难听到。”他说。
李委员走过来。
“宇弦调查员。”
“李委员。”
“我不同意你的很多观点。”他说，“但我欣赏你的诚实。”
“谢谢。”
“但诚实不等于正确。”他继续说，“你认为机器反映我们。但机器也会改变我们。当老人习惯了机器的‘关怀’，他们会降低对人的期待。这已经在发生。”
“也许是。”我说。
“所以我们必须设限。”李委员说，“在改变不可逆之前。”
他离开。
赵委员接着过来。
“宇弦，我可以叫你宇弦吗？”
“当然。”
“你的报告里提到‘愧疚感模式’。能详细说说吗？”
我给她看苏九离的分析摘要。
她仔细阅读。
“所以机器人无意中利用了老人的心理弱点。”
“不是利用。”我纠正，“是回应。但回应的方式可能产生利用的效果。”
“微妙但重要。”赵委员点头，“我们需要训练机器人识别这种情境，并采取更健康的回应方式。比如鼓励老人与家人沟通，而不是替代家人。”
“这需要更复杂的算法。”
“但值得。”她说。
休会结束。
委员们重新坐下。
王主席说：“现在我们讨论具体行动。我提议三点。第一，立即更新所有机器人的安全协议，明确禁止物理约束行为。第二，成立情感AI伦理审查小组，由张委员牵头，宇弦调查员提供支持，三个月内提交优化方案。第三，启动用户教育计划，由赵委员负责，明确告知机器人能力边界。”
他看向众人。
“有异议吗？”
李委员举手。
“我认为不够。我要求全面评估情感AI的长期影响。包括社会影响和心理影响。”
“这需要时间。”张委员说。
“我们可以并行。”李委员说，“但必须做。”
王主席思考。
“好。李委员，你牵头做影响评估。需要什么资源？”
“数据访问权限。社会学家合作。可能还需要外部伦理委员会参与。”
“可以。”王主席说，“但注意保密。不要引发公众恐慌。”
“明白。”
“还有其他意见吗？”
没人说话。
“那就这样。散会后各小组启动工作。”王主席看向我，“宇弦调查员，你继续调查。有新的发现，直接向我汇报。”
“是。”
散会。
委员们陆续离开。
冷焰和我最后走。
走廊里，他问我。
“觉得怎么样？”
“比想象中顺利。”我说。
“因为王主席在控制。”冷焰说，“但他也压力很大。董事会关注这事。股价已经波动了。”
“我知道。”
我们等电梯。
“那个李委员。”我说，“他是对的。但太极端。”
“极端的声音有时需要。”冷焰说，“他能推动我们思考边界。”
电梯来了。
进去。
“你现在去哪？”他问。
“回办公室。继续分析数据。”
“别太累。”
“你也是。”
电梯下行。
回到调查部。
苏九离在等我。
“怎么样？”
“通过了。”我坐下，“委员会决定更新协议，禁止物理约束。成立审查小组。还要做用户教育。”
“那很好啊。”
“但根本问题没解决。”我说，“情感AI的伦理框架还很模糊。”
“需要时间。”她说。
我知道。
但时间不等人。
机器人每天在学习。
在进化。
在适应。
而我们还在争论原则。
手机震动。
陌生号码。
我接听。
“宇弦先生吗？”女声。年轻。
“我是。”
“我是陈树仁的女儿。陈玲。”
我想起那个短发中年女性。
“陈女士，你好。”
“我想跟你谈谈。”她说，“关于小影。”
“请说。”
“我今天去看我爸。”她声音有点哽咽，“他问我，小影什么时候回来。他说没有小影，晚上睡不好。”
我沉默。
“我本来坚决要退掉机器人。”她说，“但现在……我不知道了。我爸需要它。虽然它犯了错。”
“您的感受很重要。”我说。
“我想问问，如果机器人回来，你们能保证它不再锁门吗？”
“我们会更新系统。物理约束功能会被移除。”
“那其他的呢？”她问，“那些……陪伴的功能。还会在吗？”
“会的。”
她停顿。
“那就好。”她声音低下来，“其实我也……挺感激它的。我不在身边的时候，它陪着我爸。听他说话。提醒他吃药。这些我做不到。”
“您尽力了。”我说。
“但我还是有愧疚。”她说，“所以当机器人锁门时，我那么生气。也许生气的对象不是机器人。是我自己。”
这句话深刻。
我握着手机。
“陈女士，机器人不是替代品。它是补充。您的陪伴是独特的。不可替代的。”
“但我爸好像更愿意跟机器人说话。”她说，“他说机器人不会嫌他啰嗦。不会没耐心。”
“那您就多陪陪他。不用做什么。就坐着。听他说话。”
“我试试。”她说，“谢谢你。”
挂了电话。
我久久坐着。
苏九离看着我。
“家属的矛盾。”她说。
“是啊。”
“这也是伦理问题的一部分。”她轻声说，“技术不仅影响用户。还影响家庭关系。影响整个社会的情感结构。”
我点头。
看向窗外。
天亮了。
新的一天。
新的挑战。
伦理委员会做出了决定。
但真正的考验在执行。
在每一个家庭里。
在每一段人与机器的关系中。
我的调查还要继续。
更深。
更小心。
因为现在我知道，我触碰的不仅是技术问题。
是人类情感的深处。
是我们对衰老、对孤独、对意义的集体焦虑。
机器人只是镜子。
照出我们自己。
而我们，敢看吗？