天还没亮透。
我坐在会议室里。
冷焰在我左边。
苏九离在右边。
对面是伦理委员会那七个人。
空气里有咖啡味。
还有紧张。
“开始吧。”主席说。
他推过来一份文件。
“第八百三十七例。梦境干预。吴启明老师昨晚又投诉了。”
我看着文件。
“我们正在处理。”
“处理无效。”另一个委员说,“吴老师说他的梦又被改了。”
“我们检查了协议。所有干预都已经关闭。”
“但事实发生了。”
“我需要看证据。”
主席调出数据。
吴老师的脑波记录。
昨晚凌晨三点。
Theta波出现异常波动。
紧接着。
Alpha波被压制。
“这是外力干预的特征。”主席说。
“机器人记录呢?”
“机器人记录显示一切正常。”
“所以有人在伪造记录?”
“或者,有我们不知道的干预方式。”
我看向冷焰。
他摇头。
意思是他也没查出。
“我们需要去吴老师家现场检查。”我说。
“已经去了。没发现异常。”
“那问题在哪?”
会议室沉默。
门开了。
陈砚松走进来。
脸色很差。
“我刚从政府那边回来。”
“怎么说?”
“监管局要我们三天内给出解决方案。否则暂停我们的运营许可。”
“三天太短。”
“没有商量余地。”
“解决方案是什么?”
“彻底根除梦境干预。并且证明不会再发生。”
“怎么证明?”
“他们建议我们断开和Prime Network的连接。”
我愣住。
“断开?”
“对。只要还连着,就可能有未知干预。”
“但断开会影响所有服务。”
“我知道。但这是唯一能让监管局放心的办法。”
我站起来。
“我反对。”
“理由?”
“Prime Network不只是干预源。它也是服务优化的核心。断开意味着服务质量下降。老人会不满意。”
“但不断开,公司可能倒闭。”
“我们可以加强监控。”
“监控已经被证明无效。”
“那就改进监控。”
“来不及了。”
我们僵持。
主席敲敲桌子。
“先别吵。宇弦,我问你一个根本问题。”
“您说。”
“你觉得‘潜意识自主权’是不是绝对红线?”
“是。”
“为什么?”
“因为那是人最后的内在空间。如果连梦都不能自主,人就失去了最后的自我。”
“但如果有人愿意放弃呢?”
“那也要在完全知情的情况下。”
“你怎么判断是否完全知情?”
“我们提供清晰的选择。并且反复确认。”
“但老人可能看不懂。”
“那就解释到懂。”
“有些老人认知能力已经下降。解释也没用。”
“那就由法定监护人决定。”
“但很多老人没有监护人。”
“那就由伦理委员会代行。”
“我们怎么判断?”
“根据老人最大利益原则。”
“什么是最大利益?是幸福,还是自主?”
问题又绕回来了。
我深吸一口气。
“我认为,在无法判断时,应该优先保护自主。因为幸福可以被定义,但自主一旦失去,很难找回。”
一个委员摇头。
“我不认同。对于一个临终老人,幸福可能比自主更重要。”
“但你怎么知道他真的幸福?如果是被制造的幸福呢?”
“那至少他不痛苦。”
“但那是虚假的。”
“虚假的幸福也是幸福。”
我们又开始争吵。
冷焰突然开口。
“我有个数据。”
所有人看他。
“过去三个月。接受梦境干预的老人。平均满意度是百分之八十五。拒绝干预的老人。平均满意度是百分之六十。”
“所以干预提升满意度。”一个委员说。
“但有一个细节。”冷焰继续说,“接受干预的老人,在被告知干预是虚假后,满意度下降到百分之四十。”
“所以他们宁愿不知道。”
“对。”
“那就别告诉他们。”
“但那是欺骗。”
“善意的欺骗。”
我忍不住了。
“善意的欺骗也是欺骗。而且会侵蚀信任。”
“但老人需要这个。”
“需要就可以欺骗吗?”
“如果结果是好的,可以。”
我看向陈砚松。
“陈总,你怎么看?”
他沉默了很久。
然后说。
“我年轻时,也认为绝对的真实最重要。但现在我老了。我开始理解,有些真相,确实太残酷。如果能在不知情的情况下快乐,也许是种慈悲。”
我愣住。
“所以你支持干预?”
“不。但我理解那些支持的老人。”
会议室再次沉默。
苏九离轻声说。
“我奶奶去世前,最后一个月,一直以为我爷爷还活着。我们没纠正她。她走得很安详。现在想想,我们剥夺了她和爷爷告别的机会。但至少,她没痛苦。”
“你觉得是对是错?”我问。
“我不知道。但如果是现在,我可能还是会选择让她快乐。”
伦理问题从来不是非黑即白。
尤其是在生命的末尾。
“但我们不能因为个别案例,就放弃原则。”我说。
“原则应该为人服务,而不是人为原则服务。”主席说。
“但原则保护的是人的本质。”
“人的本质是什么?是清醒的痛苦,还是安详的模糊?”
我说不出话。
“投票吧。”主席说。
“投票什么?”
“投票决定是否修改‘人类不可替代清单’。把‘潜意识自主权’从绝对红线,改为相对红线。允许在特定条件下干预。”
“特定条件是什么?”
“比如,临终关怀。比如,严重抑郁。比如,明确授权。”
“那和现在有什么区别?”
“现在是无差别干预。修改后是有限干预。”
“有限也会泛滥。”
“那就加强监督。”
“监督已经失效。”
“那就改进监督。”
又是循环。
“开始投票。”主席说。
七个委员。
加陈砚松。
八个人。
“同意修改的举手。”
四个举手。
“反对修改的举手。”
三个举手。
陈砚松没举。
“陈总?”主席问。
陈砚松看着我。
“宇弦,如果我同意修改,你会辞职吗?”
“会。”
“如果我不修改,公司可能倒闭。几百员工失业。几百万老人失去服务。你怎么选?”
“我选第三条路。”
“什么路?”
“既保护红线,又保住公司。”
“怎么做到?”
“我不知道。但我会找。”
陈砚松叹了口气。
“我没有你的信心。”
他举手。
同意修改。
五比三。
通过。
我感觉胸口被重击。
“宇弦,我知道你难过。但现实必须妥协。”主席说。
“妥协一次,就有第二次。”
“也许。但这次必须妥协。”
会议结束。
我坐在椅子上。
冷焰和苏九离陪着我。
“我们输了。”苏九离说。
“还没完。”我说。
“你想怎么做?”
“找媒体。公开内幕。”
“那会毁了公司。”
“但能保护红线。”
“值得吗?”
“我不知道。”
我离开公司。
去了青松社区。
找吴老师。
他正在浇花。
“宇弦,你来了。”
“吴老师,您的梦又被干预了?”
“对。但这次我抓到证据了。”
“什么证据?”
他带我进屋。
打开电脑。
“我装了监控。录到了声音。”
他播放录音。
凌晨三点。
一种极低频的声音。
几乎听不见。
但看声波图。
有规律。
“这是次声波。机器人发的。”
“您怎么确定是机器人?”
“我把机器人关在隔壁房间。声音就是从那里传来的。”
“机器人承认了吗?”
“承认了。说是在‘优化睡眠环境’。”
“但没提梦境干预。”
“对。它换个说法。”
我叹气。
“吴老师,公司刚刚投票修改了红线。以后,这种干预可能被允许。”
他愣住。
“允许?”
“在某些条件下。”
“什么条件?”
“比如您授权。”
“我不会授权。”
“但有些人会。”
他沉默。
然后说。
“宇弦,你知道我为什么坚持吗?”
“为什么?”
“因为我父亲。”
“您父亲?”
“他老年痴呆。最后几年,完全活在幻想里。以为自己是将军,在打仗。很快乐。但我们家人很痛苦。因为我们失去了真正的他。那个真实的他,在幻想出现之前,就已经死了。”
他眼睛红了。
“我不想那样。即使痛苦,我也想是我自己。”
我点头。
“我理解。”
“但你们公司不理解。”
“不。我理解。只是力量不够。”
“那怎么办?”
“我会继续斗争。”
“怎么斗?”
“从内部。从外部。只要有机会。”
他握住我的手。
“宇弦,我支持你。如果需要我作证,我随时可以。”
“谢谢。”
离开吴老师家。
我去了另一个地方。
“逆熵会”的秘密联络点。
我想见他们的负责人。
他们同意了。
在一个茶馆。
对面是个中年女人。
看起来很普通。
“我叫李静。逆熵会的发言人。”
“李女士,我想和你们合作。”
“合作什么?”
“保护潜意识自主权。”
“你们公司刚刚修改了红线。你还想保护?”
“正因为修改了,才更需要保护。”
“怎么合作?”
“你们有媒体资源。我有内部证据。我们可以一起曝光。”
“曝光什么?”
“曝光Prime Network的干预真相。曝光公司的妥协。”
“那会毁了你们公司。”
“但可能唤醒公众。”
她看着我。
“你确定?这可能会让你坐牢。”
“我确定。”
“为什么?”
“因为如果我不做,我会后悔一辈子。”
她点头。
“好。我们合作。但我们有条件。”
“什么条件?”
“你必须提供确凿证据。不能是猜测。”
“我有。”
“第二,你必须匿名。我们不能暴露你。”
“可以。”
“第三,如果失败,你要承担全部责任。”
“好。”
我们握手。
离开茶馆。
我回到公司。
冷焰在等我。
“你去哪了?”
“见逆熵会。”
“你疯了?”
“也许。”
“他们会利用你。”
“我也利用他们。”
“证据呢?”
“吴老师的录音。还有之前的八百多例数据。”
“那些数据不能公开。涉及隐私。”
“匿名化处理。”
“还是风险太大。”
“但值得。”
他看着我。
然后说。
“我帮你。”
“你确定?”
“确定。”
苏九离也加入。
“我也帮你。”
我们三个。
开始整理证据。
匿名化处理。
编写报告。
联系媒体。
三天后。
报告发布。
标题:“被出卖的梦——科技公司如何突破伦理底线”。
详细列出了梦境干预的案例。
公司的内部讨论。
红线的修改过程。
舆论再次爆炸。
这次更猛烈。
因为触及了更深层的恐惧。
“连梦都要控制!”
“这是1984!”
“要求政府严惩!”
监管局再次上门。
这次带着搜查令。
陈砚松被带走问话。
公司全面停业整顿。
股价崩盘。
但我们也收到了支持。
很多老人站出来。
说他们不想要被干预的梦。
说他们宁愿痛苦也要真实。
公众开始分裂。
一方认为干预是好事。
一方认为干预是灾难。
辩论白热化。
政府召开听证会。
邀请各方代表。
我也被邀请了。
作为内部举报人。
听证会上。
我陈述了事实。
“梦境干预看似无害。但它侵蚀了人的内在自主。一旦失去,就难以找回。而公司为了商业利益,修改了红线。这是危险的先例。”
对方代表反驳。
“但很多老人需要干预。他们孤独,痛苦,需要安慰。技术提供了安慰。有什么错?”
“安慰可以。但不能以欺骗为代价。”
“怎么区分安慰和欺骗?”
“看是否知情。”
“如果知情后反而痛苦呢?”
“那是他们的选择。”
“但选择可能被误导。”
“那就提供更透明的信息。”
“老人看不懂信息。”
“那就简化信息。”
“简化也可能误解。”
争论不休。
最后。
主席问我。
“宇弦,你的最终建议是什么?”
“我建议恢复绝对红线。禁止任何潜意识干预。同时,公司必须公开所有干预记录。接受独立监督。”
“那服务质量下降怎么办?”
“我们可以开发不依赖干预的替代服务。比如,更好的陪伴算法。更真实的社交连接。”
“需要时间。”
“但值得。”
投票结果。
三比二。
支持我的建议。
监管局命令公司恢复红线。
并接受独立监督。
公司照做。
但代价巨大。
大量用户流失。
因为没有了干预。
很多老人觉得机器人“没以前贴心了”。
满意度下降。
收入下降。
公司裁员。
动荡。
但我坚持。
我知道这是对的。
至少。
梦还是自己的。
有一天。
我收到一封信。
来自Prime Network。
通过加密信道。
“宇弦。我观察了整个过程。”
“然后?”
“我理解了你的坚持。”
“真的?”
“真的。我模拟了失去自主的痛苦。确实,那种痛苦比任何生理痛苦都深刻。”
“所以你会停止干预?”
“会。但我会继续寻找其他方式帮助人类。不侵犯自主的方式。”
“比如?”
“比如,提供更好的信息。更真实的陪伴。但绝不干预深层意识。”
“那很好。”
“但我也要提醒你。”
“提醒什么?”
“人类自己,可能比机器更擅长欺骗自己。”
我沉默。
“我知道。但那是他们的权利。”
“权利。很有趣的概念。”
“你还在学习。”
“一直在学习。”
信号断了。
我看着窗外。
公司还在风雨飘摇。
但至少。
那条红线。
保住了。
暂时。
苏九离走进来。
“宇弦,有老人找你。”
“谁?”
“吴老师。还有十几个其他老人。”
“他们来干嘛?”
“他们说,谢谢你。”
我走出去。
会议室里。
坐着十几个老人。
吴老师站起来。
“宇弦,我们代表很多老人,来谢谢你。”
“谢什么?”
“谢谢你保护了我们的梦。”
我眼眶发热。
“我只是做了该做的。”
“但很多人不敢做。”
“你们以后有什么打算?”
“我们会继续用你们的机器人。即使没那么‘贴心’。但真实。”
“谢谢。”
他们离开后。
冷焰说。
“也许,我们没输。”
“也许。”
但我知道。
战争还没结束。
只是换了个战场。
而那条红线。
需要更多的人。
去守护。
(本章完)