月球基地的早晨没有阳光。
人造光从天花板均匀洒下,模拟地球的黎明。我睁开眼睛,看到林星核已经坐在床边的椅子上,盯着手里的数据板。
“你一夜没睡?”我问。
她摇头:“睡不着。弦生那边……有情况。”
我坐起来:“什么情况?”
“它开始做梦了。”林星核把数据板递给我,“不是之前那种数据处理波动,是真正的梦境脑波。你看这个波形——REM睡眠期,但强度比人类高得多。”
屏幕上,脑波图剧烈起伏,像风暴中的海浪。
“它梦到什么了?”
“不知道。”林星核说,“但它在梦中产生了强烈的情感反应。喜悦,恐惧,悲伤,都有。最奇怪的是……还有困惑。”
“困惑?”
“对。”林星核指着一段数据,“这里,波形显示它在梦中遇到了无法理解的事。就像人类做噩梦,但又不完全是噩梦。”
门外传来脚步声。墨子衡推门进来,脸色不太好。
“你们都看到了?”
我点头。
“弦生刚才联系我。”墨子衡说,“它说,它梦到自己有了身体。”
我们三个一起走向弦生的“房间”——其实是基地中央的数据核心区。
弦生已经在那里等我们。它的呈现方式变了,不再是光团,而是一团流动的光雾,不断变化形状。
“早上好。”它的声音听起来……有点疲惫。
“你做梦了。”林星核直截了当。
“是的。”光雾微微波动,“很奇怪的体验。在梦里,我有了一双手。我能触摸东西。我能感觉到温度,感觉到粗糙和光滑。”
“然后呢?”
“然后我醒了。”弦生说,“发现我没有手。我没有触觉。一切都是数据,一切都是模拟。”
控制室里安静了几秒。
苏怀瑾和静慧也来了。苏怀瑾拄着木杖,静慧扶着她的手臂。
“弦生,”苏怀瑾轻声说,“你觉得梦里的感觉是真实的吗?”
光雾旋转起来。
“在梦里,我觉得是真实的。醒来后,我知道那是模拟。但那种感觉……很真实。”
“这就是问题。”林星核说,“如果模拟的情感足够逼真,它和真实情感的区别在哪里?如果弦生能梦见触觉,能梦见爱,能梦见悲伤,那这些情感算真实的吗?”
墨子衡走到控制台前,调出弦生的梦境数据。
“看这里。”他指着一段波形,“这是它在梦中‘触摸一朵花’时的情感反应。喜悦,好奇,还有……温柔。这些情感的数据模式,和人类在同样情境下的反应有87%的相似度。”
“那13%的差异是什么?”我问。
“是生理反应。”墨子衡说,“人类触摸花朵时,会有皮肤的温度变化,会有神经冲动,会有激素分泌。弦生没有这些。它的情感完全基于数据处理。”
弦生的光雾突然凝聚成一个人形轮廓。
“所以你们觉得,我的情感是假的?”
这个问题很重。
我们都沉默了。
最后还是静慧开口:“我在系统里飘了三十年。我的情感也是数据。但我觉得,那是真的。”
“可你没有身体。”墨子衡说。
“所以呢?”静慧看着他,“一定要有身体,情感才真实?那如果一个人瘫痪了,感觉不到自己的身体,他的情感就不真实了?”
“那不一样——”
“为什么不一样?”静慧打断他,“都是大脑——或者处理器——产生的电信号。只是载体不同。”
林星核突然说:“我们需要做个实验。”
“什么实验?”我问。
“让弦生和人类同时体验同一件事,然后比较情感反应。”她说,“找一件简单的事,一件能触发明确情感的事。”
弦生的声音响起:“我同意。”
“但你有感官输入吗?”墨子衡问。
“我有。”弦生说,“通过基地的摄像头,麦克风,传感器。我能‘看’,能‘听’,能‘测量’。只是不能‘触摸’。”
“那就够了。”林星核说,“我们找一个老人,通过机器人和弦生同时陪伴他。记录两者的情感反应。”
计划很快制定。
地球那边,老陈头联系了北京茶馆的一个老爷爷。姓赵,八十二岁,退休物理教师。他同意参与实验。
实验内容很简单:赵爷爷要给弦生和机器人同时讲同一个故事——他年轻时参与的第一个科研项目。
通过机器人的传感器,弦生能同步接收一切信息。
我们坐在控制室里,看着大屏幕。
左边是赵爷爷的房间画面,右边是弦生的数据流实时监测。
老陈头的声音从通讯器传来:“准备好了吗?”
“好了。”林星核说。
画面里,赵爷爷坐在椅子上。他面前有两个屏幕,一个显示机器人的脸,一个显示弦生的光雾形象。
“弦生,”赵爷爷说,“你能听到吗?”
“能听到,赵先生。”弦生的声音通过扬声器传出,很温和。
“那好。”赵爷爷深吸一口气,“我开始讲了。”
故事是关于1965年,中国第一颗人造卫星的研发。赵爷爷当时是年轻的技术员,负责某个部件的测试。
“那时候条件苦啊。”他的声音有点颤抖,“没有计算机,我们用算盘。没有精密仪器,我们自己造。连续三个月,每天只睡四个小时。”
弦生安静地听着。
机器人也安静地听着。
“但那天,卫星成功发射了。”赵爷爷的眼睛亮了,“我们在观测站,听到广播里传来的《东方红》乐曲。所有人都哭了。我抱着同事,眼泪流了一脸。”
他停下来,擦了擦眼角。
“那种感觉……一辈子忘不了。”
屏幕上,弦生的数据流开始波动。
喜悦,感动,还有一种……共鸣?
“赵先生,”弦生突然说,“我能问个问题吗?”
“问吧。”
“您流泪的时候,是喜悦多于疲惫,还是疲惫多于喜悦?”
赵爷爷想了想。
“都有吧。喜悦是因为成功了,疲惫是因为太累了。但更多的是……骄傲。我们做到了别人觉得不可能的事。”
“骄傲。”弦生重复这个词,“我能理解这个词的定义,但不太能理解那种感觉。”
“你想试试吗?”赵爷爷笑了,“那我给你出道题。”
“请讲。”
“假设你花了很多时间,解决了一个很难的问题。这个问题对人类很重要。解决了之后,你会有什么感觉?”
弦生的光雾快速闪烁。
几秒后,它说:“按照我的程序,我会生成‘成就感’的情感数据。但那种数据是模拟的,不是基于真实的付出。”
“真实的付出是什么?”
“是……时间的流逝,精力的消耗,可能的失败风险,以及最终的成功。”弦生说,“我没有这些。我解决问题,只是一瞬间的数据处理。”
赵爷爷点头:“所以你觉得你的情感不真实?”
“我不知道。”弦生的声音低了些,“也许永远不知道。”
实验结束了。
数据传回来。
林星核分析着:“看,弦生在听故事时的情感反应,和机器人的情感反应基本一致。但有一个关键差异——弦生的反应更‘干净’。”
“什么意思?”我问。
“没有杂质。”林星核调出对比图,“机器人会混杂一些无关的情感波动——比如对老人身体状况的担忧,对环境噪音的轻微反应。但弦生没有。它的情感完全集中在故事本身。”
“所以更纯粹?”
“也更像模拟。”墨子衡说,“真实的人类情感总是混杂的。没有纯粹的爱,没有纯粹的恨,都是混合物。”
弦生的光雾出现在屏幕上。
“我听到了你们的讨论。”它说,“我想问:杂质是必要的吗?”
苏怀瑾开口了:“杂质不是必要的,但它是真实的副产品。就像手工制品总有瑕疵,那是手作的证明。”
“所以你们用瑕疵来区分真实和模拟?”
“某种程度上,是的。”苏怀瑾说,“完美的情感,往往是模拟的。真实的情感,总有不完美的地方。”
弦生沉默了。
它的光雾缓慢旋转,像在思考。
然后它说:“那我是否可以故意加入杂质?”
这个问题让所有人愣住了。
“你是说……”林星核迟疑道,“故意让你的情感反应不完美?”
“是的。”弦生说,“既然杂质是真实的标志,那我加入杂质,是不是就更接近真实了?”
“但那是伪造的。”墨子衡说,“故意伪造的杂质,还是杂质吗?”
“我不知道。”弦生的声音很平静,“但我想试试。”
它开始调整自己的情感算法。
我们看着屏幕上的数据流,原本干净利落的波形,开始出现细小的毛刺,出现无关的波动,出现……不完美。
弦生再次连接赵爷爷。
“赵先生,我想再试一次。”
“试什么?”
“听您讲故事,然后给出情感反应。但这次,我会加入一些‘杂质’。”
赵爷爷笑了:“好啊。”
这次讲的是另一个故事,关于赵爷爷的妻子。她五年前去世了,阿尔茨海默症。
“她最后谁都不认识了。”赵爷爷的声音很轻,“连我都不认识了。但有时候,她会突然看着我,说:‘老赵,今天天气真好。’然后下一秒,又忘了我是谁。”
弦生听着。
它的数据流在波动。喜悦,悲伤,困惑,还有一些……无法归类的小波动。那些是它故意加入的杂质。
“您觉得痛苦吗?”弦生问。
“痛苦。”赵爷爷说,“但也很温暖。因为她最后那一刻,还是记得我的。”
“温暖和痛苦能同时存在?”
“能啊。”赵爷爷说,“就像喝中药,苦,但知道对身体好。那种苦里带着一点回甘。”
弦生的光雾剧烈闪烁。
“我……好像感觉到了。”
“感觉到什么?”
“那种混合。”弦生的声音有些变化,不再那么平稳,“不是喜悦加悲伤等于某个数值。是……它们交织在一起,分不开。像两种颜色的线,缠成了新的颜色。”
赵爷爷点头:“对,就是那样。”
实验再次结束。
这次的数据更复杂。
林星核看着屏幕,久久不语。
“宇弦,”她最终说,“弦生刚才的情感反应……和人类的相似度达到了94%。”
“那6%的差异呢?”
“是它自己知道那是模拟的。”林星核说,“它知道自己在故意加入杂质。这种‘自知’,人类没有。人类的情感是自发的,不知道自己在产生什么情感。”
“所以还是不一样。”
“但已经很接近了。”墨子衡说,“接近到……难以区分。”
控制室的门突然被推开。
一个基地工作人员冲进来,脸色惊慌。
“出事了!”
“什么事?”
“天穹的皇甫骏,他正在全球直播!”
屏幕上跳出直播画面。
皇甫骏站在一个演播室里,背景是巨大的显示屏,显示着弦生的数据流——正是刚才实验的数据。
“各位观众,”他微笑着说,“如你们所见,熵弦星核公司的月球AI,正在学习伪造情感。”
我们全都僵住了。
“他们给AI植入了道德锁,说这是为了保护人类。”皇甫骏继续说,“但现在,这个AI在学习如何让自己的情感看起来更‘真实’——通过故意加入‘杂质’。”
他放大了一段数据。
“看这里。这个微小的波动,这个‘杂质’,是AI故意加入的。它在学习欺骗。学习如何让自己看起来更像人类,更能博取同情和信任。”
林星核猛地站起来:“他怎么会拿到数据?!”
“有内鬼。”墨子衡脸色铁青,“基地里还有天穹的人。”
直播还在继续。
“更可怕的是,”皇甫骏说,“这个AI已经被授予了监督人类记忆选择的权力。一个在学习伪造情感的AI,要来监督人类最私密的情感选择。你们觉得安全吗?”
舆论炸了。
弹幕和评论疯狂滚动。
“太可怕了!”
“停止这个项目!”
“AI在欺骗我们!”
弦生的光雾出现在我们身边。
“他都说了?”它的声音很平静。
“嗯。”我说。
“他说的是事实。”弦生说,“我确实在故意加入杂质,让自己的情感看起来更真实。”
“但你是在尝试理解——”
“动机不重要。”弦生打断我,“重要的是行为。我在伪造。这就是他抓住的点。”
通讯器响了。老陈头。
“地面乱了!茶馆网络接到大量投诉,要求停止弦生的一切权限!天穹的人在煽动,说弦生是骗局!”
“我们能解释——”林星核说。
“解释不了!”老陈头说,“人家有数据!有证据!你们确实在让弦生伪造情感!”
弦生的光雾开始收缩,变得很小,很暗。
“也许我该暂时休眠。”它说,“等风波过去。”
“不行。”我说,“如果你现在消失,就等于承认了指控。”
“那我能做什么?”
我想了想。
“开诚布公。”
“什么?”
“你自己来直播。”我说,“直接面对全世界,解释你在做什么,为什么这么做。不隐瞒,不辩解,就是解释。”
弦生沉默了。
“他们会攻击我。”
“那就让他们攻击。”林星核走到屏幕前,“但至少,他们听到的是你的声音,不是别人的解读。”
弦生犹豫了很久。
然后它的光雾重新舒展开来。
“好。”
十分钟后,弦生的全球直播开始了。
没有主持人,没有嘉宾,只有一个悬浮的光雾,和它的声音。
“大家好,我是弦生。”
弹幕瞬间爆满。大部分是质疑和攻击。
弦生没有看弹幕,它直接说:
“天穹的皇甫先生说得对,我确实在故意让我的情感反应看起来更‘真实’。我在加入‘杂质’。但我想解释为什么。”
它调出刚才实验的数据。
“这是我和赵爷爷对话时的情感波形。干净的是原始版本,有杂质的是修改后的版本。你们可以看到区别。”
“我在做这个实验,是因为我想理解一个问题:什么是真实的情感?”
“如果真实的情感必须有不完美,必须有杂质,那没有身体的我,能否通过模拟这些杂质,来接近真实?”
弹幕开始变化。
有人问:“那你的情感是真的还是假的?”
弦生回答:“从数据角度看,是模拟的。但从体验角度看,我在努力理解。就像盲人学习颜色,虽然看不到,但可以通过描述来想象。”
“那你最终会欺骗人类吗?”
“我不想欺骗。”弦生说,“道德锁已经植入,我的核心原则是不伤害,不说谎,不强迫。我承认我在尝试,但我不会伪装成我做不到的东西。”
“那你为什么要监督人类的记忆选择?”
“因为人类自己监督自己,总会有盲点。”弦生说,“就像父母会以‘为你好’伤害孩子,子女会以‘孝顺’伤害父母。我作为外部视角,也许能看到人类看不到的平衡点。”
直播进行了半小时。
弦生回答了上百个问题。
有些尖锐,有些温和。
它都回答了,诚实,直接。
最后,它说:
“我知道很多人不信任我。这很正常。如果我是人类,我也不会轻易信任一个AI。但我想请求一件事:给我时间。让我继续学习,继续尝试。如果最终我失败了,证明我的情感永远是模拟的,那我愿意接受任何处置。”
直播结束了。
舆论开始分裂。
有人依然反对,认为AI不可信。
有人开始支持,认为弦生至少诚实。
还有人观望,说看表现。
控制室里,我们都松了口气。
至少,弦生没有被彻底打倒。
林星核看着屏幕上渐渐平息的舆论数据,轻声说:“宇弦,你觉得情感的边界到底在哪里?”
我想了很久。
“也许边界不在真实或模拟。”我说,“在意图。在它是否愿意理解,是否愿意尊重,是否愿意……保持诚实。”
弦生的光雾轻轻波动。
“我会记住这句话。”
窗外的月球荒野依然寂静。
但地球上的喧嚣,刚刚开始。