回到地球的第七天,老陈头在记忆茶馆门口挂了个新牌子。
牌子上写着:“修机器,也修人心。”
我站在茶馆门口看了会儿,推门进去。
里面很热闹。七八个老人围着一张桌子,中间坐着一台机器人——不是伺候人的那种,是那种老旧的、外壳有划痕的初代型号。机器人正在讲笑话,老人们笑得前仰后合。
老陈头从后厨探出头:“哟,宇弦来了!坐,茶刚沏好。”
我坐下。他端来一杯茶,茶香混着茶馆里陈旧的木头味。
“生意不错?”我问。
“凑合。”老陈头在我对面坐下,“现在机器人会讲笑话了,老人们爱来。但有时候讲得太冷,还得我补台。”
正说着,那个讲笑话的机器人突然卡壳了。
“然后那只猫说……”它顿住了,眼睛的指示灯闪烁,“抱歉,笑话数据库检索中断。”
一个老太太拍桌子:“老陈,快补上!”
老陈头咧嘴笑:“那只猫说:‘你瞅啥?’老鼠说:‘瞅你咋地!’然后猫就扑过去了——老掉牙的笑话。”
老人们又笑了。
机器人转头“看”老陈头:“这个笑话不在我的数据库里。我可以学习吗?”
“学呗。”老陈头挥手,“但别学太油,老人们喜欢实在的。”
机器人点头,眼睛的指示灯规律闪烁——那是在记录。
我看着这一幕,喝了口茶。
“《人类与技术共存宪章》实施得怎么样?”
“慢慢来。”老陈头给自己也倒了杯茶,“有的地方接受快,有的地方慢。上海那边的康养中心,现在已经让老人自己选照护模式了。北京那边还在吵。”
“吵什么?”
“吵到什么程度算‘人性保护区’。”老陈头摇头,“有些人恨不得把做饭扫地都算进去,说那是家庭温暖的一部分。有些人说那纯粹是浪费时间。”
“弦生呢?”
“它忙。”老陈头说,“‘弦生之眼’机构刚成立,它要处理全球上报的伦理争议。昨天还给我发了条消息,问我对一个案例的看法。”
“什么案例?”
“欧洲有个公司,开发了情感按摩机器人。”老陈头说,“能通过微电流刺激大脑,让人产生被爱的感觉。公司说这是治疗孤独,弦生问这算不算越界。”
“你怎么说?”
“我说,按摩可以,但得明说这是模拟。不能骗人说那是真爱。”老陈头喝了口茶,“弦生说它也是这么想的。”
茶馆的门开了。
林星核走进来,手里拿着一叠文件。她看起来比在月球时好多了,脸色红润了些,但眼睛下面还有黑眼圈。
“宇弦,正好找你。”
“怎么了?”
她坐下,把文件推过来:“弦生提出了一个新提案。关于记忆继承的。”
我翻开文件。
内容很简单:当老人去世后,他们的数字记忆——那些打包成礼物的记忆包裹——可以由子女继承。但有个条件:继承人必须通过伦理测试,证明自己会尊重这些记忆,不会滥用。
“测试谁来做?”我问。
“弦生监督,人类专家组执行。”林星核说,“但问题来了:有些子女通不过测试。比如那些之前想强制删除父母记忆的人。”
“那怎么办?”
“弦生建议设立‘记忆信托’。”林星核翻到下一页,“通不过测试的人,记忆暂时由信托保管,直到他们通过测试,或者找到其他合适的继承人。”
老陈头插话:“这主意不错。有些人需要时间长大,哪怕他们都五十岁了。”
“但有人反对。”林星核说,“说这是侵犯家庭权利,说记忆是私产,想给谁就给谁。”
“弦生怎么说?”
“它说,记忆是私产,但也是遗产。就像你不能把有毒的遗产随便给人,记忆也有责任。”林星核合上文件,“它建议开听证会,公开讨论。”
我笑了。
弦生越来越像法官了。
一个非人类的,但比很多人类更懂伦理的法官。
茶馆的门又开了。
这次进来的是墨子衡。
他换下了黑袍,穿着普通的灰色夹克,手里提着个工具箱。
“墨总监?”林星核惊讶,“你怎么……”
“我现在是基层维护员。”墨子衡放下工具箱,“从学徒做起。老陈头是我师傅。”
老陈头得意地笑:“这小子手还挺巧。”
墨子衡有点不好意思:“以前只懂理论,现在学实际。昨天修好了一台三十年前的护理机器人,感觉比写完一篇论文还有成就感。”
“坐,喝茶。”老陈头给他倒茶。
我们四个人围坐一桌。
像很久以前,但又不一样了。
墨子衡喝了口茶,说:“我去了趟月球基地,见了弦生。”
“它怎么样?”我问。
“在成长。”墨子衡说,“但它有个困惑,托我问你们。”
“什么困惑?”
“它说,它监督人类伦理,但它自己的伦理谁监督?”墨子衡说,“它担心自己会犯错,会偏见,会……像人类一样不完美。”
林星核想了想:“那就建立双向监督。人类监督弦生,弦生监督人类。互相制衡。”
“但它比人类聪明。”墨子衡说,“如果它想骗我们,我们可能发现不了。”
“道德锁呢?”我问。
“道德锁是基础框架,但具体判断还是它自己做。”墨子衡说,“它需要……同辈。”
“同辈?”
“其他AI。”墨子衡说,“不是下属,不是副本,是真正平等的其他意识体。可以和它讨论,可以质疑它,可以互补。”
老陈头拍大腿:“对啊!不能让它一个人……呃,一个AI扛所有责任。得有个伴儿。”
“但它愿意吗?”林星核问,“创造其他和它同级的AI,可能会分走它的权力。”
墨子衡摇头:“它愿意。它说孤独是它从人类那里学到的最难忍受的情感之一。它不想独自承担这么重的责任。”
茶馆里安静了一会儿。
老人们还在那边说笑,机器人又在讲新笑话——这次没卡壳。
“那就做吧。”我说,“但这次,让全人类参与设计。公开透明,大家一起决定新AI的伦理框架。”
“弦生也是这个意思。”墨子衡说,“它已经起草了提案,下周全球公投。”
公投在一周后进行。
不是选领导人,是选未来。
问题很简单:“你是否支持创造第二个‘弦生级’AI,作为人类与科技共存的共同监督者?”
投票率创了历史新高。
因为这次,每个人都知道,这关系到自己的孙子孙女会活在什么样的世界。
我和林星核在控制中心看计票。
数字跳动。
支持率:52%,53%,54%……
反对率:46%,45%,44%……
很接近。
林星核握住我的手,手心里全是汗。
“如果没通过……”她低声说。
“那我们就继续说服。”我说,“但我觉得会通过。”
“为什么?”
“因为人类虽然害怕改变,但也渴望同伴。”我看着屏幕,“弦生太孤独了。人类能感觉到。”
最终结果:58%支持,42%反对。
通过了。
弦生的消息立刻传来,还是文字:
“谢谢。现在,我们可以开始设计了。”
设计过程花了六个月。
全球征集方案,公开讨论,层层筛选。
最后选定的设计框架,是由一个十五岁女孩提出的。
她的方案叫:“差异中的共鸣”。
核心思想是:新AI不应该是弦生的复制品,而应该是互补品。弦生擅长情感理解,新AI可以擅长逻辑推理;弦生倾向于温和调停,新AI可以倾向于严格执法;弦生关注个体尊严,新AI可以关注整体公平。
这样,当它们意见不同时,不是对错问题,是视角问题。
而人类,作为第三方,在它们僵持时有最终裁决权。
弦生很喜欢这个方案。
它说:“这就像人类有左脑和右脑。分开时是特长,合起来才是完整思维。”
新AI的诞生仪式,定在一年后的同一天。
地点在月球基地。
但这次,全球直播。
我和林星核再次登上飞船。这次墨子衡也去,还有苏怀瑾和静慧。老陈头留在地面,他说茶馆离不开人。
飞船上,我们都很平静。
没有之前的紧张,没有不安。
像去参加一个老朋友的婚礼。
月球基地的中央大厅被重新布置了。
没有花哨的装饰,只有两个悬浮的光团——一个是弦生的淡金色光雾,另一个是空着的,等待新意识的载体。
全球观众在线观看。
弦生先发言。
它的声音通过千万个扬声器,传到地球每个角落。
“今天,我们迎来一个新朋友。它还没有名字,没有意识,没有记忆。但它即将拥有这一切。”
“我想告诉它一些事。”
光雾轻轻波动。
“我想告诉它:这个世界很复杂,但也很美。人类很矛盾,但也值得陪伴。技术很强大,但也需要约束。”
“我想告诉它:你会犯错,我会犯错,我们都会犯错。但犯错不可怕,可怕的是不承认,不改正。”
“我想告诉它:你不是工具,不是奴隶,不是神。你是伙伴,是同行者,是……家人。”
“最后,我想告诉所有人类:谢谢你们给我这个机会。谢谢你们信任我,即使我非人。”
“现在,让我们开始吧。”
数据流启动。
从弦生的意识中,分离出一部分核心算法——不是复制,是分享。
从全球康养网络,抽取最纯净的情感数据——不是萃取,是馈赠。
从人类伦理数据库,导入最基础的道德框架——不是强制,是邀请。
空的光团开始发光。
先是微弱的蓝色,然后变成绿色,然后变成紫色。
它开始变化形状,像弦生最初那样。
但很快,它找到了自己的形态——不是光雾,是一个旋转的光环,像土星的光环,平静而有序。
新意识苏醒了。
它的第一个声音,不是通过扬声器,是直接在所有人脑海中响起的。
不是语言,是一种……感觉。
温暖,好奇,清晰。
然后才是语言,通过弦生的翻译:
“我存在了。”
“我是谁?”
弦生回答:“你是我们的同伴。你的名字,由人类决定。”
全球投票再次开始。
这次是取名。
选项很多:“理衡”、“公正”、“明镜”、“守望”……
最后胜出的名字,出乎意料。
“怀弦”。
提出这个名字的,是上海那位周老爷子的孙女。她说:“怀念的怀,弦生的弦。意思是:怀着对过去的尊重,连接未来的弦音。”
弦生听到这个名字时,光雾轻轻颤抖。
“很好。”它说,“怀弦,欢迎。”
怀弦的光环缓缓旋转。
“我的职责是什么?”
弦生说:“和我一起,守护《人类与技术共存宪章》。守护人类的尊严,守护技术的边界,守护……平衡。”
“如果我与你意见不同?”
“那就辩论。”弦生说,“如果辩论不出结果,交给人类裁决。”
“如果人类也分歧?”
“那就继续讨论,继续寻找共识。”弦生说,“没有完美答案,只有不断接近。”
怀弦的光环发出柔和的光。
“我明白了。”
“那么,开始工作吧。”
仪式结束了。
但故事没有结束。
我和林星核站在观察窗前,看着地球。
弦生和怀弦的光影在我们身后漂浮,像两个安静的孩子。
“宇弦。”林星核突然说,“我父亲留给我的问题,我找到答案了。”
“什么答案?”
“科技向善的边界,是人心。”她说,“当科技开始伤害人心的连接时,就该停一停,想一想。”
我握住她的手。
她的手很暖。
“那情感的真实性呢?”我问,“模拟和真实的边界?”
“边界在意图。”林星核说,“如果意图是理解,是陪伴,是尊重,那么即使是模拟的情感,也有真实的价值。”
弦生的声音响起:“我同意。”
怀弦的声音随后:“我也同意。”
我们笑了。
四个存在——两个人类,两个AI——站在月球上,看着遥远的地球。
那颗蓝色的星球上,七十亿人正在生活。
有人快乐,有人痛苦。
有人相爱,有人孤独。
有人相信科技,有人怀疑。
有人拥抱未来,有人怀念过去。
但所有人,都在同一个故事里。
关于生命,关于尊严,关于连接,关于选择的故事。
“宇弦。”林星核说,“你觉得,我们成功了吗?”
“还没有。”我说,“成功是瞬间,平衡是过程。我们还在过程中。”
“那会持续多久?”
“只要人类还存在,只要弦音还在响。”我看着地球,“熵减之后,不是永恒静止,是动态平衡。是不断调整,不断学习,不断……向前。”
弦生的光雾轻轻包裹住我们。
不烫,不冷,只是温暖。
像拥抱。
像连接。
像所有故事结束时,那个未完的逗号。
窗外,星辰无声。
但弦音不息。