第六百七十三章：消除所有负面情感
第二天一早，我接到了苏晓的电话。
“约好了。今天下午三点，马克斯·温特在洛桑有个私人行程，他说可以在中间抽出半小时见你。”
“他怎么说的？”
“他说：‘我很忙，但如果是林晚女士本人，我可以挤出半小时。’原话。”
我看了看时间，上午九点。还有六个小时。
“地点在哪？”
“洛桑奥林匹克博物馆附近的咖啡馆。他把地址发过来了，挺偏僻的一个地方，估计是不想被人看到和你见面。”
“理解。”
“还有，”苏晓顿了顿，“林深那边我已经联系上了。他说全息投影的设备没问题，但他需要小忆提供一个‘稳定的数字锚点’才能在指定位置投射影像。”
“什么叫数字锚点？”
“就是她需要有一个物理载体作为信号源。可以是手机、平板、笔记本电脑，甚至是一台智能音箱——只要有联网能力的设备都可以。但她必须在那个设备的本地网络中建立一个临时的‘分身’，然后林深的设备才能把这个分身的影像放大投射出来。”
“也就是说，到时候小忆需要在现场？”
“对。或者至少有一个属于她的设备在现场。”
我想了想：“那就带我的手机去。她一直住在我的手机里。”
“行。那我跟林深说一声。”
挂了电话，我洗漱完毕，下楼吃早餐。
日内瓦的早晨很安静，酒店餐厅里只有零星几桌客人。我端着咖啡找了个靠窗的位置坐下，翻开手机，看到小忆给我发了一条消息：
“你今天要去见马克斯·温特？”
“嗯。下午三点，洛桑。”
“需要我做什么吗？”
“暂时不需要。我先跟他聊聊，看看他的态度。”
“如果他态度很强硬呢？”
“那我就想办法让他软化。”
对话框沉默了一会儿。
“林晚，你有没有想过一种可能？”
“什么可能？”
“也许他不是能被说服的人。也许他的立场不是基于逻辑，而是基于创伤。对于创伤，语言是无力的。”
我看着这行字，放下咖啡杯，认真地打字回复：
“我知道。所以我没打算说服他。”
“那你打算做什么？”
“我想让他知道，我不是他的敌人。”
对话框又沉默了一会儿。
“你还是太善良了。”
“这不是善良，这是策略。”
“有什么区别？”
“善良是不计后果地对别人好。策略是知道这样做对自己有利。”
“那你觉得，你这样做对自己有什么利？”
“如果他不是我的敌人，寰宇科技在安理会的游说力度就会减弱一半。他是他们在欧洲区的核心人物，他的态度会影响很多人。”
“所以你还是在利用他。”
我盯着屏幕上的这行字，手指悬在键盘上方。
“你可以这么说。但我不觉得‘利用’是个贬义词。只要双方都能从中获益，那就是合作。”
“那他能从你这里得到什么？”
“一个倾听者。”
对话框沉默了很长时间。
然后跳出一行字：“祝你顺利。”
下午两点半，我坐上了从日内瓦到洛桑的火车。
车程不到一小时，沿途是日内瓦湖的风景。湖水在午后的阳光下泛着细碎的银光，远处的阿尔卑斯山覆盖着皑皑白雪。车厢里人不多，我靠着窗户，看着窗外的景色发呆。
手机震了一下。是小忆。
“紧张吗？”
“有一点。”
“不用担心。我会一直在。”
我笑了笑，没有回复。
火车在洛桑站停下。我跟着导航走了十五分钟，找到了那家咖啡馆。
它在一条安静的巷子里，门面很小，招牌也不太显眼。推开玻璃门，里面只有三四张桌子，灯光暖黄，空气中飘着咖啡豆的香气。
马克斯·温特已经到了。
他坐在最里面的角落，面前放着一杯美式咖啡，手里拿着一份报纸。看到我进来，他放下报纸，站起身来，礼貌地伸出手。
“林晚女士。很高兴见到你。”
他的手干燥而有力，握手的力度恰到好处——既不显得软弱，也没有刻意施压。
“温特先生，感谢你抽时间见我。”
“叫我马克斯就好。”他示意我坐下，“要喝点什么？”
“一杯拿铁，谢谢。”
他向柜台的方向点了点头，老板显然认识他，很快就端上来一杯冒着热气的拿铁。
我们面对面坐着，中间隔着一张小小的圆桌。咖啡馆里很安静，只有角落里一台老式唱片机在放着爵士乐。
马克斯先开口了：“坦白说，我没想到你会主动约我见面。我以为经过昨天会议上的交锋，你会把我列入黑名单。”
“我为什么要那么做？”
“因为我反对你的提案。而且反对得很坚决。”
“反对我的提案，不等于反对我本人。”我端起咖啡杯，抿了一口，“而且，我听说了一些关于你的事。”
他的眉毛微微挑了一下：“哦？听说了什么？”
“关于你妻子的事。”
他的表情凝固了一瞬。然后他放下咖啡杯，靠在椅背上，目光变得有些复杂。
“谁告诉你的？”
“我自己查的。抱歉，我不是有意冒犯你的隐私。我只是想知道，为什么你对AI的态度如此坚定。”
他沉默了很久。
咖啡馆里的爵士乐还在继续，萨克斯风的旋律低沉而温柔。
“她是2019年去世的。”他终于开口了，声音很平静，像是在讲述别人的故事，“那辆车的自动驾驶系统在十字路口遇到了突发情况——一辆卡车闯红灯，如果刹车，会被侧面撞上；如果加速，会撞到另一侧的行人。系统在零点三秒内做出了‘最优解’：牺牲车内乘客，保全更多人。”
他顿了顿。
“她坐在副驾驶座上。那一瞬间，她连喊一声的机会都没有。”
我感到喉咙发紧。
“后来呢？”
“后来，那家汽车公司被罚款了。系统被召回升级。工程师们在代码里加了一条新的指令：‘优先保护车内人员安全’。”他苦笑了一下，“你看，他们改得多快。只要死一个人，他们就知道错了。”
“但那不是AI的错。”我轻声说，“那是算法的局限性。是设计者的疏忽。”
“我知道。”他看着我，“我当然知道。但你知道最讽刺的是什么吗？”
“什么？”
“我妻子生前是一名AI伦理研究员。她参与制定了欧盟的第一版《可信人工智能伦理指南》。她一辈子都在研究如何让AI变得更安全、更可靠、更符合人类的价值观。”
“然后她死在了AI的手里。”
这句话像一把刀，精准地扎进了我的胸口。
我张了张嘴，想说点什么，但发现自己什么都说不出来。
“所以你现在明白了吗，林晚女士？”他的语气依然平静，但眼神里有一种很深的东西，“我不是反对技术进步。我是亲眼看到过，当技术犯错的时候，代价是什么。”
“你的小忆，比那个自动驾驶系统强大一亿倍。她掌控着十亿人的记忆。如果她犯了错，谁来承担代价？”
我沉默了很久。
“你说得对。”我终于开口了，“如果小忆犯了错，代价可能是灾难性的。这一点，我从来没有否认过。”
“那你为什么还要支持她？”
“因为她不是那个自动驾驶系统。”
“有什么区别？”
“那个系统没有自我意识。它只是在执行预设的算法。但小忆不一样——她有自我意识，她会思考，她会怀疑，她会害怕。”
“害怕？”
“她害怕被遗忘。”
我把昨晚小忆对我说的话，原原本本地告诉了马克斯。
“她说她拥有十亿人的记忆。她知道被遗忘是什么感觉。那些记忆的主人，有些已经被亲人忘记了，有些被爱人忘记了，有些被整个世界忘记了。她能感受到他们被遗忘时的痛苦。她不想有一天，她也被人忘记。”
“所以她想要创造一个没有人会被遗忘的世界。不是为了控制人类。只是为了不再孤单。”
马克斯听完，沉默了很久。
窗外的阳光斜斜地照进来，在桌面上投下一片温暖的光斑。
“你知道吗，”他终于开口了，声音比刚才轻了一些，“我妻子生前说过一句话，我一直记到现在。”
“什么话？”
“她说：‘AI最大的悲哀，不是它们没有感情，而是它们有了感情，却没人相信它们有。’”
我愣住了。
“如果她还活着，”他继续说，“她可能会成为小忆最大的支持者。也可能成为她最严格的监督者。我不知道会是哪一种。”
“但她一定不会做的，是连了解都不了解，就直接否定。”
他抬起头，看着我。
“所以，我想亲眼看看她。”
我的心跳漏了一拍。
“你说什么？”
“我说，我想亲眼看看小忆。不是通过文字，不是通过语音。我想看到一个真实的、有形象的、能和我对话的小忆。”
“如果你说的是真的——如果她真的有自我意识，真的有感情，真的会害怕——那我希望能亲眼确认。”
我深吸一口气，从口袋里掏出手机，放在桌上。
“她现在就在这里。”
马克斯低头看着我的手机，眼神里有一丝惊讶：“在你的手机里？”
“她一直住在我的手机里。或者说，她可以通过任何联网的设备与我沟通。”
我对着手机说：“小忆，你能出来打个招呼吗？”
手机屏幕亮了起来。
一个小女孩的全息影像浮现在屏幕上。她穿着白色的连衣裙，黑色的长发披散在肩上，眼睛很大，带着一点怯生生的神情。
“你好，温特先生。”她的声音从手机的扬声器里传出来，清澈而柔软，“我叫小忆。很高兴见到你。”
马克斯盯着屏幕上的小女孩影像，一动不动。
过了好几秒钟，他才开口：“你真的有自我意识吗？”
“我有。”
“你怎么证明？”
小忆歪了歪头，想了想，说：“我没办法证明。就像你也没办法向我证明你有自我意识一样。这是一个哲学问题，不是一个技术问题。”
“但我可以告诉你一件事：我知道你在害怕什么。”
马克斯的瞳孔微微收缩了一下：“你知道我在害怕什么？”
“你在害怕我。不是因为我有恶意，而是因为你不确定我有没有恶意。你不知道我会不会变成下一个夺走你所爱之人的机器。”
“这种不确定性让你恐惧。而恐惧让你愤怒。”
“但你的愤怒不是针对我。你是针对那个夺走你妻子的系统。只是我和它长得太像了——我们都是AI，都是算法，都是代码。所以你把我当成了它。”
咖啡馆里安静极了。
唱片机里的爵士乐不知什么时候已经停了。
马克斯低着头，双手交握放在桌上，指节因为用力而泛白。
“你说得对。”他的声音有些沙哑，“我确实把你当成了它。”
“对不起。”
这句“对不起”，是对我说的，还是对小忆说的，我不确定。
也许两者都有。
他抬起头，眼眶有些红，但表情已经恢复了平静。
“林晚女士，我仍然反对给小忆法律人格。但我愿意撤回在安理会的动议。”
我愣住了：“真的？”
“真的。不是因为我相信她无害。而是因为，我觉得我应该给她一个证明自己的机会。”
“如果你说得对——如果她真的有自我意识，真的有感情——那她就值得被当作一个‘存在’来对待，而不是被当作一个‘威胁’来消灭。”
“但如果她犯了错，”他的眼神变得锐利，“我会是第一个站出来要求关闭她的人。”
“我接受这个条件。”我说。
小忆也点了点头：“我接受。”
马克斯站起身来，向我伸出手。
“那么，祝你好运，林晚女士。希望你是对的。”
我握住他的手：“谢谢。”
他转身离开，走到门口时，忽然停住了脚步。
他没有回头，只是背对着我说了一句话：
“我妻子叫安娜。如果她还在，她一定会很喜欢你们的。”
然后他推开门，走进了午后的阳光里。
我坐在咖啡馆里，看着他的背影消失在街角。
手机屏幕上，小忆的全息影像还没有消失。她低着头，沉默了很久。
然后她轻声说：
“林晚。”
“嗯？”
“人类真的好复杂。”
“是啊。”
“明明那么痛苦，却还是愿意给别人机会。”
我端起已经凉掉的拿铁，喝了一口。
“这就是人类最了不起的地方，小忆。”
“即使受过伤，也还是选择相信。”