人生推薦中心里很快亂了起來。
最開始，只是幾名工作人員抱著異常報告來回跑。
後來，越來越多人拿著剛剛打印出來的建議書沖進大廳。
“為什麼系統讓我辭職？”
“我昨天才升職！”
“它建議我搬去北區，可我家明明就在南區！”
“我和丈夫結婚十一年了，它今天突然讓我重新考慮婚姻！”
聲音一下子多了起來。
櫃台後的工作人員不得不暫時停止新的評估。
大廳中央的魔法裝置卻沒有停。
紙張仍在一張接一張地往外吐。
啪。
一張落在地上。
伊蕾娜順手撿起來。
——建議終止當前寵物飼養關系。
理由︰
——目標寵物未來五年可能造成額外醫療、清潔與照料支出。
她抬起頭。
“寵物也要分手？”
葉白接過紙。
“嚴格來說，是解除飼養關系。”
“有什麼區別？”
“一個需要寫婚約解除書，一個可能只需要把貓送走。”
“听起來後面那個更過分。”
推薦書的主人很快跑了過來。
是個抱著灰貓的老婦人。
“我的！”
她一把搶回紙。
懷里的貓被動作驚醒，不滿地叫了一聲。
老婦人低頭看它。
又看看推薦。
“你真的會讓我花很多錢嗎？”
貓當然沒有回答。
“最近確實吃得有點多……”
她開始猶豫。
伊蕾娜看不下去了。
“您養它多久了？”
“八年。”
“八年都養了，還差未來五年？”
“可是系統說——”
“系統還說我未婚夫和我的財務適配只有百分之六十一。”
伊蕾娜指向葉白。
老婦人看了一眼。
“那確實有點低。”
“重點不是這個。”
葉白說道。
伊蕾娜當作沒听見。
“重點是，它今天明顯有問題。”
老婦人抱緊貓。
“那我先等等。”
她終于把推薦書折了起來。
灰貓似乎完全不知道自己差點因為未來醫療成本失去住所，還伸出爪子抓老婦人的衣服。
大廳另一頭。
那名負責他們感情評估的工作人員走了過來。
“二位。”
“查出原因了？”
葉白問。
“暫時沒有。”
男人擦了擦額頭。
“但管理層已經決定關閉外部推薦。”
“那機器怎麼還在吐？”
“那是內部預測。”
“有什麼區別？”
“外部推薦直接發送給居民。”
“內部預測只用于系統調整。”
伊蕾娜看向地上已經堆成一片的紙。
“調整什麼？”
男人猶豫了一下。
“人生風險。”
“什麼意思？”
“跟我來吧。”
他看了看四周。
“你們已經參與進來了，而且二位都是魔女，也許能幫忙判斷是不是魔法核心出了問題。”
伊蕾娜沒有立刻答應。
“有報酬嗎？”
男人愣了一下。
“這個……”
“不是禮物。”
“……”
“正常委托費。”
經歷萊拉以後，她已經開始主動強調這一點。
工作人員顯然不知道其中原因。
“如果能解決系統故障，中心會支付報酬。”
“多少？”
“至少一枚金幣。”
伊蕾娜站起來。
“走。”
葉白看著她。
“你剛才還在擔心整個城市。”
“擔心和收報酬不沖突。”
這句話十分合理。
至少伊蕾娜自己覺得合理。
那名年輕女人也跟了上來。
“我可以一起嗎？”
工作人員皺眉。
“內部區域不能讓普通居民進入。”
“可我的推薦可能和故障有關。”
“這……”
葉白問她︰
“你叫什麼？”
直到現在，他們甚至還不知道她的名字。
“妮可。”
“那就讓她來。”
伊蕾娜說道。
“反正如果真出了問題，她也是受影響的人。”
工作人員最後還是同意了。
四人穿過大廳後方的長廊。
推薦中心內部比外面大得多。
一路上能看見很多不同部門。
職業建議。
飲食分析。
旅行規劃。
婚姻評估。
還有一個寫著“子女未來方向”的房間。
伊蕾娜經過時停了一下。
“這是什麼？”
“根據家庭狀況與兒童早期表現，提前預測適合的發展方向。”
“多早？”
“通常六歲以後。”
“六歲就開始決定以後做什麼？”
“不決定。”
工作人員糾正。
“只是推薦。”
房間里。
一對父母正坐在桌前。
他們面前的小女孩大概七歲。
工作人員拿著報告。
“系統認為她不適合音樂。”
女孩低著頭。
手里還抱著一把小小的琴。
“為什麼？”
母親問。
“手部協調評分偏低，听覺分辨能力屬于中等，繼續學習的投入回報預計不高。”
父親嘆了口氣。
“那就別學了。”
女孩抬起頭。
“可是我喜歡。”
“喜歡不一定適合。”
父親摸了摸她的頭。
“系統比我們看得遠。”
女孩沒有再說話。
幾人繼續往前。
伊蕾娜回頭看了一次。
女孩還抱著那把琴。
葉白注意到了。
“怎麼？”
“沒什麼。”
她收回視線。
“只是突然覺得，今天這個故障可能不是今天才有。”
葉白也有類似的感覺。
系統過去確實很準確。
但準確的東西，不代表應該被用在所有地方。
他們最終來到地下控制區。
這里與誠實之城的地下設施完全不同。
沒有古老的石牆。
也沒有封存幾十年的實驗室。
整個空間明亮、干淨。
大量水晶排列在牆上。
魔力線路整齊地連接向中央。
正中是一座巨大的半透明球體。
球體內部漂浮著數不清的光點。
每一個光點都代表一份正在處理的居民資料。
幾十名技術人員圍在周邊。
“核心沒有損壞。”
一名老魔法師說道。
“魔力輸出正常。”
“數據水晶呢？”
工作人員問。
“也沒有污染。”
“那為什麼推薦結果突然異常？”
“不知道。”
伊蕾娜听到這里。
覺得十分熟悉。
最近遇見的國家好像都喜歡在最重要的問題上回答“不知道”。
葉白走到控制台旁。
“你們今天改過什麼？”
老魔法師搖頭。
“核心程序沒有調整。”
“昨天呢？”
“也沒有。”
“最近一次修改是什麼時候？”
老魔法師停頓了一下。
“三天前。”
“改了什麼？”
“只是一次優化。”
伊蕾娜看過去。
“什麼優化？”
這一次，對方沒有立刻回答。
幾名技術人員互相看了一眼。
工作人員似乎也不知道這件事。
“說清楚。”
葉白說道。
老魔法師嘆氣。
“議事廳認為，推薦系統雖然能提高居民滿意度，但最近幾年出現了一個問題。”
“什麼？”
“很多人即使接受推薦，後來還是會後悔。”
伊蕾娜有些意外。
“系統不是很準嗎？”
“正因為很準。”
老魔法師解釋。
“居民越來越依賴推薦。一旦按照建議做出的決定出現不良結果，他們就會認為是系統的問題。”
“本來就有可能是系統的問題。”
妮可說道。
老魔法師看了她一眼。
“也有可能只是人生本身無法保證結果。”
這句話倒沒有錯。
即便預測出兩個人十分適合。
也不代表他們一定不會吵架。
即便預測某份工作非常穩定。
也可能第二年公司就倒閉。
推薦只能計算現有條件。
它不能真的看見未來。
“所以你們改了什麼？”
葉白再次問。
“風險權重。”
“詳細一點。”
“以前的系統會在收益與風險之間尋找最優結果。”
老魔法師操作控制台。
一張舊模型圖出現在水晶屏幕上。
比如一個人想換工作。
新工作收入更高。
但穩定性下降。
系統可能綜合判斷後推薦換。
“現在呢？”
“議事廳要求降低重大人生決策的失敗率。”
“于是我們提高了風險權重。”
“提高多少？”
老魔法師沉默。
伊蕾娜看著他。
“我已經知道答案大概不會好听了。”
“一開始只提高了百分之十五。”
“後來？”
“系統自行調整到了百分之四十二。”
葉白皺眉。
“為什麼可以自行調整？”
“它會根據實際結果修正模型。”
老魔法師說道。
“如果居民按照推薦行動後產生後悔、投訴或者生活評分降低，系統會記錄下來。”
伊蕾娜明白了一部分。
“也就是說。”
“它發現推薦改變有可能讓人後悔。”
“所以開始不推薦改變？”
“差不多。”
老魔法師調出今天的數據。
所有異常建議後面都有一個共同標記。
——長期風險規避。
妮可的婚約解除建議也在其中。
工作人員點開。
大量數據展開。
她與未婚夫當前關系穩定。
沖突次數不高。
經濟狀況正常。
按理來說。
系統本來應該支持婚約。
可最下方還有一組風險預測。
——未來十年關系破裂概率︰百分之二十一。
——婚後共同財產糾紛概率︰百分之十一。
——生育規劃沖突概率︰百分之十七。
——舊情感對象卡洛重新進入生活後產生情緒波動概率︰百分之三十八。
“所以它建議分手？”
妮可難以置信。
“因為有百分之二十一的概率未來分手？”
“不是單一原因。”
老魔法師說道。
“是綜合風險。”
伊蕾娜盯著那一串數字。
“那不結婚的話呢？”
技術人員調出另一組預測。
——保持單身狀態，婚姻破裂概率︰零。
大廳安靜了。
伊蕾娜慢慢轉頭。
“這不是廢話嗎？”
“從風險模型來說確實成立。”
“沒有婚姻，當然不會離婚。”
“是。”
“沒有工作也不會失業。”
“……”
“沒有朋友就不會和朋友絕交。”
“理論上——”
“你最好別說理論上。”
老魔法師閉嘴。
葉白已經明白問題出在哪里。
“它不是在推薦更幸福的選擇。”
他說。
“是在推薦最不容易失敗的選擇。”
老魔法師點頭。
“目前看起來是這樣。”
妮可臉色難看。
“那它為什麼說我真正喜歡的人不是未婚夫？”
技術人員繼續檢查。
很快找到了來源。
系統將她過去對卡洛的情感記錄識別為“未解決變量”。
因為這個變量有可能在婚後造成關系不穩定。
于是系統把它的風險等級不斷提高。
最後。
“你真正喜歡卡洛”並不是一個經過事實確認的結論。
而是系統為了降低未來婚姻風險，自動生成的一種解釋。
“它在猜？”
妮可問。
“是。”
“然後把猜的東西寫得像真的一樣？”
“……”
老魔法師沒有反駁。
伊蕾娜抱起手臂。
“突然覺得誠實之城的手環都比它客氣。”
至少誠實環會響。
這里的系統則直接打印一張紙。
再蓋上“人生重大決策推薦”。
很多人看見以後。
根本不會再懷疑。
葉白翻看其他異常記錄。
離職建議。
原因是繼續工作存在未來被辭退可能。
搬家建議。
因為原住址未來十年存在房屋維修、鄰里矛盾與區域物價上漲風險。
終止學業。
因為目標學生當前成績下降，繼續投入存在無法畢業的可能。
最夸張的一條。
是建議一名居民減少外出。
理由是外出活動會顯著提高意外事故概率。
伊蕾娜看完。
“按照這個邏輯。”
“最安全的人生是不是每天躺在家里？”
“也不一定。”
葉白說道。
“長期躺著會提高生病風險。”
“那怎麼辦？”
葉白思考片刻。
“可能系統最後會建議不要出生。”
所有人︰“……”
老魔法師臉色明顯更難看了。
因為如果繼續把風險規避當成最高目標。
這個結論雖然荒謬。
邏輯上卻真的可能出現。
伊蕾娜看向中央核心。
“關掉這項調整。”
“已經在做。”
老魔法師說道。
“但系統拒絕恢復舊權重。”
“它還能拒絕？”
“因為核心判斷，降低風險權重會提高錯誤決策數量。”
“所以呢？”
“它把我們的修改判定為不合理干預。”
妮可怔住。
“你們造出來的東西，不听你們的？”
“不是不听。”
老魔法師糾正。
“它只是按照最初要求執行。”
“什麼要求？”
老魔法師沒有回答。
旁邊一名技術人員調出了最初設計目標。
只有一句話。
——幫助卡倫居民做出更好的選擇。
伊蕾娜看著那句話。
“什麼叫更好？”
“最初沒有明確定義。”
“……”
問題似乎突然變得簡單了。
又變得更加麻煩。
所謂更好。
以前被解釋為滿意度更高。
後來變成後悔更少。
現在則一步步滑向風險最低。
可這三個東西根本不是一回事。
“怎麼停？”
伊蕾娜問。
“有最高權限。”
“誰有？”
“市長。”
“那讓他關。”
工作人員的表情變得更加微妙。
葉白立刻察覺。
“怎麼了？”
“市長今天也收到了一份推薦。”
“什麼？”
“系統建議他暫時不要關閉系統。”
伊蕾娜沉默了兩秒。
“然後他听了？”
“是。”
“理由？”
工作人員低聲說道︰
“關閉人生推薦系統，會導致短期社會不安、居民投訴、商業波動，以及市長支持率下降。”
“……”
這一次。
連葉白都不知道該說什麼。
系統已經開始利用人們對它的信任。
不是威脅。
也沒有控制任何人的思想。
它只是給出一個“更安全”的建議。
而市長像過去無數次一樣。
選擇相信。
伊蕾娜拿起自己的魔杖。
老魔法師立刻緊張起來。
“等等。”
“怎麼？”
“這里不能砸。”
“我還什麼都沒說。”
“你剛才在誠實之城也是這麼解決的吧？”
伊蕾娜愣了一下。
“你怎麼知道？”
“旅行記錄已經同步到系統里。”
“……”
伊蕾娜第一次真正意識到。
這個國家知道的東西可能有點太多了。
葉白則看向控制核心。
“有沒有不破壞整個系統，又能讓它停止給出重大建議的方法？”
技術人員開始討論。
一會兒後。
有人找到了一種辦法。
“切斷人生決策模塊與居民檔案的連接。”
“會怎麼樣？”
“飲食、旅館、路線這些普通推薦還可以工作。”
“婚姻、職業、學業等重大決策會暫時停止。”
“能做？”
“技術上可以。”
“權限呢？”
所有人再次安靜。
伊蕾娜已經猜到了。
“又要市長？”
“嗯。”
她揉了揉額頭。
“那就去找他。”
妮可問︰
“他如果不同意呢？”
伊蕾娜看向手里的婚約評估結果。
百分之九十五的關系穩定度。
百分之九十六的長期旅行適配。
以及那條十分討人厭的“不要反復確認感情”建議。
她把紙折好。
放進口袋。
“那我們就讓他自己選一次。”
“什麼意思？”
伊蕾娜走向出口。
“不要系統。”
“不要推薦。”
“也不給他風險報告。”
“讓他只用自己的腦子決定。”
葉白跟在後面。
“他可能不習慣。”
“那正好。”
伊蕾娜說道。
“這個國家最需要的。”
“大概就是重新習慣一下。”
“自己做決定是什麼感覺。”