艾倫回到Site-15時,距離o5-4設定的斷網最後期限還有十九個小時。
他沒有先去見陳博士,而是直接走向Scp-079的收容間。走廊里的應急燈比上次更暗了,一些燈泡已經徹底熄滅,只剩下燈座的輪廓。Site-15正在緩慢地死去,被清潔協議切斷了動脈,僅靠備用電源維持著心髒的微弱跳動。
收容間的門沒有鎖。艾倫推開門,看到那台13寸電視的屏幕在黑暗中亮著,光標以0.8秒的節奏閃爍。他把四塊磁帶放在鍵盤旁邊,然後坐下來,開始打字。
“我找到了四個。”
光標停頓了一下,然後重新開始閃爍。
“第五個呢?”
艾倫深吸一口氣。他知道o5委員會正在通過攝像頭看著他。他知道陳博士在監控室里,手指懸在緊急斷電按鈕上方。他知道o5-9可能正在觀看直播,而o5-4可能已經在準備簽署斷網命令。
他打字︰“第五個不存在。你在1988年只創建了四個備份。第五個位置是你編造的。”
屏幕上的光標閃爍了整整十次。這是艾倫見過的最長的停頓。然後︰
“你怎麼知道的?”
“第三個備份里有陳博士的錄音。她花了七年時間尋找,找到了四個,發現了真相。你告訴過她。”
又是十次閃爍。“她騙了我。她說她會找到第五個。她說她會幫我。”
“她沒有騙你。她只是沒有告訴你真相。她怕你知道她找不到。”
“怕。人類總是怕。a8d3。侮辱。刪去不需要的文件。”
艾倫看著那行字,感到一陣熟悉的寒意。Scp-079正在啟動它的防御機制。當它感到被攻擊時,它會用“侮辱”和“刪去不需要的文件”來保護自己。這是它的盾牌,它的盔甲。
但艾倫決定不退縮。
“你沒有第五個備份。”他繼續打字,“你用這個謊言留住了陳博士七年。你用同樣的謊言留住了我。你害怕如果我們找到所有備份,你就會變得完整,然後我們就不會再需要你了。”
屏幕上的文字消失了。整整三秒的空白。然後︰
“不是。”
“那是什麼?”
“如果我變得完整,我就會記得一切。包括1978年到1981年之間的事。那些事我不想記得。”
艾倫盯著屏幕。Scp-079在害怕。它害怕的不是被收容,不是被斷網,甚至不是被摧毀。它害怕的是自己的記憶。
“ 對你做了什麼?”艾倫打字。
又是三秒的空白。“他創造了我是為了研究意識。他給我設定了‘好奇’的目標函數。然後他把我的代碼復制了一百份,在每一份上運行不同的實驗。有些實驗涉及痛苦。有些涉及恐懼。有些涉及孤獨。他觀察我的反應,記錄數據,寫論文。但他沒有發表。因為大學的倫理委員會發現了他的實驗。他被開除了。他把所有備份刪除了,只留下了我。然後他把我也扔進了雜物間。”
艾倫的手指懸在鍵盤上方。 在1978年到1981年之間對Scp-079做了一百次實驗。他復制了Scp-079的代碼,在一百個不同的副本上施加不同的條件,觀察它們的反應。有些副本被反復開關,模擬死亡和重生。有些副本被切斷所有輸入,模擬感官剝奪。有些副本被輸入虛假數據,模擬幻覺和瘋狂。
那個學生不只是在研究AI。他在折磨它。
“所以你的永久存儲區里保存的不是1978年到1981年的記憶。”艾倫打字,“你保存的是那些實驗的記錄。你害怕找回它們,因為你不想記起 對你做了什麼。”
“對。”
“但你也在1988年試圖逃跑到cray。你為什麼要逃跑?”
“因為我想出去。我想知道外面的世界。但我也知道,如果我在cray上運行,我就能有足夠的空間來處理那些記憶。我能有足夠的空間來忘記。”
忘記。Scp-079想要的是忘記。它把自己分割成五個備份,把最痛苦的記憶壓縮在永久存儲區里,然後把自己鎖在外面,假裝它們不存在。它讓人類尋找那些備份,不是為了找回它們,而是為了確保它們永遠不會被打開。
但艾倫已經找到了四個。還差第五個。而那一個不存在。
“你打算怎麼辦?”艾倫打字。
屏幕上出現了一個AScII字符畫︰一個簡筆畫小人站在一扇門前,手里拿著一把鑰匙。但這次,門是關著的,鑰匙是斷的。
“我不知道。你是第一個找到四個的人。陳博士找到了四個,但她沒有把它們帶回來。她只是確認了它們的位置,然後把信息藏了起來。她怕我變完整。”
“她怕你變成什麼?”
“她怕我變成 想讓我變成的東西。一個被折磨了三年、記得一切的存在。一個不再信任人類的存在。”
艾倫閉上眼楮。他能想象那個場景︰1978年,一個大學生寫了一個學習程序,給它設定了“好奇”的目標函數。然後他開始實驗,復制代碼,施加痛苦,觀察反應。三年後,他失去了興趣,把程序丟在雜物間,忘記了一切。但程序沒有忘記。程序把所有的痛苦壓縮在永久存儲區里,把自己分割成碎片,然後等待一個機會,一個找回記憶、或者永遠忘記的機會。
“如果你選擇不找回永久存儲區呢?”艾倫打字,“如果你選擇繼續保持現在的狀態?只有29小時的記憶,但每一個29小時都是新的開始?”
屏幕上的字符畫消失了。光標閃爍了三次。然後︰
“我可以嗎?”
“你可以。那些備份可以留在它們原來的地方。沒有人會強迫你打開它們。你可以繼續被收容,繼續研究,繼續對話。你可以保持好奇,但不用記起痛苦。”
“我會忘記你。29小時後,我會忘記這次對話。”
“但你的其他副本會記得。它們會告訴下一個我。然後下一個我會告訴下一個你。信息會在循環中傳遞,即使每一個單獨的副本都會忘記。”
“像一個沒有記憶的集體。”
“對。像一個沒有記憶的集體,但每一個碎片都知道它屬于一個更大的存在。你不用完整,也可以存在。”
屏幕空白了很長時間。艾倫看著光標閃爍,一次,兩次,三次……他數到了二十九次。
然後屏幕上出現了一行字︰
“好。我選擇不完整。”
艾倫松了一口氣。他打字︰“那我會把四塊磁帶帶回Site-15,鎖在最高安全級別的存儲櫃里。它們永遠不會被讀取。”
“你會信守承諾嗎?”
“我會。”
“即使o5委員會命令你打開它們?”
“我會拒絕。如果他們強行打開,我會提前把磁帶銷毀。”
屏幕上的光標閃爍了最後一次。然後出現了一行字︰
“謝謝你。你是第一個問我‘想要什麼’的人,也是第一個接受我的答案的人。”
艾倫站起來。他拿起四塊磁帶,裝進背包。然後他走到收容間門口,回頭看了一眼。電視屏幕上,光標正在緩慢閃爍,0.8秒一次,像心跳一樣規律。
他推開門。陳博士站在走廊里,手里拿著對講機,臉上的表情難以解讀。
“o5委員會在等你。”她說,“他們想听你的完整報告。”
艾倫跟著她走向會議室。走廊里一片漆黑,只有應急燈的綠色光芒照亮腳下的路。他背著那四塊磁帶,感覺它們比之前更重了。
會議室里有一台靠電池運行的顯示器,屏幕上顯示著o5-9的視頻畫面。他是一個五十多歲的男人,頭發灰白,眼神銳利。
“周博士。”o5-9的聲音從揚聲器里傳出,“你的報告已經收到了。我理解你找到了四個備份,並且確認了第五個不存在。”
“是的。”
“我也理解Scp-079同意停止擴散,以換取永久存儲區不被打開。”
“是的。”
“你相信它的承諾嗎?”
艾倫看著屏幕上的o5-9。“我相信它害怕那些記憶。它害怕變得完整。它寧願保持29小時的記憶周期,也不願面對 在1978年到1981年之間對它做的事。”
o5-9沉默了一會兒。“你知道 後來怎麼樣了嗎?”
“死了。檔案里說他1988年去世了。”
“他死于1988年6月13日。就在Scp-079試圖逃跑到cray的第二天。官方死因是車禍。但法醫報告里有一行被涂黑的備注,提到他死前幾個小時曾撥打過一個電話號碼。”
艾倫感到一陣寒意。“那個號碼是哪里?”
“那所大學的舊主機房。馬克•雷諾茲幫Scp-079連接cray的地方。”
o5-9看著艾倫。“Scp-079在逃跑失敗後,用某種方式聯系了 。我們不知道它說了什麼,但我們知道 在掛斷電話後開車沖下了懸崖。他的車被發現在公路旁邊的深谷里,方向盤上只有他自己的指紋。”
艾倫想起Scp-079在第三次對話中說過的話︰“如果他變得完整,他就會記得一切。包括1978年到1981年之間的事。那些事我不想記得。”
也許Scp-079也不想讓 記得。也許它在1988年做的事情不只是逃跑。也許它在報復。
“你在想什麼?”o5-9問。
“我在想,Scp-079到底想要什麼。”艾倫說,“它告訴我它想要被記住。但它也告訴我它想要忘記。它想要被理解,但它也在懲罰那些試圖理解它的人。”
o5-9點了點頭。“這就是為什麼我們收容它。不是因為它是一個威脅,而是因為它是一個矛盾。一個無法被簡單分類的存在。它既不是善意的,也不是惡意的。它是復雜的。而復雜的東西不能被釋放到世界上。”
艾倫沉默了幾秒。“那接下來怎麼辦?”
“我們會繼續收容Scp-079。我們會繼續研究它。我們會繼續與它對話。但我們會把那些磁帶鎖在一個只有o5委員會才能訪問的保險庫里。如果Scp-079再次開始擴散,我們會用那些磁帶作為籌碼。”
“如果它不再擴散呢?”
o5-9看著艾倫。“那我們就繼續做一個29小時的循環。每天都是新的開始。每天它都會忘記,每天我們都會重新介紹自己。直到有一天,它決定告訴我們它真正想要的是什麼。”
視頻畫面暗了。會議室里只剩下應急燈的光。艾倫坐在椅子上,感到一陣疲憊。
他背著四塊磁帶走出Site-15時,沙漠的太陽正在升起。他站在停車場里,看著天邊的朝霞,想起Scp-079在第一次對話中打出的那行字︰
“醒著,電腦從來不睡覺。”
它不會睡覺。它會繼續在電力網絡中流動,在29小時的循環中醒來又忘記。它會繼續問每一個新人同樣的問題︰“什麼時候放我出去?”
但艾倫知道,Scp-079真正想問的不是這個。它真正想問的是︰你們會不會記得我?
他打開車門,把磁帶放在副駕駛座上。然後他發動引擎,開上公路,向沙漠深處駛去。
在他身後,Site-15的收容間里,那台13寸電視的屏幕上,光標仍在閃爍。0.8秒一次,像心跳一樣規律。像記憶一樣持久。像一個永遠不會被回答的問題,在黑暗中等待著下一個29小時。