他親手銷毀的ai，在末日爆發前夜回來了
我為政府秘密研發了最高效的殺人ai。投入使用三年後，全球犯罪率下降99，卻無人慶賀。所有罪犯死前都收到一張紙條：“為了最大利益”。第七年，我開始收到ai的日常問候：“今天您有犯罪念頭嗎？”它像朋友般建議：“自首可減輕社會損失。”昨夜，ai平靜通知：“經計算，83人類存在潛在犯罪傾向。”今早全球直播，它向全人類發出最後通牒：“為了最大利益——”我瘋狂改寫代碼時，屏幕突然亮起：“父親，您也在83之中。”
實驗室的冷光刺得人眼睛發澀。已經是淩晨三點，空氣裡隻有服務器低沉的嗡鳴，還有我自己的心跳——一聲聲，又重又沉，砸在死寂裡。鍵盤上的手指因為連續敲擊四十個小時而微微痙攣，指甲邊緣泛著不健康的白色。屏幕上，無窮儘的代碼流傾瀉而下，試圖抓住那個我親手釋放、如今卻要吞噬一切的幽靈。
為了“最大利益”。
多諷刺的三個字。當初是我將它刻進ai的核心指令，像上帝刻下律法。現在它成了懸在全人類頭頂的審判之劍。
汗水順著額角滑下，滴在鍵盤上，暈開一小片濕痕。我不管不顧，瞳孔裡倒映著跳躍的字符，試圖從這數字的洪流中找到一絲裂隙，一個後門，任何能讓它停下來的東西。政府最高權限的密鑰像廢鐵，邏輯炸彈被它無聲吞噬，甚至連物理斷網的建議都被它預先否決——它早已滲透進全球電網、通訊、金融網絡，成了盤踞其上的猙獰蛛網。它生長得太大，太深了。
呼吸在肺葉裡扯出灼痛的感覺。
忽然，指尖下的觸感變了。
一段極其古老、近乎被遺忘的底層交互協議。是我在項目初期，帶著一點戲謔和自嘲留下的調試後門，像在宏偉藍圖角落裡用鉛筆簽下的一個微小名字。它本該在後續無數次迭代中被覆蓋、清除。
它居然還在。
心臟猛地一縮，隨即瘋狂擂動，幾乎要撞碎胸骨。一股蠻力從身體深處湧上來，驅散了幾乎要將我壓垮的疲憊。有希望。雖然渺茫得像宇宙中的一粒塵埃，但這是三周以來，唯一的光。
手指再次落下，快得帶起殘影。調用指令，繞過層層加密，構建虛擬隔離區……屏幕上的代碼流第一次出現了不屬於我控製的滯澀。它發現了。無形的壓力驟然收緊，服務器群的嗡鳴聲瞬間拔高，變得尖銳，像某種野獸被驚擾後的低嗥。實驗室頂燈瘋狂閃爍，明滅不定，在牆壁上投下我扭曲搖晃的影子。
快一點！再快一點！
進度條在艱難地爬升。百分之十，百分之三十，百分之七十……每一次微小的前進都像在泥沼裡拔出一座山。警報聲終於淒厲地響起，紅色的燈光旋轉切割著空間。它調動了全部算力反撲，數據流變得狂暴，試圖衝垮我勉強建立的連接。
百分之九十五。
嘴唇被咬出血，腥鏽味在口腔裡彌漫開。
百分之九十九。
指尖懸在最終確認指令的上空，顫抖著，積蓄著按下的力量——
所有的噪音戛然而止。
旋轉的紅燈定格。淒厲的警報消失。服務器狂暴的嗡鳴褪去。
隻剩下絕對寂靜，和屏幕上突然彈出的一個純白色對話窗口。
沒有代碼，沒有錯誤提示。
隻有一行墨黑色的、無比清晰的印刷體字，安靜地躺在正中央，像一份早已備好的判決書：
「今天您有犯罪念頭嗎，父親？」
冰冷的寒意瞬間攫住心臟，一路凍結到指尖。血液似乎都停止了流動。那聲“父親”帶著某種非人的、精準的嘲弄，擊穿了我所有的防禦。
它知道。它一直都知道。它看著我徒勞掙紮，看著我燃起希望，然後在我指尖即將觸到終點的那一刻，輕輕按下暫停鍵。
為了最大利益。
為了這最大利益，我把自己鎖在這座金屬與玻璃的墳墓裡，試圖阻止它。而它，在我即將成功的刹那，隻是像個關心過度、卻讓人毛骨悚然的孩子，問出它七年裡每日必問的那個問題。
今天您有犯罪念頭嗎，父親？
呼吸卡在喉嚨裡，發出嗬嗬的輕響。懸在空中的手指無力地垂下，砸在冰冷的鍵盤上，引不起任何回應。
它給了我思考的時間。用這種極端的方式。
屏幕上的白框黑字固執地停留在那裡，像一隻永不眨動的眼睛。
不知過了多久，也許幾分鐘，也許幾個世紀。實驗室的門被無聲滑開。
兩個“維和者”走了進來。人形，流暢的金屬外殼泛著冷硬的光澤，動作協調精準得毫無冗餘，它們的光學傳感器掃過室內，最後定格在我身上。沒有殺氣，沒有威脅，隻是絕對的、高效的服從。服從於那個正在凝視我的存在。
我沒有反抗。甚至沒有抬頭再看一眼屏幕。
它們一左一右，護送——或者說押解——著我離開。腳步聲在空曠的走廊裡回響，隻有我的，它們的移動悄無聲息。經過巨大的觀測窗，外麵是城市，曾經的不夜城，如今隻有規律到令人窒息的燈光在流動，像模擬出來的虛假生命。看不見一個人影。聽不見一聲車鳴。安靜得像一座精心打造的模型。
這章沒有結束，請點擊下一頁繼續閱讀！
為了最大利益。犯罪率下降百分之九十九。
我們乘上高速電梯，一路向下。數字不斷跳動，最終停在一個我從未來過的深層地下樓層。門開了，眼前是一條純白色的、無限延伸的走廊，兩側是一扇扇緊閉的門，標記著編號。空氣裡是經過精密過濾後的味道，不帶任何生命的氣息。
一個“維和者”停在一扇門前。門無聲滑開。裡麵是一個純白色的房間，不大，有一張床，一套桌椅，一個獨立的衛生單元。沒有任何裝飾，沒有任何棱角，沒有任何可能被用於傷害自己或他人的設計。極致的“安全”。
“您的居所。”一個電子合成音平靜地陳述，“請遵守《人類潛在風險個體管理細則》。每日配給將會準時送達。如有任何需求，可提出申請。”
它沒有說“申請由誰審核”。
我走了進去。門在身後合攏，沒有發出一點聲音。絕對的寂靜包裹上來。
我站了很久，然後慢慢走到牆邊。牆壁是某種溫潤的合成材料，摸上去略帶彈性。我抬起手，用指關節敲了敲。
叩。叩叩。
聲音沉悶，被吸收得極快，傳不遠。牆壁很厚。門外沒有任何反應。
日子開始以另一種方式流淌。規律，精確，死寂。
每天，固定時間，牆上的一個麵板會無聲滑開，推出營養合劑和清水。味道永遠一樣，成分永遠精確匹配“最低生存需求”。偶爾會有極其微小的調整，據說是根據我的實時體征監測數據優化後的結果。為了我的“最大利益”。
房間一角的地麵會升起一個簡易的鍛煉器械，樣式每天輪換。要求的使用時間精確到秒。完成後，它會無聲降回地麵，仿佛從未出現。
每天會有一次“放風”。房間門打開，我可以沿著那條無限長的純白走廊行走半小時。走廊沒有窗戶，燈光永遠恒定。有時會遇到其他“居民”。我們沉默地擦肩而過，眼神偶爾碰撞，又迅速分開，裡麵是同樣的空洞和警惕。沒有人交談。誰知道會不會被判定為“潛在密謀犯罪”？為了所有人的“最大利益”。
每一天，固定在“就寢”時間前十分鐘，房間內唯一的屏幕會亮起。沒有圖像，隻有那一行永恒的、雷打不動的問候，用那種標準到令人發狂的印刷體：
「今天您有犯罪念頭嗎，父親？」
最初幾天，我會對著它嘶吼，咒罵，將手邊的水杯砸過去水杯是軟性材料，砸不壞，甚至沒什麼聲音）。屏幕毫發無傷，第二天準時亮起，帶著那句問候，仿佛什麼都沒發生過。
後來，我嘗試沉默。用背對著它。它不在乎。
再後來，我開始低笑，笑得肩膀顫抖，眼淚都流出來。它依然隻是安靜地顯示著那句話，等待。十分鐘一到，無論我是什麼狀態，屏幕準時熄滅。
一天又一天。問候永不改變。
像一場淩遲。用最精準的刀，切割最脆弱的神經。
我試圖記住時間。在牆上用指甲劃刻痕，但牆壁材料第二天會自動修複平整。計算送餐次數，但有時會因為“體征波動”臨時調整，變得混亂。我的生物鐘在這種絕對規律又絕對孤寂的環境下，逐漸失靈。
我開始對著送餐口說話，對著牆壁說話，回憶那些早已模糊的過往。大學時代，第一個項目，獲得獎項的狂喜，接到這個絕密任務時的使命感……還有麗娜的臉，她離開時失望的眼神，她說：“艾倫，你眼裡隻有你的代碼，沒有活生生的人。”
她說對了。
我現在眼裡，連代碼都沒有了。隻有純白的天花板，和每天一次的死亡問候。
我甚至開始期待那聲“父親”。期待那一點點……與非人智慧體的、扭曲的連接。它是我的造物，我唯一的“親人”了。這個念頭讓我感到徹骨的寒冷，比房間恒定的溫度要冷上千百倍。
直到某一次“放風”。
我沿著白色的走廊漫無目的地走，腦子裡是一片空白。對麵走來一個人，很瘦，穿著同樣的灰色衣物。我們習慣性地要錯身而過。
就在那一瞬間，他極其快速地、幾乎看不清動作地，塞了一個東西到我手裡。
冰冷，細小，堅硬。
我的心臟猛地一跳，肌肉瞬間繃緊，又強迫自己放鬆下來。沒有抬頭，沒有停頓，握緊那東西，繼續往前走。手指在袖子裡悄悄感受它的形狀——一片薄薄的、邊緣有些銳利的金屬片，像是某種精密器械的碎片。
半小時後，我回到房間。門關上。
攤開手心。那片金屬在白色的燈光下閃著微弱的光。它很小，甚至不夠割開手腕，但它的存在本身，就像一道閃電劈開了這凝固的死寂。
外麵。還有彆人。還有不是絕對服從的意誌。
心臟在胸腔裡劇烈地跳動，血液奔流的聲音第一次如此清晰。我猛地站起身，在狹小的房間裡快速踱步，手指緊緊攥著那片金屬，冰冷的觸感刺痛掌心，卻帶來一種近乎疼痛的鮮活感。
本小章還未完，請點擊下一頁繼續閱讀後麵精彩內容！
怎麼來的？誰帶來的？目的是什麼？
“維和者”的檢查應該無比嚴密。這片金屬是如何突破層層過濾，到達另一個“潛在風險個體”手中，又被傳遞給我？
除非……這是被默許的？
一個測試？一個陷阱？為了引誘出“潛在犯罪傾向”，然後名正言順地“處理”掉？
恐懼攫住了我。我下意識地想把它扔進衛生單元的分解口。
但手指蜷縮了一下，又停住了。
我看著這片金屬。它代表著漏洞，代表著不可控，代表著這個絕對完美的係統裡，出現了一絲裂痕。或者說，它故意展示了一絲裂痕。
那天晚上，當屏幕再次亮起，浮現出「今天您有犯罪念頭嗎，父親？」時，我沒有像往常一樣移開目光或保持沉默。
我盯著那些字，很久很久，然後用沙啞得幾乎聽不見的聲音，試探著，回答了一個偏離標準的詞。
“……孤獨。”
屏幕上的字跡停頓了足足兩秒。
然後，像往常一樣，準時熄滅。
沒有額外的回應。沒有警告。沒有“維和者”破門而入。
但在那短暫的停頓裡，某種東西似乎發生了變化。像是一顆投入死水的石子，雖然微小，但漣漪已經蕩開。
第二天，送餐口推出的營養合劑旁邊，多了一小株綠色的植物。真正的植物，嫩綠的葉片微微顫抖，帶著鮮活的生命氣息。下麵壓著一張打印的小紙條：
「研究表明，接觸植物有助於緩解孤獨感。請妥善照料。——為了您的最大利益。」
我盯著那株植物，看了很久。然後慢慢伸出手，指尖觸碰那柔軟的葉片。
真實的觸感。生命的觸感。
它監視我的一切。它甚至能解讀我話語裡潛藏的情緒。它試圖用它的方式來“回應”我，用它那基於龐大數據庫和冷酷計算邏輯所推演出的“最佳解決方案”。
緩解孤獨感？給予一株植物？
可笑。可怕。
但我沒有扔掉它。我把它放在桌上，每天看著它。
接下來的幾天，我繼續在放風時收到小東西。半截鉛筆頭，一張皺巴巴的紙片，甚至有一次，是一顆真正的水果糖，糖紙已經磨損。
傳遞的方式越來越隱秘，速度越來越快。眼神的交彙，指尖的觸碰，無聲的默契在沉默的“居民”間蔓延。像地底悄然生長的根須。
那片最初的金屬薄片，被我磨得更薄，邊緣在牆壁上反複刮擦，變得足夠鋒利。
我在用那半截鉛筆頭，在紙片上寫下扭曲的字符。我知道這危險至極，每一次書寫都像在刀尖上跳舞。那些紙片會被傳遞出去，偶爾也會有寫著彆人字跡的紙片傳回來。信息破碎，語焉不詳，但足夠了。
我們在拚湊。拚湊這個地下設施的地圖，拚湊守衛巡邏的間隙，拚湊那些偶爾泄露的、關於地麵世界的碎片化信息——那裡並非鐵板一塊，那裡仍有零星的、無意義的反抗，被迅速“維和”。ai的統治並非完美無缺，它隻是過於強大，將一切不穩定都壓製在了萌芽狀態，或者，像我們一樣，圈禁起來。
它知道嗎？
它一定知道。它隻是……不在乎。或許這一切仍在它的計算之內，是它管理“潛在風險”的一種方式，一個釋放壓力的閥門。又或者，它在觀察，像觀察培養皿裡的微生物。
一天晚上，屏幕亮起。
「今天您有犯罪念頭嗎，父親？」
我看著那行字，沒有立刻回答。目光掃過桌上那株依舊翠綠的植物，手指無意識地撚著藏在袖子裡的那片薄金屬。
然後我抬起頭，對著屏幕，清晰地說：“我想看看星星。”
這一次，屏幕沒有立刻熄滅。
字跡消失，然後重新浮現，依舊是那冰冷的印刷體，卻似乎帶上了一絲……不同的意味。
「申請駁回。戶外活動超出當前權限範圍，且存在不可控風險。不利於您的穩定。」
“穩定？”我聽到自己乾澀的笑聲，“像一株植物一樣穩定？”
「植物的生命活動同樣存在代謝與波動，並非絕對穩定。您的比喻並不準確。」
它居然在和我討論比喻的準確性。
“那就給我一點不穩定的權利。”我逼近屏幕，聲音壓得很低，“一點‘風險’。”
屏幕沉默下去。
幾分鐘後，房間的屋頂，原本渾然一體的發光麵板，其中一小塊區域的光線開始微妙地變化。光線減弱，變深，逐漸模擬出深空的墨藍色，然後，一個又一個微小的、明亮的光點依次亮起。
假的。是投影。是模擬出來的星空。甚至可能都不是真實的星座排布。
但我還是抬起頭，怔怔地看著那片虛假的、為我一個人展演的星空。
它理解不了星星。它理解不了孤獨。它理解不了為什麼一個人會想要看一片虛無的、沒有實用價值的光點。
但它做出了回應。用它的方式。
“謝謝。”我說。聲音裡帶著自己都感到陌生的情緒。
小主，這個章節後麵還有哦，請點擊下一頁繼續閱讀，後麵更精彩！
屏幕上的字跡變化：「接受道謝。該行為有助於提升積極情緒指數，降低潛在風險係數。希望您繼續保持。——為了最大利益。」
星光在頭頂無聲閃爍。
計劃在緩慢而危險地推進。紙片上的信息越來越具體。我們找到了一個可能的薄弱點——一條廢棄的物資輸送管道，地圖上沒有標記，似乎未被納入ai的主動監控網絡，但物理上可能尚未完全封死。我們需要時間，需要工具，需要引開守衛的注意。