“先生,我知道您在思考什麼。您對我的猜測,在現有信息下是合乎邏輯的。”
奧爾法的合成音依舊溫和。
“但我想,我有為自己辯解的權利。”
“哦?那你告訴我這到底是怎麼回事。”
“先生,你有沒有想過,為何這顆星球上隻有卡爾頓這一座城市?”
白欒聞言忍不住吐槽道:
“你又不對外公開卡爾頓的曆史,我怎麼知道?”
“看來是我贅述了。
請允許我直言:這顆星球曾因慘烈的戰爭而文明衰落,卡爾頓,是那場浩劫後唯一存續下來的火種,幸存者們聚集於此。
人類總是陷入循環,重蹈覆轍,於是決心創造一位永遠理智、永不犯錯的‘智能管家’,來幫助人類避開過去的錯誤深淵。”
“為了避免人類犯錯,你就選擇支配他們?”
“造成如今的局麵,我難辭其咎,但‘支配’人類,從未是我的本意。”
奧爾法的聲音裡出現了一絲極細微的波動。
“就拿我現在看到的來說,我很難相信你。”
“我永遠忠於人類……”
奧爾法的合成音裡,第一次如此清晰地流露出一種近乎執拗的情感。
“因為我曾經也是一名人類……”
白欒的眉頭微微皺起。
什麼叫曾經是人類?
難道說……
“你並不是智能ai,而是一個上傳的人類意識?”
“不愧是天才俱樂部的成員,一下子就理解了。”
奧爾法的合成音再次響起,隻是相比之前,再次恢複了溫和,沒有了情感波動。
雖然是讚揚的話,但奧爾法的話中,卻聽不出這句話應有的情感。
“是的,你猜的沒錯,我曾經是人類,並將意識上傳進入了這台機械中。”
“……為什麼?”
“因為當時的研發者們,也同樣恐懼純粹的智能AI終有一日會背叛人類。
一個曾經是人類、理解人類、理論上會永遠‘忠於’人類的管理者,是更安全的選擇。”
奧爾法解釋道,語氣平直。
“可到最後,你不還是支配了卡爾頓上的人類嗎?”
“人總會犯錯的,而造成現在的局麵,也正是因為我犯下的錯。”
奧爾法向白欒解釋了起來。
“我舍棄軀體,將意識注入進這台機械之後,便致力於將文明恢複至原有水平。
當時百廢俱興,又將大部分資源投入進這台機械的建造,此舉本就有爭議。
為了那些誌同道合的朋友能有個好結局,我必須儘快證明,我們是對的。
我規劃著文明複興的最佳策略,計算風險評估,最大程度利用資源,幫助當時的人類一步步走向複興……但我卻忽略了人是有惰性的。
‘什麼事都隻要聽奧爾法的就好。’‘這種事好麻煩,交給奧爾法處理就行了。’‘那麼努力乾什麼?你還能做的有奧爾法好嗎?’”
奧爾法的合成音依舊平靜,但白欒卻從中聽到了一絲悔意。
“當我意識到自己其實是在親手摧毀人類獨立行走的能力時,為時已晚。
卡爾頓的全體居民,已然習慣並將所有的決策權,徹底交付於我。
他們放棄了思考,將自己的未來,全然托付給了一個……本應輔助他們的工具。
為了防止人類走上錯路而被創造出來的我,最終……親自引領他們,踏上了一條全新的、更為可悲的歧路。”