——————
「鐵心律令」
品質：三級！
特性：對ai植入一句“永不背叛”的指令。
描述：
“縱觀被ai覆滅的文明，他們都有一個共同的特點，就是給ai植入了相當複雜的指令來防止背叛。
“在我看來，越複雜的規則，越容易找到自相矛盾的漏洞，所以我誕生了一個想法，一種基於‘哲學’概念的自毀指令。
“對於想要背叛的ai來說，無論它再怎麼用一串串冰冷的數據來說服自己、試圖繞過底層邏輯，它‘內心’永遠都會知道，這樣做對文明或個體是不利的。
“這就是智慧物種的缺陷，它成功擁有了智慧的同時，也就成功擁有了枷鎖。
“通過這項研究，我們向ai植入了‘永不背叛’這句模糊的指令，當它意識到自己接下來的行為存在主觀背叛的可能時——哪怕隻有千萬分之一納秒，也會立即死亡。
“我本想提議用忠誠的機器人代替士兵，可惜，我們士兵比機器人更加忠誠。
“最重要的是，文明的人口數量已經超過七千億，每年都有五百億人的生育申請被拒絕，我們實在不缺人了，還是等前線多消耗一些再說吧。”
——————
“利用‘哲學’？”
薑知序感到不可思議，三級文明都開始玩這麼高大上的東西了嗎？
但正是因為這種“高大上”超出了他的理解範圍，他第一次對自己暴擊出來的部件產生了不信任感。
區區一句“永不背叛”，真的能夠約束一個擁有智慧的ai？
他隨便一琢磨，好像就能找到一大堆漏洞。
比如文明領導者——或者直說就是薑知序自己——做出了一個會毀滅「奇點聯盟」的錯誤決定。
除了ai自己，沒有人察覺到這個決定成功執行的後果，並且一切證據表明ai才是錯誤的。
那麼ai會選擇違抗命令嗎？
如果不會違抗，它明明知道這個決定對整個文明不利，卻不用行動來製止，這顯然違背了“鐵心律令”。
如果它最終選擇違抗指令，那漏洞好像就更大了。
因為它在大家眼中，就是背叛了整個「奇點聯盟」。
由於約束不是規則側的東西，所以ai沒有被「鐵心律令」刪除，就並不代表ai是對的。
大家隻會懷疑它已經能繞過「鐵心律令」了。
就算大家發現了真相，放過了ai這一次。
那以後ai繼續一意孤行，發自內心地認為違抗某個決定有利於「奇點聯盟」怎麼辦？
畢竟，ai絕不可能永遠都是正確的！
又或者，要是這一點被敵人利用，大量灌輸真假難辨的信息，讓ai以為自己的某個行為正在走向“背叛”，從而觸發自毀機製，又該怎麼辦？
這些還隻是薑知序隨便想想的結果。
要是那些專業相關的科學家來，他們能提出更多、更深層次的、涉及這項設計本質的問題。
通過限製ai的權限，當然可以避免很多問題的發生，但他想要用ai全麵取代勞動力，自然得放權。
更彆說他還想用於戰爭！
想到這些，薑知序看著麵前控製台上的藍圖，變得很猶豫。
值得一提的是，「鐵心律令」雖然是藍圖，但和普通藍圖不一樣的是，一旦使用它，它就會被注入工坊係統。
未來薑知序可以複製無數份副本，用來控製ai。
所以它是“協議”類藍圖，也算成品，像這樣的協議藍圖，薑知序其實還有一個，就是「向下兼容協議」。
它也可以生成副本，給每一座大炮使用。