“我有個問題，統帥。”
丁海開口，他的聲音不大，卻瞬間吸引了所有人的注意，“假設我們一定要使用它，我們打算將它應用在什麼方麵？”
薑知序聽到這個問題，思考了片刻，說出了自己原先的設想：“社會的方方麵麵！
“從士兵到家政服務，從街道清潔到科學院的助理，甚至是作為真正的科學家！
“就連政務院，未來可能也需要ai的深度參與。”
丁海聽完，搖頭說道：“我不建議步子邁得這麼大！
“我讚同使用它，但使用範圍應該僅僅局限於解放基礎勞動力，讓更多的人可以投入思考，而不是用它來代替人類思考——甚至是決策。”
薑知序：“我說的隻是我的初步想法，具體的使用範圍，我們可以之後再討論。現在要決定的議題是，它到底能不能用？”
丁海表情堅定地說：“如果隻用來代替純粹的體力勞動，或者是戰爭中的普通士兵，那麼毫無疑問，可以使用！
“反之，如果統帥想讓它參與進任何涉及創造力、需要主觀能動性的領域，那就不建議使用！”
薑知序問：“為什麼？”
丁海：“一個擁有自我智慧的生命，假如它的每一次思考、每一個決策，都必須先經過‘是否背叛’的自我審查。
“那麼長此以往，它可能會像人一樣選擇‘擺爛’！
“或者說得專業一點，它可能會為了追求絕對的安全，放棄一切具有風險、具有開拓性的思考。
“我們最終得到的，大概不會是一個智慧生命，而是一個親手禁錮著自己的囚犯。”
這個觀點，讓在場所有人眼前一亮。
這個思考角度，也是他們剛剛未曾想到的。
眾人立刻開始就丁海的言論展開了更深層次的討論。
“那假如我們給它設定‘不儘全力即為背叛’呢？”有人立刻問。
“那你又該如何定義‘儘力’？”
丁海反問，“‘定義儘力’這個操作，難道同‘定義忠誠’有什麼本質上的差彆嗎？”
“我們可以在規則書中，詳細說明在何種情境下、何種操作屬於儘力，何種情景又屬於沒有儘力。”又有人說。
“你寫得再多，也總有現實中覆蓋不到的場景，這些就是漏洞。”丁海回答。
“不，你誤會了，”那人解釋，“我的意思是，隻要寫出大的情景框架，然後規定它必須達到某一個明確的結果閾值。”
“要涵蓋社會所有的大情景，需要多少條規則？”丁海問。
“幾百條應該就夠了。群策群力並不需要多久，後續我們還可以再進行迭代，繼續完善它。”那人繼續說。
丁海聞言給他鼓掌，“我們給它起個名字吧，就叫「天網約束協議v1.0」”
“……”
會議室裡發出了一陣善意的哄笑。
那人撓了撓頭，也並不感到羞愧。
畢竟是討論，他這種社會學家能參與進來、提供一點點不同的思路就足夠了。
真要有決定性的建設性建議，多半也輪不到他。
就在這時，一直沉默的計科院院長宋辰說道：“我有個想法。”
眾人安靜下來，靜靜地看著他，等他說話。
宋辰說：“我的觀點是，乾脆直接用就行了！
“雖然「鐵心律令」的哲學植入原理我們無法理解，但它至少是「環日文明」的三級科技！
“在我們ai的等級達到那個高度之前，我不認為它有任何掙脫的可能性。
“而且，我們完全有機會提前防備。”