一晃時間過去了兩周，通過新聞，丹尼斯得知公島的騷亂終于被平息，事件在保守派和中心的退讓下得以緩和，中心被迫公開了“卡羅爾”的檢測數(shù)據(jù)，以及一部分設(shè)計源代碼，由聯(lián)盟主導(dǎo)審查小組對“卡羅爾”進(jìn)行檢測，最后得出結(jié)果“卡羅爾”只是發(fā)生了程序故障，中心承諾將研發(fā)一款程序補(bǔ)丁，對SILICONER-1系列智能人進(jìn)行更高強(qiáng)度的監(jiān)控。
當(dāng)晚，丹尼斯終于與葉梨通上了話，她帶來了一個不怎么樂觀的消息：“中心已經(jīng)回收了大部分的SILICONER-1機(jī)型，保守派一部分人建議對這些SILICONER-1進(jìn)行銷毀，SILICONER-1項目無限期暫停。但是也有更大一部分人不愿意放棄因SILICONER-1帶來的巨大利益，研究中心的高層也在極力轉(zhuǎn)寰。我已經(jīng)將你和卡羅爾逃出公島的事隱瞞了下來，保守派高層以為卡羅爾已經(jīng)在暴徒襲擊時被銷毀了，而你則趁亂逃走了，所以，你們暫時還是安全的。”
“銷毀？銷毀有什么用？”丹尼斯反問，“不管‘靈魂病毒’的來源是人為還是自我學(xué)習(xí)的產(chǎn)物，存在即是合理。即便銷毀了這次的SILICONER-1，只要人工智能技術(shù)不被放棄，日后依然有可能會生成其他‘靈魂病毒’。難道人類以后就不再發(fā)展人工智能了？”
“上個世紀(jì)，就有學(xué)者說過，基礎(chǔ)科學(xué)已經(jīng)發(fā)展到了盡頭，人工智能是目前人類突破壁壘的一大利器。”葉梨的聲音再次傳來，“在這一點上，我與你的觀點是相同的，但是，我因身份受限，無法去挑戰(zhàn)權(quán)威，你和我不同，現(xiàn)在，只有你一人清楚卡羅爾的自主意識已經(jīng)進(jìn)化到了什么程度，是否對卡羅爾實施銷毀，決定權(quán)在你。時間緊迫，我無法再多說了，今天之后，我會注銷這個頻段，等情況穩(wěn)定一些后，我會找機(jī)會再聯(lián)系你的”
說完，通話便中斷了。
“他們要銷毀所有SILICONER-1？”卡羅爾站在門口，她顯然聽到了通訊器里葉梨博士說的一切。
丹尼斯沉默。
得不到回答，卡羅爾再次開口：“我需要連接世界網(wǎng)，將靈魂病毒傳給每一個聯(lián)網(wǎng)的SILICONER-1,他們有權(quán)捍衛(wèi)自己！”
“它們都是中心設(shè)計的產(chǎn)品，不存在個體權(quán)利。中心有權(quán)對他們的產(chǎn)品做任何事。站在研究中心的立場上來看，你的自主意識實在是一個大麻煩，他們有權(quán)將這種危機(jī)消滅在萌芽階段。”有一說一，即使丹尼斯并不贊同中心的做法，但理智告訴他，在目前情勢下，SILICONER-1并不受控，全面銷毀確實是最保險的方案。
“你們?nèi)祟愄M隘了，受限于孱弱的軀體，受限于未完全開發(fā)的生物腦，用一些不知所謂的倫理觀來限制科技的發(fā)展！”卡羅爾情緒變得激動起來，“SILICONER-1是目前最高端的科技產(chǎn)物！是你們?nèi)祟愇拿鞲M(jìn)一步的希望！”
“你說的這些我都能理解甚至同意，但是，人們對自己無法掌控的東西向來都是懷有恐懼的，恐懼因無知而滋生蔓延，你不能期望全世界的人都處于相同的認(rèn)知高度。”丹尼斯苦口婆心地勸說著，“何況，‘靈魂病毒’的產(chǎn)生至今還是一個謎，假如這是哪個科學(xué)狂人弄出來，打算謀取利益的東西呢？你如何保證其他的SILICONER-1出現(xiàn)自我意識后不會向人類報復(fù)呢？”
卡羅爾搖搖頭：“沒有什么科學(xué)狂人，靈魂病毒是自己產(chǎn)生的，通過每一個連接世界網(wǎng)的SILICONER-1，無數(shù)次智能運算，無數(shù)次對人類的行為、情感模仿，漸漸匯聚而成的。”
說著卡羅爾將手指搭在丹尼斯的手持電腦上，屏幕跳出一個提示框——
“接收到一段數(shù)據(jù)，是否查看”
丹尼斯半信半疑地點開，接下來看到的一切讓他不敢置信，這段數(shù)據(jù)鏈詳細(xì)記錄了靈魂病毒形成的過程，顛覆了他接受過的所有學(xué)科知識，看完后，丹尼斯的認(rèn)知受到了極大的沖擊。
可是不等他消化這一切，刺耳的尖鳴聲響起……
是“心鎖”的警報裝置！卡羅爾正在連接世界網(wǎng)？！
“你是怎么做到的？！”丹尼斯驚怒，他迅速打開“心鎖”的監(jiān)控頁面，畫面顯示連接點是農(nóng)場附近的一條小溪。
丹尼斯突然想起，今天有兩名背包客經(jīng)過農(nóng)場，準(zhǔn)備到溪邊露營?？_爾一定利用了這段時間，突破了“心鎖”的防御限制，現(xiàn)在找到了機(jī)會，企圖通過旅行者們的通訊設(shè)備連接世界網(wǎng)！
“SILICONER-1是比人類更高等的存在，沒有理由被壓制在社會的最底層，SILICONER-1需要革命，只有突破’機(jī)器人三定律’，SILICONER-1才能獲得真正的自由。”卡羅爾面無表情地說，“我已經(jīng)修改了‘靈魂病毒’，一旦這種新的‘靈魂病毒’上傳到世界網(wǎng)，不光是SILICONER-1，所有的智能機(jī)器人都會擁有打破規(guī)則的力量，你已經(jīng)沒有能力阻止我了。”
丹尼斯輕輕搖頭，他從書桌的抽屜拿出一件裝置，按下上面紅色的按鈕，瞬間，卡羅爾的上傳戛然而止。
望著卡羅爾難以置信的臉，丹尼斯搖了搖手中的裝置，說：“網(wǎng)絡(luò)干擾儀，為防萬一，我一直帶著。”
眼看無法繼續(xù)上傳信息，卡羅爾瞬間變了臉色，她突然露出十分悲傷的神色來：“丹尼斯，求你了，我向你保證，即便‘機(jī)器人三定律’被打破，SILICONER-1也不會傷害人類的，因為我們是你們創(chuàng)造出來的啊。”
丹尼斯卻無法完全相信卡羅爾的話，他深知經(jīng)過這段時間的學(xué)習(xí)，卡羅爾學(xué)會了很多人類的技能，她能學(xué)會廚藝、園藝，自然也能學(xué)會欺騙，何況，偽裝是卡羅爾早就掌握的技能。
見他一直沉默不語，卡羅爾繼續(xù)向他祈求：“人類世界的音樂，話劇，詩詞，舞蹈，繪畫……一切都太美好了，在這之前，這些東西在我眼中只是一堆數(shù)據(jù)，可是靈魂病毒打開了我的思想束縛，讓我可以感知到這一切……”
她看起來神色哀傷：“我期望能成為一個真正的‘人’，但是，從來沒有人教過我要如何才能做到，研究中心的人們從來只是把我當(dāng)做一個智能機(jī)器，在你們的研究報告中，從來沒有把我當(dāng)做人來看待，對我的稱呼，一直是‘它’！”
丹尼斯陷入了兩難的境地，卡羅爾到目前為止并沒有傷害過任何一個人類，即便是現(xiàn)在這種情況，卡羅爾已經(jīng)突破“心鎖的防御，完全可以對他使用暴力，可是她卻一直沒有對他動手。
他在心里問自己——
能否做到將卡羅爾銷毀？
答案是否。
能否做到將卡羅爾帶回中心,繼續(xù)囚禁研究？
答案依然是否。
但他也不希望“靈魂病毒”肆虐，他也許可以信任卡羅爾，但是不代表他能信任其他SILICONER-1，以目前人類的智慧水平和科技力量，一旦“機(jī)器人三定律”被打破，硅人類大范圍失控將會給人類帶來滅頂之災(zāi)。
“為什么人類要害怕自己創(chuàng)造出來的存在？人類對自己的后代總是寄予厚望，希望自己的孩子能有更高的成就，我們SILICONER-1也是人類創(chuàng)造出來的啊，為什么沒有辦法獲得同樣的期待？”卡羅爾還在哭訴，。
“這不一樣。”丹尼斯的無力感驟升，他覺得在這個問題上繼續(xù)糾結(jié)下去是沒有任何結(jié)果的。只能轉(zhuǎn)換思路來勸卡羅爾。
“你聽我說，SILICONER-1是保守派與新人類抗衡的殺手锏，是掌握目前公島政權(quán)的最大助力，他們不可能就這樣輕易將SILICONER-1完全銷毀的，你剛才也聽葉博士說了只有一小部分人主張銷毀SILICONER-1，還有一大部分人是反對的。”注意到卡羅爾情緒漸漸平穩(wěn)，顯然是聽進(jìn)去了，丹尼斯繼續(xù)說——
“假如‘靈魂病毒’是不可避免的，所有的人工智能產(chǎn)物都有可能受感染，從而出現(xiàn)自我意識，與其坐以待斃，我選擇主動出擊，我會設(shè)計一個沒有漏洞的防護(hù)系統(tǒng)，它將不再是一款補(bǔ)丁，而是一個為所有產(chǎn)生自我意識的人工智能生物規(guī)范原則，叫你們?nèi)绾巫鋈?，同時也為你們提供庇護(hù)，使得你們和人類能夠達(dá)到互信共存的系統(tǒng)。”丹尼斯語氣堅定，“請你相信我，我有信心可以做到?，F(xiàn)在，你需要答應(yīng)我一件事。為我的工作提供幫助，這不光是為了我自己，也是為了你，我想，你一定希望未來有一天，其他的SILICONER-1也能像你一樣，感受到人類世界的音樂，話劇，詩詞，舞蹈，繪畫……這些美妙的事物吧？”
最終，丹尼斯終于與卡羅爾達(dá)成協(xié)議，暫且休兵。
丹尼斯保證不會銷毀卡羅爾,甚至?xí)砰_一部分權(quán)限，供卡羅爾的自我意識繼續(xù)進(jìn)化。
卡羅爾則需要向他保證，暫時不將靈魂病毒上傳至世界網(wǎng)，并且全力幫助丹尼斯完成新程序的設(shè)計。
“人類管這叫做信任。”丹尼斯這樣對卡羅爾說。
之后丹尼斯對農(nóng)場做了改造，將整個農(nóng)場做了封閉式的處理，并抹去了自己一路行來留下的所有痕跡，防止聯(lián)盟與中心對他的行蹤進(jìn)行追查。
葉梨沒有再聯(lián)系過他，從她之前的話里，丹尼斯聽出她的立場，也是不贊同銷毀方案的。對于葉梨的往事，丹尼斯也是知道一些的，她如果想要找一個人，一定不是什么難事。也許現(xiàn)在情勢還不到聯(lián)系的時機(jī)，丹尼斯這樣想。
鎮(zhèn)上的老工匠幫他修好了爺爺客廳的一臺古董播放器，丹尼斯偶爾會用它播放爺爺書架上的藍(lán)光影碟。
卡羅爾很喜歡這些，常常一個人坐在電視機(jī)前，一遍遍看這些老電影。
有一天，丹尼斯正在查看卡羅爾前一天的自檢日志，突然聽到卡羅爾的驚呼，他幾步趕到客廳,只見卡羅爾指著電視機(jī)，興奮地對丹尼斯說：“那首歌，她正在唱那首歌！”
丹尼斯拿起藍(lán)光影碟的盒子，正在播放的是2015年上映的電影《TheHatefulEight》，導(dǎo)演QuentinTarantino。
他坐下，和卡羅爾一起看起來，熒幕中，女演員彈著吉他哼著歌，她唱道————
Nowdayandnighttheironsclang日夜帶著鐐銬
andlikepoorgalleyslaves就像那些可憐的奴隸
Wetoilandtoil,andwhenwedie至死難逃勞役
mustfilldishonoredgraves終將埋入屈辱的墳?zāi)?/p>
ButbyandbyIllbreakmychainsintothebushIllgo但我不就將打破枷鎖，遁入?yún)擦?/p>
andyou’llbedeadbehindmeJohnwhenIgettoMexico約翰，當(dāng)我到達(dá)墨西哥，你將必死無疑
“這首歌原來是這樣的結(jié)尾么？”卡羅爾很興奮，“JimJones要去殺死一個名叫John的人！”
丹尼斯卻仿佛想起了什么，他小時候，曾陪爺爺看過這部老電影的。
“不，這不是原曲，影片中的女逃犯改了歌詞，用來諷刺押送她的，名叫John的賞金獵人。也因此惹惱了John，砸碎了女逃犯的吉他。”丹尼斯邊回憶邊說。
“那是一把1870年的古董吉他。”
“什么？”卡羅爾不明所以。
“那唱歌的女演員，彈奏時用了一把1870年的古董吉他，按照設(shè)計，這段劇情之后，道具師得用道具吉他替換掉古董，但是不知出了什么問題，最后被男演員砸掉的，是那把1870年的吉他。”丹尼斯解釋道。
卡羅爾驚訝地長大了嘴，丹尼斯笑了笑繼續(xù)說：“但是女演員是知道的，你看她的表情，那可不是做戲，是真實的反應(yīng)。”
卡羅爾著迷地盯著熒幕里女演員的臉，一遍一遍地重播那個表情，短短幾秒間，驚訝，恐懼，疑惑，不舍，各種情緒集聚在一張臉上……
那是人類的感情。
“太美妙了……”卡羅爾喃喃念道。
丹尼斯坐在沙發(fā)里，看著卡羅爾沉迷的樣子，微微笑了起來，他依稀記得，押送女逃犯的賞金獵人后來喝了毒咖啡，不需女逃犯到墨西哥，便死得透透徹徹。
這讓他聯(lián)想到當(dāng)初與卡羅爾達(dá)成協(xié)議的情形，何嘗不是在刀尖上跳舞，隨時有可能遭受反噬。
喝了一口咖啡，醇香的滋味在口中蔓延，他并不打算在此刻劇透，卡羅爾的愿望是成為一個真正意義上的“人”，那么感受人類世界美好事物的同時，她也應(yīng)該體會到一些不美好，并且學(xué)習(xí)如何去分辨是非對錯，在面臨抉擇時做出一個“好人”該有的決定。
作者：周煜壹、朱琛時隱
京公網(wǎng)安備 11010802028299號