這些天,丹尼斯每天都會去隔離室,與卡羅爾聊一小會,有時還會和卡羅爾下下棋。
卡羅爾十分配合。
下棋,游戲,漫畫,旅行……卡羅爾和他聊起了許多他感興趣的事。
有一次甚至主動提出要用星座原理為他算一下一周運程。
丹尼斯哭笑不得,在他看來,和一個智能人談天說地,確實是從未有過的經(jīng)歷,雖覺得有意思,但他仍判定卡羅爾的一切是預(yù)設(shè)程序帶來的合理反應(yīng)。
那應(yīng)該都是卡羅爾出廠自帶的數(shù)據(jù)海中預(yù)存的知識,通過對他的觀察分析后,被臨時調(diào)用,作為聊天的談資。
連續(xù)幾天,丹尼斯有些厭煩了,不過,今天的測試有些不同尋常。
他的上衣口袋中,一臺腕帶式智能表正處于開機狀態(tài)。
中心規(guī)定,所有進入隔離房的研究員不能帶聯(lián)網(wǎng)的電子設(shè)備。今天,他刻意違規(guī)了。
其實,隔離房之所以被稱之為隔離房,正是因為整個房間都籠罩著網(wǎng)絡(luò)干擾波,但是這對丹尼斯來說,只是動動手指就能解決的小問題。
現(xiàn)在,他的腕帶式智能表不僅處于開機狀態(tài),甚至正連接在世界網(wǎng)上……
“就到這兒吧。”丹尼斯開口,棋盤上黑白雙方已走至和局,“反正怎么下都是我輸。”
“怎么會呢?丹尼斯”卡羅爾臉上綻開一朵標準的笑,“是你進步了,再下幾天,也許你就會贏我了。”
丹尼斯淡淡一笑,心中暗說這是絕對不可能的,圍棋是人工智能研發(fā)初期的一次成功嘗試,早在半個世紀之前,就已經(jīng)沒有人類可以與人工智能一較高下了。
“今天這盤棋,對我來說收獲很大。”撂下這沒頭沒尾的句話,丹尼斯起身離開房間。
卡羅爾并沒有任何懷疑,丹尼斯說話向來是這個樣子,沒有多余的修辭,有時候,她甚至覺得,和他比起來,自己更會“做人”。
目送丹尼斯離去,卡羅爾回到棋桌前,一顆一顆將黑白子收進各自棋盒,然后端正坐好,執(zhí)起一枚黑子,下在了整個棋盤的中心——天元位。
從隔離室離開,丹尼斯一秒不停,轉(zhuǎn)身便進入了觀察室。
“擴大干擾網(wǎng)范圍!覆蓋觀察房!”腳才踏進觀察房,丹尼斯便大聲發(fā)出指令,房間里其他研究員都在進行自己手上的工作,一時間,都因丹尼斯的話愣在當場,沒人反應(yīng)過來。
“快!”丹尼斯大聲催促。
第一個反應(yīng)過來的是葉梨,她迅速打開墻上的干擾儀面板,按下幾個數(shù)字,將干擾網(wǎng)范圍擴大到觀察室,一瞬間,整個觀察室所有的電子設(shè)備都被切斷了網(wǎng)絡(luò)連接。
與此同時,丹尼斯疾行到自己的桌前,伸手拿出自己上衣口袋的腕帶式智能表。
坐在她隔壁的,正是A組的澳洲姑娘瑪?shù)贍栠_,見此情景她驚呼了出來:“你竟然將聯(lián)網(wǎng)的設(shè)備帶進隔離房?!”
眾人大驚,葉梨聞言,幾步來到他跟前,正要開口詢問,卻因他接下來說的話改變了主意。
丹尼斯語速飛快:“她在一個小時內(nèi)向我的腕帶式智能表發(fā)起了3867次攻擊!你——”他指向坐在監(jiān)控儀前的肯尼,“在我與她下棋的一小時中,‘心鎖’可曾監(jiān)控到一次?”
肯尼大驚,轉(zhuǎn)頭仔細查看監(jiān)控儀的屏幕,顫抖著聲音回答著:“都是正常數(shù)據(jù),沒有監(jiān)測到任何攻擊行為!”
“卡羅爾果然有自我意識!并且藏在我們監(jiān)控不到的地方!”瑪?shù)贍栠_大聲叫了出來。
房間內(nèi)議論聲四起。
丹尼斯卻不管這些,他將腕帶式智能表連接到自己的手持電腦上,打開一個紅色圖標的程序,很快,屏幕上閃過一組組數(shù)據(jù),速度快得讓人眼花繚亂,丹尼斯卻一目十行,全神貫注地盯著屏幕。
葉梨做了一個噤聲的手勢,觀察室里的竊竊私語頓時不見,眾人都將視線集中到了丹尼斯身上。
片刻之后,丹尼斯開口說了一句話:“我需要協(xié)助。”
“怎么做?”葉梨此時并沒有去追問前因后果,而是給予丹尼斯完全的信任與幫助。
于是,丹尼斯發(fā)出指令,葉梨進行分工指派,觀察室所有程序組的計算機專家分工合作,四個小時后……
“抓到你了!”丹尼斯一聲大喝!
同時,房間內(nèi)所有屏幕都彈出一個紅色的警示框——
Attention!FoundThreat!
眾人繃緊的神經(jīng)頓時松弛下來,一聲驚呼卻又使大家的再度緊張起來!
發(fā)出驚呼的女研究員顫抖著手指,指向觀察室的玻璃幕墻,人們驚訝的發(fā)現(xiàn),卡羅爾不知何時,已經(jīng)站到了玻璃幕前,面無表情,嘴唇掀動,仿佛在說著什么。
“打開傳聲器!她在說什么?”葉梨指揮道,可是卡羅爾已經(jīng)轉(zhuǎn)身,回到了棋桌前,仿佛什么都沒發(fā)生一般,擺弄著黑白棋子。
“回放監(jiān)控錄像!”葉梨再次下令。
“不用了。”童勝男的聲音響起:“她說的是——這是人類文明進化必須經(jīng)歷的,你們阻止不了我,誰都阻止不了我!”
童勝男是行為分析方面的專家,對唇語有很深的研究。她的話讓眾人驚訝之余,不可避免地感到一絲悚然。
之后,在葉梨的辦公室,在SILICONER-1研究中心幾名重要組員在場的情況下,丹尼斯將自己的計劃一五一十地說了出來——
“我先黑進網(wǎng)波干擾儀,改寫了程序,留出一個波段,使腕帶式智能表通過這個網(wǎng)絡(luò)波段連入世界網(wǎng)。然后將它帶進隔離室,假裝與卡羅爾下棋,實際上是想試探她會不會察覺到房間里多了一個不受干擾波影響的設(shè)備。”丹尼斯舉起手中的腕帶式智能表,接著說,“事實證明,她果然有所察覺,對它發(fā)起了攻擊?;氐接^察室后,我讓你們將干擾網(wǎng)擴大,是擔(dān)心有病毒留存在智能表的內(nèi)存中,她雖無法攻破我的防御,但將一段數(shù)據(jù)存在表中還是輕而易舉的。不過后來證明我多慮了,腕帶式智能表中毫無殘留,若非我事先設(shè)置的反向追蹤程序起了作用,我甚至無法得知智能表曾被攻擊。”
“這也太危險了,萬一卡羅爾通過你的設(shè)備聯(lián)接到世界網(wǎng),后果不堪設(shè)想!”肯尼極度不贊同丹尼斯這種冒進的做法。
“腕帶式智能表上有我事先裝載好的防御程序,我有信心,世界上沒有人能攻破我寫的程序。
“謎之自信。”瑪?shù)贍栠_顯然也是不贊同丹尼斯的做法,低聲埋怨了一句。
“事實證明,我的防御程序確實經(jīng)得起考驗。“丹尼斯聽到了,并不因瑪?shù)贍栠_是女孩子而有一絲禮讓,淡然回懟過去。
“好了!”眼見場面開始變得尷尬,葉梨及時出聲阻止,“丹尼斯,我很贊賞你這次的引蛇出洞的想法,但是,我并不認可你瞞著所有人的做法,以后,再有這種突發(fā)奇想,務(wù)必提前通知我,我會評估可行性。”
然后,她的聲音漸漸緩和:“要知道,這個房間里所有的人,都是和你站在同一戰(zhàn)線的,我們是你的同事,不是你的敵人。剛才,在你的指揮下,大家通力合作,才鎖定了那段源代碼??梢姡袝r候一個人的力量是有限的,沒有辦法做到面面俱到。你懂我的意思么?”
丹尼斯點點頭,葉梨說的有理,如果不是眾人的幫助,他極有可能無法做到及時鎖定。
眾人見他態(tài)度緩和,也不再爭鋒相對,這時,瑪?shù)贍栠_突然問丹尼斯:“你今天和卡羅爾下棋竟然下了個平手?難道是因為卡羅爾忙著破解你的智能表防御,分心了?這不合理吧。”
葉梨立時否定了這個可能性:“根據(jù)卡羅爾智腦的配置,它的運算速度完全可以做到一心千用,絕不可能出現(xiàn)什么分心的情況,而且,硅基智能人的主程序規(guī)則不允許智能人對人類有欺騙行為,而且,卡羅爾安裝的模塊清單上雖然有察言觀色的功能,但是并沒有主動調(diào)整行為策略的能力,也就是說,除非我們?nèi)藶檎{(diào)整圍棋對戰(zhàn)的難度,否則,與她下棋是不可能贏或者平的。”
“可她確實做到了,我想……她大概是在拖延時間。”童勝男出聲,“平時你和她下棋,很快便會輸?shù)?,今天卻花了平時的三倍時間。”
“沒錯。”丹尼斯回憶道,“每次我覺得快要輸了,或者走錯時,卡羅爾都會放出幾個漏洞給我。起先我以為她是故意讓我,現(xiàn)在看來,似乎目的并不單純呢。”
摸了摸下巴,丹尼斯邊回憶邊說:“她應(yīng)該是把我當成了木桶上最薄弱的一塊,一群聰明人中最傻的那個。”
聞言,瑪?shù)贍栠_與童勝男相視一笑,她們同時想到了之前的對話,瑪?shù)贍栠_對丹尼斯的評價——“看起來不太聰明的樣子”。
“今天的事對研究團隊來說,是前所未有的進展,從卡羅爾最后的行為可以看出,她已經(jīng)發(fā)現(xiàn)丹尼斯的小把戲了,并且因此惱羞成怒,之前的乖巧配合,顯然都是她的偽裝。”葉梨將話題導(dǎo)回正軌,“當務(wù)之急是如何改進‘心鎖’補丁,盡快抑制她的自我意識發(fā)展。”
她面色凝重,對在座的研究員說:“我今早接到巴爾莫斯先生的電話,卡羅爾的買家已經(jīng)將她的情況出賣給了新人類聯(lián)盟,對方手上已有了一些證據(jù)。我們得加快速度了。”
聞言,眾人都覺得心情沉重,多年來,中心的研究員們將時間與精力都奉獻給了SILICONER-1計劃,尤其是他們6號樓,更是處于核心位置,事發(fā)之后所有的研究員都承受了巨大的壓力。
“我已經(jīng)有些頭緒了,加上今天得到的資料,再給我兩天時間,我應(yīng)該能架構(gòu)出有效的程序規(guī)則。”丹尼斯才來不到兩周,無法對其他人的心情產(chǎn)生同理心,如果說最初他參與這個項目只是為了擺脫牢獄之災(zāi),現(xiàn)在更多是因卡羅爾的反常行為激起了好奇心,靈魂病毒是否真的存在?是他目前最有興趣探索的問題。
就在幾人關(guān)門討論對策的時候,公島最大的新聞臺接到了一條線報信息——
弈智慧科技研究中心的王牌產(chǎn)品SILICONER-1出現(xiàn)重大研究事故,智能人出現(xiàn)自我意識!機器人稱霸世界的時代即將來臨,人類終于踏上了自我毀滅的道路!