丹尼斯愣了一剎,想也沒想便答道:“怎么可能,機(jī)器人的所謂‘大腦’,只不過是一堆金屬、塑料,還有芯片,所有的仿生反應(yīng)都是程序預(yù)設(shè)。沒有任何生物性,談何靈魂。”
“那么……”葉梨接著問,“你覺得機(jī)器人會(huì)產(chǎn)生自我意識(shí)么?”
丹尼斯眉頭一緊,略微思索,認(rèn)真回答道:“那要看你問的是哪種機(jī)器人了,假如是目前市面上流行的智能機(jī)器人,比如貴公司幾年前量產(chǎn)的‘1號(hào)原型’,我看過智腦系統(tǒng)源代碼,毫無破綻,堪稱完美,是不可能出現(xiàn)你說的這種情況的,但是……”
葉梨沒有插話,示意他繼續(xù)說下去。
“假如是它……”丹尼斯指了指隔離室,“抱歉,我這一年都在監(jiān)獄里,沒有途徑獲得你們最新機(jī)型的程序源代碼,無法判斷。”
葉梨了然他的小心思,輕輕一笑,將手持電腦切換到一個(gè)代碼頁面,向丹尼斯遞去。
在丹尼斯查看代碼時(shí),葉梨開口介紹:“房間里的硅基智能體卡羅爾,主要搭載行政秘書的工作模塊,前不久,買家反映它在執(zhí)行指令的時(shí)候表現(xiàn)得很奇怪,有點(diǎn)不聽使喚,返廠檢修后,我們?cè)谒臄?shù)據(jù)海中發(fā)現(xiàn)一段代碼——就是你現(xiàn)在看到的——經(jīng)科研小組的成員驗(yàn)證,這是一段并不完美的病毒代碼,但我們有理由相信,這段代碼一旦完成,有一定的幾率破壞SILICONER-1智腦系統(tǒng)的防御,甚至改寫機(jī)器人三定律……”
葉梨頓了頓,繼續(xù)說:“它甚至有名字,叫靈魂病毒,最不可思議的是,卡羅爾的智腦系統(tǒng)知道它的存在,多個(gè)自檢日志中都有記錄,但是不知為何,智腦系統(tǒng)僅在第一次對(duì)‘靈魂病毒’發(fā)動(dòng)了攻擊,之后便視而不見。”
丹尼斯看完,面部表情也漸漸變得凝重,半響之后,他放下葉梨的手持電腦,問:“你說的自我意識(shí)又是怎么回事?”
“有一部分研究員認(rèn)為,智腦系統(tǒng)忽視‘靈魂病毒’的行為是產(chǎn)生自我意識(shí)的表現(xiàn),一部分則認(rèn)為那僅僅是病毒的自我隱蔽造成的影響。”
“所以你們把它隔離起來,進(jìn)行監(jiān)控?”丹尼斯問。
葉梨點(diǎn)點(diǎn)頭:“沒錯(cuò),我們成立了工作組,集合全中心的科研力量,對(duì)卡羅爾進(jìn)行了一系列的測試,我們甚至動(dòng)用了行為分析和心理學(xué)方面的研究員,得出的結(jié)論很不理想,卡羅爾確實(shí)表現(xiàn)出了一些自主跡象。”
“‘靈魂病毒’從何而來?”丹尼斯又問了一個(gè)關(guān)鍵問題。
“暫時(shí)不得而知,我們的計(jì)算機(jī)專家沒有找到任何線索,有人甚至認(rèn)為,這段代碼,其實(shí)是卡羅爾自己寫的。”
聞言,丹尼斯驀然抬頭,一臉訝異地看向葉梨,隨即哈哈大笑起來。
“無稽之談。”丹尼斯嗤笑,“高智能程序的學(xué)習(xí)能力確實(shí)強(qiáng),但您也是計(jì)算機(jī)方面的專家,應(yīng)該知道,只要是程序,就有嚴(yán)格的邏輯觀,1+1=2,是因?yàn)閿?shù)學(xué)只允許它等于2,出現(xiàn)這種情況,只有一個(gè)可能,就是被人為篡改了。”
“我們不認(rèn)為目前世界上有任何黑客可以突破我們?cè)赟ILICONER-1智腦系統(tǒng)上設(shè)置的防火墻。”葉梨并不贊同丹尼斯的說法。
丹尼斯搖搖頭,“雖然沒有看到SILICONER-1的智腦系統(tǒng)腳本,但我認(rèn)為,你們?yōu)榱俗龅较到y(tǒng)的高智能,一定開發(fā)了不少權(quán)限,比如……無限制聯(lián)接世界網(wǎng)。”
說完,丹尼斯抬頭觀察葉梨的神色,得到她肯定的答復(fù)后,他繼續(xù)說:“據(jù)我所知,你們從前的做法,是建立一個(gè)智能機(jī)器人的內(nèi)部知識(shí)網(wǎng),也就是你們后來注冊(cè)專利的‘SILICONER-1數(shù)據(jù)海’,并在硬件與程序上限制智能機(jī)器人進(jìn)行更大規(guī)模的運(yùn)算,這是你們從過去的人工智能自我學(xué)習(xí)后‘屢屢學(xué)壞’的事件中,吸取經(jīng)驗(yàn),想出的解決方法。但是現(xiàn)在的SILICONER-1項(xiàng)目顯然是要超越從前,追求更高的智慧能動(dòng),要達(dá)到這些目的,勢必要提高機(jī)體的運(yùn)算速度。我猜,你們對(duì)SILICONER-1智腦系統(tǒng)的權(quán)限開放值,一定到了零界點(diǎn)。”
葉梨無言,點(diǎn)了點(diǎn)頭。
“門窗開多了,一定會(huì)漏風(fēng)的。也許你們的權(quán)限開得太大,讓它有機(jī)可乘,溜到世界網(wǎng)上,接受了不該接受的信息,嚴(yán)格地說,那只能算是自我學(xué)習(xí)出了問題,和靈魂可沒什么關(guān)系。”丹尼斯說完,輕輕撓了撓頭,“你應(yīng)該給我看看你們的智腦系統(tǒng),也許我能從中找到一些蛛絲馬跡。”
葉梨嘴角帶笑,盯著丹尼斯不說話,這位年輕人的內(nèi)在顯然與他外表展現(xiàn)出的簡單無害截然相反。
丹尼斯被她盯得不好意思起來,訥訥解釋道:“我的意思是,除了自我學(xué)習(xí)出了問題,還有一種可能,SILICONER-1能聯(lián)接世界網(wǎng),自然也有人能通過世界網(wǎng)連入SILICONER-1的智腦系統(tǒng),做一些修改,放幾個(gè)病毒,足以擾亂程序運(yùn)行,讓你們誤以為SILICONER-1產(chǎn)生了自我意識(shí),這些,都需要對(duì)智腦系統(tǒng)進(jìn)行嚴(yán)密的排查,空談無用,我想,你們找我來,應(yīng)該也是看中了我某方面的特殊技能吧。”
葉梨點(diǎn)點(diǎn)頭,研究中心不乏高水平的計(jì)算機(jī)專家,但是正向的研究一直得不到結(jié)果,找一個(gè)黑客,反向切入,也許能找到解決方案。
但是……眼前的年輕人顯然有些過于自信了。
這也難怪,從他的履歷可以看出,這位年輕人在計(jì)算機(jī)領(lǐng)域從來沒有遇到對(duì)手,他有理由,也有這個(gè)資本,對(duì)自己信心十足。
“你既然已經(jīng)是我們團(tuán)隊(duì)的一員了,那么,智腦系統(tǒng)早晚都會(huì)對(duì)你開放的,但現(xiàn)在,我需要你把目光焦點(diǎn)放在它身上——”葉梨指了指隔離室。
丹尼斯順著她手指的方向看去,金發(fā)女子恰巧在此時(shí)抬起頭,隔著玻璃,兩人的目光仿佛有了一瞬間交匯。
“在沒有得到結(jié)論之前,我不想否定你的觀點(diǎn)。”葉梨對(duì)丹尼斯說,“但是我希望你在研究SILICONER-1智腦系統(tǒng)之前,好好觀察一下卡羅爾,也許,你會(huì)理解其他研究員為什么會(huì)得出那些你認(rèn)為‘無稽’的結(jié)論。”
丹尼斯點(diǎn)點(diǎn)頭,他也意識(shí)到自己方才的態(tài)度有些過于主觀了。
葉梨嘴角泛起一個(gè)微小的弧度,和理性思考的人打交道就是有這點(diǎn)好處,對(duì)方不會(huì)被情感左右,哪怕偶爾出現(xiàn)一些主觀臆斷,也會(huì)在思考后及時(shí)改正,對(duì)錯(cuò)分明,沒有灰色地帶。
“我需要提醒你一件事,SILICONER-1這次出現(xiàn)的紕漏如果無法盡快解決,后續(xù)影響將是毀滅性的……”稍微停頓了一下,葉梨繼續(xù)說,“我們做的最壞打算是,消息泄露,在人們的恐懼與各方壓力下,我們恐怕不得不對(duì)所有SILICONER-1主體進(jìn)行銷毀。”
“什么?”丹尼斯驚呼,“這怎么可以?SILICONER-1是一項(xiàng)跨時(shí)代的發(fā)明,不知耗費(fèi)了多少人一輩子的心血?。?rdquo;
“我們也不愿意走到這一步,銷毀SILICONER-1,等于是將中心多年的研究毀于一旦。”葉梨語氣沉重,“但是,從各方面的跡象來看,消息已經(jīng)走漏,我們的時(shí)間不多了。”
“所以你們找我來……”丹尼斯有了一絲領(lǐng)悟。
“沒錯(cuò),我們現(xiàn)在有兩個(gè)方案,一是最壞的打算,剛才已經(jīng)對(duì)你說了,二是查殺‘靈魂病毒’,堵住程序漏洞,我們打算設(shè)計(jì)一款名為‘心鎖’的智腦系統(tǒng)補(bǔ)丁,對(duì)目前所有加載了智腦系統(tǒng)的SILICONER-1進(jìn)行監(jiān)控。6號(hào)樓現(xiàn)在集合了全中心的科研力,分成五組,日夜不休研發(fā)程序補(bǔ)丁。”葉梨鄭重地說,“相信你能理解,此次事件是否能安然收?qǐng)?,與你未來的去留是息息相關(guān)的。”
丹尼斯了然,他通過暗網(wǎng)了解過一些公島的傳聞,據(jù)說,中心的背后支持者是公島保守派,也就是目前的執(zhí)政黨,去年,中心通過SILICONER-1項(xiàng)目替執(zhí)政黨拉到了大量支持,在這當(dāng)口出現(xiàn)問題,一旦被披露,必然是對(duì)保守派執(zhí)政黨的一次重?fù)簦裟苷业絾栴}的解決方案,便有了與當(dāng)局談判的資本,說不定能獲得減刑,甚至爭取到重獲自由的機(jī)會(huì)。