加夫里爾尋思即便如此,他對人形的態度不須改變。一半因為這是瓦西里‧蕭莫洛夫的人形,不是他的娟子;另一方面,顯然這種意外對公司高層而言是預料之中。那麼他為此大驚小怪,不免有失專業。
但這不代表他對真相毫無興趣。
「安東。」加夫里爾開口。
安東依然盯著電腦螢幕,手指飛快敲擊鍵盤,隨意應和一聲。
「他們是怎麼跟你說的?」他問。
幾秒後,安東回答。
「其實我是自己發現的。我猜這為面試加分不少。」
「你發現了什麼?」
又是一陣停頓。
「你聽過90wish嗎?」安東的手指稍息,轉動旋轉椅。
「那個人形技術團體?」
「那個可怕的人形技術團體。如果你知道他們幹了什麼的話。」
安東等著加夫里爾的反應。加夫里爾調整靠在檔案櫃上的姿勢。
「那……他們都幹了啥?」加夫里爾問。
「偷渡。」安東回答。「簡單說,他們十三年前交給企業和政府的東西,跟說好的不一樣。」
「你是指核心程式?」
「對。」安東指了指辦公椅上的人形。「就是那個仍在世界上每一具人形的電子腦裡運行的程式。現在我們有案例了,你可以說那是一億顆未爆彈。」
人形此刻似乎終於進入休眠。螢幕上,字碼與符號在黑色的視窗裡沖刷。
「這是什麼都市傳說。」卡洛喃喃道。
加夫里爾皺眉。
「我有點不確定你是在誇大,還是開玩笑。」他說。
「我不確定你是不相信我,還是不相信人類可以多麼不負責任。我希望是後者。」安東回。
「但是這不可能。一支程式怎麼可能經過十三年還沒被淘汰?」
「這種想法可是幫兇。」
「你是要我相信90wish真的這麼……」
加夫里爾一時無法形容他被迫認知的事實。
「所以才說他們可怕。」
安東事不關己的態度讓加夫里爾更覺得與現實剝離。他看向閉著眼的人形,想到娟子看著電視的側臉,以及他每天在城市裡所見的光景。
「……這是要搞革命嗎?」他失諧地笑。
「革命?像威爾史密斯演的電影嗎?」安東的眼珠骨碌轉動一圈。「你是怎麼得出這個結論的?」
加夫里爾以為安東在苦中作樂。「所以研發中心早就預見會發生這種事?」
「不盡然。他們知道90wish的程式有問題,但在案例出現以前沒有人知道這會導致什麼結果。你剛剛說的革命是什麼來著?」
加夫里爾停頓,意識到安東似乎不和他在同個話題上。
安東眨眨眼。
「噢。」他恍然。「我以為我們在討論拒絕權限和攻擊人類。這個嘛,擁有意識的人形聽起來的確很性感,我猜這不能怪你。」
加夫里爾想要搧自己一巴掌。
「但是既然知道有問題,為什麼你們還敢引用那支程式?」他裝作沒事繼續追問。
「別這樣,我們不是隊友嗎?」安東的注意回到螢幕。「關於你的問題,首先,因為十三年來沒有人寫得出效能接近的另一個演算法。我說的接近,大概是企鵝和火箭都有翅膀的這種程度。」
「我不覺得這是埋地雷給自己踩的好理由。」加夫里爾道。
「還沒完呢。」安東繼續說。「記得我剛才說90wish做了什麼嗎?」
「你說他們……偷渡。」
「那麼說到偷渡,你第一個會想問的問題是什麼?」安東問。
加夫里爾看著安東的眉心,心想他大概不是第一次對人解釋這件事。
「他們偷渡了什麼?」
「對。他們到底偷渡了什麼?」
安東得意地揚起眉毛。加夫里爾撇下嘴唇。
「我不想配合你的戲劇性演出。」
「沒關係,我沒有在演戲。」安東幾乎興高采烈地回應。「因為事實是,沒有人知道他們偷渡的到底是什麼。」
加夫里爾等著安東先承認他在故弄玄虛。
「我的老天爺。真是太離奇了。」最後他說。
「能見識你的幽默感是我的榮幸。」安東收斂笑容。「你不知道有多少人和你一樣希望這只是玩笑。」
他暫作思考後,動動手指示意加夫里爾靠近。
「每個人第一次知道這件事的時候都是這種反應。」他在電腦上叫出另一個視窗,迅速打出幾行程式碼。「這樣不對,這根本是黑心企業。但重視風險罔顧利益對人類而言往往是更大的錯誤,尤其當風險的面貌長成這樣。」
他敲下最後一個鍵,加夫里爾屈前查看。視窗內是一個打印費氏數列的簡單函式。異樣感戳進他的思緒。
「這個……你是故意這樣寫的?」他伸出手指,猶豫要不要碰觸螢幕。安東的程式碼像出自強迫症患者口中一般,穿插雖然不影響解讀,卻重複、或者無意義的碎片。安東點頭。
「這就是他們偷渡的東西?」加夫里爾問。
安東攤手,好似在慫恿他接受事實。
「但是……」但是這種東西不可能影響程式運作的結果。加夫里爾不敢置信地看安東只是默默揚起單邊眉毛。
「這……不科學。」他笑了,感覺體內有股歇斯底里的壓力膨脹。
「這不是我們的科學。」安東說。「把這些東西刪掉的話,人工智能的效能就會大幅下降。就是這種時候,你會希望命運真的存在,這些人的腦袋命中注定要讓人感到恐懼。」
加夫里爾覺得天旋地轉。就是這些……碎片,讓那具人形失控。安東說這是他碰上的第一起案例,代表這些碎片可能需要某種極難在偶然情況下滿足的條件,才會讓人形失控。但這無法安慰加夫里爾。他從來沒有真正了解自己的工作,他不曾意識到日常生活被多麼巨大的陰霾籠罩。娟子的腦袋裡也有這些碎片。
「我曾經想過,明明我們不了解電冰箱或者飛機是怎麼運作也都活得好好的,為什麼這件事就這麼讓人不安?」安東繼續說。「並不是因為我不了解。是因為我知道我永遠不可能了解。」
「但這其中一定有模式……你們沒有試著解讀嗎?」加夫里爾試圖反駁。「這應該是他們自己發明的協議……如果把不合理的片段按順序單獨執行呢?這些程式碼是在我們的機器上運行的,再怎麼說也必須遵守同一套底層語言的規則……」
安東緩緩搖頭。加夫里爾領略這也不是他第一次聽到這些辯駁了。
「他們知道我們永遠無法解讀那些東西。」他說。「這甚至不是挑釁。他們需要資源,我們想要技術;這東西能行,所以他們就把它丟過來了。」
他苦笑,眼神像在確認加夫里爾是否安好。
「這甚至不是他們研究計畫的最終成果,無論他們在研究什麼。這東西用來應付我們已經綽綽有餘。就只是這樣。」
安東意猶未盡地停頓一會。「所以現在你們也是知情俱樂部的一員了。」他再度端出滿不在乎的態度。「希望你們喜歡世界被顛覆的感覺。」
他眨眨眼,轉身投入原本的工作。加夫里爾深吸一口氣。
「媽的。」他說。
他看向卡洛。卡洛打了個寒顫,小心翼翼地開口:
「其實我聽不太懂。有人要失業了嗎?」
加夫里爾思考了一陣。
「不。我想應該沒有」他回答。
加夫里爾感受胃裡翻攪的莫名情緒。經過資訊轟炸,他的思緒轉回破舊辦公椅上的人形。先前的哭鬧沒有在她完美的臉龐上留下痕跡,此刻她看起來就像一具真正的人形──人類社會需要的人形。曾經他認為擁有自我意識的人形是個沒什麼探討價值的假設,因為人類實在太過容易將人形當成對等的社交對象。現在他才發現這個想法如此天真荒謬。這起案件之所以發生,正是因為人形與人類相似到了無法被容許的地步。為什麼他會直到現在才領悟,不具備自我意識就是人形對人類而言最重要的特質?
這特質是許多人情感依賴的依據。並非因為人形與真正的人類極度相似而投入情感;相反地,正因為清楚人形終究是可以操控的人造物,「虛擬入侵」一詞才會是個有趣的腦科學知識。加夫里爾知道他應該學安東就事論事,專注於拒絕權限與攻擊人類這兩個現象;但無論他如何強迫自己拋開雜念,「人形可能擁有意識」的念頭像是要發起革命般,點燃他的腦細胞。
學界常說人造意識之所以不可能實現,理同於發現質子和中子前,人類造出火箭和原子彈的機率趨近於零。既然沒有人知道90wish究竟在研究什麼,說不定他們真的發現了那把「鑰匙」。
「安東。」加夫里爾再度開口。
安東懶洋洋的咕噥一聲。
「雖然公司的立場很清楚……不可能只有我懷疑90wish在研究賦予人形意識吧?」
安東的手指稍停,噴了鼻息,繼續敲擊鍵盤。
「問我我在幹什麼。」他說。
「你在幹什麼?」加夫里爾問。
「我在記錄它腦袋裡每一支程式的運行狀態。我說的是每一塊記憶體的切分區段、和每一道執行緒。正常的人形在待機狀態下會運行四十到六十支不等的程式,我剛才發現這玩意的腦袋裡塞了一百四十三支。這代表我得重複同一個動作一百四十三次。問我為什麼要這樣做。」
「為什麼?」加夫里爾靜候安東合理化他驟起的敵意,雖然原因不難猜。
「因為──以防你忘記我剛才說了什麼──因為我們對90wish埋在核心程式裡的那些餅乾屑一點屁都不了解。這就是為什麼我必須用這種只比給猴子一部打字機效率要高一點的方法,找出那些碎片到底對我們的人形做了什麼。順帶一提,這個動作叫做除蟲(Debug)。問我這和你剛才的問題有什麼關係。」
加夫里爾等著。
安東嘆了一口氣。
「抱歉。」
「沒關係。」
「這是我經常一個人工作的原因之一。」
「這和我剛才問你的問題有什麼關係?」
安東抬頭,看見加夫里爾彎起的嘴角。
「我就當你原諒我了。」他苦笑。重整態勢後,他接續原先的話題。
「我知道這件事……90wish在人工智能裡埋下謎團的這整件事,對第一次了解的人來說非常震撼。加上這具人形的狀況這麼不可思議。但就算90wish真的在研究賦予人形意識,只要確保這些人形符合產品標準──也就是我們的存在目的──你不覺得探討它們是否擁有意識,是一件沒有實質意義的事嗎?」
加夫里爾暫時保留意見。
「說到底它們是人造物。人類不該對他們所製造和購買的東西抱有疑惑,這是資本主義維繫社會結構的前提之一。在人形數量已經超過人類的一半的現在,我們的工作是讓社會免於崩潰。」安東終於全盤托出。
加夫里爾點頭。人類不該──不能──對他們製造和購買的東西抱有恐懼。發洩脾氣大概就是安東應對不安的方法。
「但如果人造意識不單只是結果呢?」加夫里爾開口。「如果攻擊行為和權限的覆寫是直接肇因於人造意識,讓產品回歸標準就等於……」
「謀殺?」安東無礙地接起加夫里爾拋出的疑問。過了半晌,他回答:
「我不在乎。我們不能在乎。」
他盯著加夫里爾眉心,彷彿極力想要取得共識。
「那是天才給自己出的作業,沒有人有義務幫他們驗證答案。如果那是90wish的目的,我們只要拒絕就好。」
加夫里爾心想若那人形真的擁有意識,在被宣判死刑後自動進入休眠是否代表她早已預料這一天可能到來?
「從我們接收90wish技術的那一刻起,這個社會就是他們的實驗場了。」他說。
「但這不會改變我們應該做的事!」安東的態度像是在懇求。「只要成功解析這個案例,我們就能主動預防類似的案件再度發生。這會是近十五年來的創舉。90wish已經消聲匿跡這麼久,是時候為他們在人形機械發展史上的足跡畫下句點了。」
同時這也會是這段歷史的結局,加夫里爾心想。
他知道安東的想法沒有錯──應該說,他的想法是最「正確」的。人形製造公司需要安東這種人,人類社會需要安東這種人。據說最終促成三戰的那場生化物質外洩事故,起初也只是某個民間研究機構用來印證論文的實驗。或許人類已經來到文明發展的峰頂,接下來任何攀登的嘗試,都只會導向失落,乃至墜落。以現在的情況來看,90wish十三年前埋下的引信,如今終於點燃。當本來就殘破不堪的峰頂崩塌,人類的社會還能承受多少損失?
但即便了解道理,為什麼他還是無法完全接受安東的論述?是罪惡感嗎?因為他自己也十分享受90wish的技術所帶來的成果?或者他純粹是對可能將扼殺一個令人驚嘆的生命於心不忍?
懷抱這樣的疑惑,加夫里爾無法再與安東應答。
於是當下一秒鐵皮衝進檢驗部門的辦公室、撞上辦公桌並讓安東的保溫杯砸到鍵盤上,他反而鬆了一口氣。當鐵皮開口警告安東立即停止他正對那具人形做的事、否則他將報警時,他反而鬆了一口氣。
當鐵皮表現得好像那具破舊辦公椅上的人形是真正的人類時,他鬆了一口氣。
剎那間,他想起稍早在速食店時,自己超然地認定現在是人類必須反過來適應人形存在的社會。
現在他知道這句話千真萬確,且對他也如是。