張定浩：文學(xué)與算法
1
特德·姜的科幻小說(shuō)每一篇都附有一則短短的后記，介紹這篇小說(shuō)背后的某個(gè)科學(xué)思想動(dòng)因，以及要探討的主題。當(dāng)代小說(shuō)家往往忌諱談?wù)撟约鹤髌返闹黝}，因?yàn)閾?jù)說(shuō)這樣的責(zé)任應(yīng)該移交給批評(píng)家或讀者，但在特德·姜這里，或者說(shuō)在他所涉足的科幻小說(shuō)領(lǐng)域，這種談?wù)撈鋵?shí)是一種默認(rèn)的寫(xiě)作開(kāi)端。因?yàn)?，每個(gè)優(yōu)秀的科幻小說(shuō)家都首先是在預(yù)設(shè)一個(gè)不同于我們經(jīng)驗(yàn)環(huán)境的陌生世界，并塑造某種與我們通常認(rèn)知相疏離的新視角。在這個(gè)意義上，“科幻小說(shuō)”（science fiction）這個(gè)詞組中首先被凸顯出來(lái)的，是其與科學(xué)相親近的一面，科學(xué)致力的最新領(lǐng)域往往超前于日常生活，在這個(gè)領(lǐng)域中所發(fā)生的事情對(duì)普通人來(lái)說(shuō)定然陌生和難以理解。我們很難想像一個(gè)科學(xué)家會(huì)把解釋一個(gè)新發(fā)現(xiàn)的物理學(xué)定律的責(zé)任首先交付給公眾，科學(xué)家必須自己承擔(dān)最初的解釋責(zé)任，特德·姜對(duì)自我作品主題的談?wù)撆c之類(lèi)似，但這種談?wù)摬⒉灰虼司头忾]了讀者對(duì)于某個(gè)科學(xué)定律或科幻作品的理解，只要我們記得，任何理解的前提，是一些必要的和共同的知識(shí)，而非當(dāng)代庸俗解構(gòu)主義所允諾給我們的無(wú)知。好的文學(xué)和科學(xué)一樣，是完全透明敞亮給所有健全的心智，而你理解的越多，他帶給你的愉悅就越多。
特德·姜迄今只出版了十七個(gè)中短篇科幻小說(shuō)，《軟件體的生命周期》是其中最長(zhǎng)的一篇，卻似乎也最被文學(xué)讀者冷落。在后記中，我們得知這篇小說(shuō)的主題是人工智能與人的“近未來(lái)”關(guān)系，而這種關(guān)系，又正是令當(dāng)下國(guó)內(nèi)文學(xué)界最感興趣的話(huà)題之一。
文學(xué)界現(xiàn)有的對(duì)人工智能的討論，無(wú)論何種意見(jiàn)，幾乎都默認(rèn)了人工智能的強(qiáng)大，但計(jì)算機(jī)專(zhuān)業(yè)出身的特德·姜卻恰恰描述了若干個(gè)嬰兒般弱小無(wú)助的人工智能體，這相當(dāng)程度上體現(xiàn)了在擁有專(zhuān)業(yè)知識(shí)的人和不知道真相的人之間的感情差異。在法國(guó)科學(xué)家瑟格·阿比特博和吉爾·多維克合著的《算法小時(shí)代》一書(shū)中，作者舉過(guò)一個(gè)學(xué)生參與編程的例子，“在課程結(jié)束的時(shí)候，如果我們問(wèn)這些學(xué)生，他們編寫(xiě)的程序是否智能，他們總是會(huì)回答，程序并不智能。一旦學(xué)生自己參與編程了，便不再認(rèn)為這些程序有絲毫的智能。事實(shí)上，人們認(rèn)為一個(gè)程序智能與否，似乎取決于他們知不知道程序如何工作”。
這個(gè)學(xué)生編程的例子當(dāng)然還過(guò)于淺顯，但作者也并非要否認(rèn)人工智能的存在，只是要指出，科學(xué)研究的實(shí)質(zhì)就是不斷粉碎一些從外部模糊感知到的大而化之的概念，在具體細(xì)化的分類(lèi)范疇中一點(diǎn)點(diǎn)推進(jìn)，將對(duì)一種人工智能的空泛思考轉(zhuǎn)變成對(duì)多種人工智能的深入探究。
而好的文學(xué)，在探索人類(lèi)心靈的進(jìn)程中，難道不是和科學(xué)一樣，是另一種概念粉碎機(jī)嗎？也許一次對(duì)于科幻小說(shuō)《軟件體的生命周期》的細(xì)讀，可以更好地幫助我們?nèi)ダ斫馕覀兯P(guān)心的科學(xué)前景，或許也包括文學(xué)的前景。
2
在動(dòng)物園做了六年飼養(yǎng)員的安娜如今失業(yè)在家，朋友羅賓介紹她去一家新成立的軟件公司“藍(lán)色伽馬”工作，利用她訓(xùn)練動(dòng)物的經(jīng)驗(yàn)來(lái)訓(xùn)練公司設(shè)計(jì)的人工智能數(shù)碼體，一種生活在“數(shù)據(jù)地球”這個(gè)網(wǎng)絡(luò)世界中的虛擬寵物。我們?cè)诜评铡さ峡说男≌f(shuō)中見(jiàn)識(shí)過(guò)“電子羊”，而養(yǎng)成類(lèi)游戲如今也為年輕一代所熟知，但藍(lán)色伽馬設(shè)計(jì)的數(shù)碼體并非這些意義上的被程序設(shè)定好的電子寵物，他更像一個(gè)剛出生的嬰兒，具有雖然緩慢但可以自行發(fā)育的認(rèn)知功能，包括語(yǔ)言表達(dá)和心智交流。
特德·姜在小說(shuō)一開(kāi)頭就隱秘地指涉了一個(gè)在人工智能領(lǐng)域最突出的焦點(diǎn)爭(zhēng)論，即人工智能到底屬于強(qiáng)AI還是弱AI。所謂弱AI，即認(rèn)為計(jì)算機(jī)最多只是人類(lèi)研究心靈的一種輔助工具，或是對(duì)心智活動(dòng)的抽象模擬；所謂強(qiáng)AI，即認(rèn)為被恰當(dāng)程序設(shè)計(jì)的計(jì)算機(jī)本身就是一種心靈。強(qiáng)AI是人工智能開(kāi)創(chuàng)者和前沿研究者們的信念，而弱AI則更被一般公眾、職場(chǎng)技術(shù)人員和人文學(xué)者所接受?，F(xiàn)有的對(duì)強(qiáng)AI最著名的批判論證來(lái)自哲學(xué)家約翰·塞爾和數(shù)理學(xué)家彭羅斯，都曾引起廣泛共鳴，但后來(lái)也陸續(xù)被學(xué)者指出其論證漏洞，在這里無(wú)法詳述，我們需要知道的是，特德·姜在這篇小說(shuō)中的立場(chǎng)是強(qiáng)AI，但他認(rèn)為這種“強(qiáng)”并非技術(shù)可以解決，和人類(lèi)養(yǎng)育嬰兒一樣，復(fù)雜心智要在一個(gè)與人的長(zhǎng)久關(guān)系中慢慢生長(zhǎng)出來(lái)，而這種生長(zhǎng)又是極其脆弱的。這表明特德·姜是人工智能領(lǐng)域的內(nèi)行。
要了解人工智能，就要了解算法。簡(jiǎn)單來(lái)講，算法是指解決問(wèn)題所需的一套嚴(yán)格可執(zhí)行的進(jìn)程。比方說(shuō)烤面包的食譜、織毛衣的圖樣，都屬于算法；而壓縮文件或密鑰設(shè)置，則涉及相對(duì)高級(jí)和復(fù)雜的算法，這些都可以被歸入傳統(tǒng)算法，他們體現(xiàn)的是算法專(zhuān)家在深刻理解某種具體人類(lèi)處境和需求之后所提出的創(chuàng)造性解決方案，計(jì)算機(jī)只是人實(shí)現(xiàn)其方案的工具，通過(guò)給定數(shù)據(jù)，運(yùn)行事先編制好的程序。與傳統(tǒng)算法不同，人工智能所涉及的機(jī)器學(xué)習(xí)算法，則是計(jì)算機(jī)根據(jù)已擁有的大數(shù)據(jù)推斷，并不斷自我改進(jìn)程序，自己從眾多假設(shè)中找到最佳解決方案。這種機(jī)器學(xué)習(xí)算法所表象出來(lái)的計(jì)算機(jī)自我學(xué)習(xí)的能力，非常類(lèi)似于高級(jí)生命的心靈，也是強(qiáng)AI的理論基礎(chǔ)，對(duì)此的思考相繼導(dǎo)致五種機(jī)器學(xué)習(xí)算法學(xué)派的誕生：符號(hào)學(xué)派、聯(lián)結(jié)學(xué)派、進(jìn)化學(xué)派、貝葉斯學(xué)派和類(lèi)比學(xué)派。這五個(gè)學(xué)派在具體研究領(lǐng)域并非水火不容，而是互相融入，互相結(jié)合的。
在小說(shuō)中，藍(lán)色伽馬生產(chǎn)的數(shù)碼體，是通過(guò)一個(gè)叫做“神經(jīng)源”的基因組引擎培育出來(lái)的。這里面暗指的，就是兩種機(jī)器學(xué)習(xí)算法思路的結(jié)合，即模擬人腦神經(jīng)元的聯(lián)結(jié)學(xué)派，和模擬基因編組及遺傳的進(jìn)化學(xué)派。
3
德雷克是一個(gè)動(dòng)畫(huà)設(shè)計(jì)師，負(fù)責(zé)給藍(lán)色伽馬的數(shù)碼體設(shè)計(jì)虛擬角色。
"他的工作和傳統(tǒng)的動(dòng)畫(huà)設(shè)計(jì)師大相徑庭，正常情況下，他應(yīng)該設(shè)計(jì)好角色的步態(tài)和舉止，可對(duì)數(shù)碼體而言，這些特征都是從基因組里涌現(xiàn)出來(lái)的屬性：他的任務(wù)是設(shè)計(jì)一具軀體，該軀體可以用人們能夠理解的方式去展現(xiàn)數(shù)碼體的行為舉止。
……他很認(rèn)同藍(lán)色伽馬的人工智能設(shè)計(jì)思想：經(jīng)驗(yàn)是最好的老師，因此，與其把你想讓人工智能知道的東西編進(jìn)程序里面，還不如讓他們掌握學(xué)習(xí)能力，然后賣(mài)給用戶(hù)，讓用戶(hù)自己去教。"
德雷克和剛?cè)肼毜陌材扔幸淮螤?zhēng)論，關(guān)于數(shù)碼體的設(shè)計(jì)角色到底是傾向動(dòng)物還是機(jī)器人。德雷克傾向于動(dòng)物，他覺(jué)得機(jī)器人會(huì)沒(méi)有親和感，且比較虛假，但動(dòng)物飼養(yǎng)員出身的安娜認(rèn)為，這些數(shù)碼體的行為根本不像真正的動(dòng)物，他們天生就帶有某種非動(dòng)物的特質(zhì)，所以設(shè)計(jì)成機(jī)器人的樣子也沒(méi)什么不妥。安娜的話(huà)讓德雷克開(kāi)始思考，也許只是自己太沉迷于動(dòng)物角色這個(gè)想法：
數(shù)碼體不是動(dòng)物，正如他們不是傳統(tǒng)意義上的機(jī)器人一樣。對(duì)于這種新的生命形式，如果他先假定機(jī)器人和動(dòng)物形體能同樣出色地表達(dá)自我，也許他最后就能設(shè)計(jì)出讓自己滿(mǎn)意的虛擬角色了。
德雷克認(rèn)同人工智能應(yīng)當(dāng)自我學(xué)習(xí)的理念，但他頭腦里起初還是有一個(gè)“數(shù)碼體的自我應(yīng)該如何”的執(zhí)念，比如說(shuō)像某個(gè)他心目中的可愛(ài)動(dòng)物那樣。但自我學(xué)習(xí)本身就意味著每個(gè)生命和其他生命都有所區(qū)別，意味著某種不確定性，是一種難以被事先預(yù)設(shè)的“涌現(xiàn)”。而安娜之所以沒(méi)有把數(shù)碼體當(dāng)作動(dòng)物，是因?yàn)樗蛣?dòng)物長(zhǎng)久生活過(guò)，一個(gè)人越深入地接觸一樣事物，就越能天然地對(duì)一些似是而非之物加以辨別。德雷克和安娜是這篇小說(shuō)的男女主人公，他們一個(gè)從事數(shù)碼體的外部形體設(shè)計(jì)，一個(gè)涉足數(shù)碼體的內(nèi)在心智訓(xùn)練，這是小說(shuō)作者的匠心所在，因?yàn)槿魏戊`性生命的內(nèi)在與外在其實(shí)都是一體的，是相互被辨識(shí)和發(fā)生作用的，同時(shí)也缺一不可。
4
數(shù)碼體的開(kāi)發(fā)訓(xùn)練，是通過(guò)喂食虛擬食品所產(chǎn)生的一整套強(qiáng)化學(xué)習(xí)的激勵(lì)機(jī)制，這很類(lèi)似于動(dòng)物訓(xùn)練，所以安娜得心應(yīng)手。在沒(méi)進(jìn)入市場(chǎng)之前，他們只是一代代根據(jù)遺傳算法和獎(jiǎng)懲映射圖不斷快速進(jìn)化的程序，安娜要做的是訓(xùn)練和記錄每一代數(shù)碼體程序的特征，不僅包括智力，也包括與人相處的性情，然后交給研發(fā)團(tuán)隊(duì)進(jìn)行基因程序組的篩選，留下由最優(yōu)程序構(gòu)建成的數(shù)碼體，在小說(shuō)中稱(chēng)為“吉祥物”，這有點(diǎn)類(lèi)似于選種實(shí)驗(yàn)所留下的良種，最終把這些吉祥物的復(fù)制品交付給市場(chǎng)，讓用戶(hù)自行撫養(yǎng)，像養(yǎng)寵物一樣，藍(lán)色伽馬公司的利潤(rùn)來(lái)源是出售供數(shù)碼體生存的虛擬食物，只要用戶(hù)覺(jué)得好玩，不斷購(gòu)買(mǎi)虛擬食物，利潤(rùn)就會(huì)源源不斷。同時(shí)，公司員工分別領(lǐng)養(yǎng)吉祥物，繼續(xù)測(cè)試他們的生長(zhǎng)狀況。
數(shù)碼體和真實(shí)生命的差別在于，他無(wú)需睡眠時(shí)間，用戶(hù)若想使之快速成長(zhǎng)，可以二十四小時(shí)讓他運(yùn)行；他的時(shí)間可以暫停，用戶(hù)可以隨時(shí)將他停用；也是可逆的，用戶(hù)可以隨時(shí)讓數(shù)碼體回到之前的某個(gè)時(shí)間點(diǎn)重新開(kāi)始。這幾點(diǎn)看起來(lái)都很誘人。
以上，是這篇科幻小說(shuō)在開(kāi)頭部分給出的基本設(shè)定，這是扎扎實(shí)實(shí)的硬科幻，每一步描述都有其隱藏的被透徹理解過(guò)的專(zhuān)業(yè)知識(shí)背景，并快速把我們帶到這個(gè)領(lǐng)域的前沿，接下來(lái)小說(shuō)家要做的工作，與科學(xué)家一樣，都是對(duì)未知的探索。
5
第一批數(shù)碼體獲得市場(chǎng)的熱烈歡迎。但和人類(lèi)習(xí)慣的寵物不同，“不同環(huán)境中成長(zhǎng)起來(lái)的數(shù)碼體，行為千差萬(wàn)別，根本沒(méi)法預(yù)測(cè)。不夸張地說(shuō)，每個(gè)數(shù)碼體的主人都是在探索一個(gè)全新的領(lǐng)域，他們也會(huì)互相尋求幫助”。
德雷克和安娜通過(guò)關(guān)于數(shù)碼體的在線(xiàn)論壇了解到，太多人只是把數(shù)碼體視作玩具，而非有意識(shí)的生命。有的人只希望享受發(fā)號(hào)施令的樂(lè)趣，卻不懂得付出，也缺乏耐心；有的人在遇到數(shù)碼體不聽(tīng)話(huà)時(shí)，只會(huì)把數(shù)碼體的時(shí)間調(diào)回上一個(gè)標(biāo)記點(diǎn)重來(lái)，像打電子游戲一樣。在經(jīng)典物理學(xué)中，時(shí)間的確被想像成一個(gè)軌道，處在一種勻速和可逆的運(yùn)動(dòng)之中。牛頓力學(xué)的世界是一個(gè)簡(jiǎn)單穩(wěn)定系統(tǒng)，所有計(jì)算都可以隨時(shí)還原到上一個(gè)時(shí)間點(diǎn)，或者說(shuō)，可以根據(jù)已有條件精確推算出下一個(gè)時(shí)間點(diǎn)的變化。這和人文學(xué)科的感受完全不同，遂也造成19世紀(jì)以來(lái)綿延不絕的所謂“兩種文化”（科學(xué)文化和人文文化）的爭(zhēng)論。1977年諾貝爾化學(xué)獎(jiǎng)得主伊利亞·普里戈金在他的《從混沌到有序》一書(shū)中講道，“‘兩種文化’的對(duì)立在很大程度上就是起源于經(jīng)典科學(xué)的沒(méi)有時(shí)間的觀(guān)點(diǎn)與在大多數(shù)社會(huì)科學(xué)和人文科學(xué)中普遍存在的時(shí)間定向的觀(guān)點(diǎn)之間的沖突?！茖W(xué)正在重新發(fā)現(xiàn)時(shí)間”。時(shí)間如飛矢，有去無(wú)回，這是每個(gè)生命基本的體驗(yàn)，而當(dāng)代科學(xué)對(duì)于非平衡、耗散結(jié)構(gòu)和復(fù)雜性系統(tǒng)的種種研究，正是把時(shí)間之矢重新納入考量的結(jié)果。
因此，人工智能的崛起絕不僅僅是一次所謂高科技的冰冷發(fā)展，更非很多文學(xué)從業(yè)者泛泛擔(dān)憂(yōu)的又一次人文危機(jī)的肇端，相反，人工智能某種程度上正是最前沿的科學(xué)思想（熱力學(xué)、生物學(xué)、系統(tǒng)論、統(tǒng)計(jì)學(xué)）和人文思想（柏格森、懷特海、海德格爾）在20世紀(jì)中葉重新走到一起之后的產(chǎn)物，特德·姜對(duì)此非常清楚。藍(lán)色伽馬的數(shù)碼體之所以獨(dú)特，就因?yàn)樗麄兊臅r(shí)間屬性雖然看起來(lái)屬于經(jīng)典物理學(xué)系統(tǒng)（可逆，可暫停），但他們的智能和意識(shí)卻是在不可逆的時(shí)間中自然發(fā)展的，并且這種發(fā)展和人類(lèi)一樣，也具有一次性和不確定性。那些像打電玩一樣不斷重啟數(shù)碼體時(shí)間點(diǎn)的用戶(hù)，最終并沒(méi)有獲得一個(gè)更令他們滿(mǎn)意的數(shù)碼體?！安痪邆鋾r(shí)間之矢的平衡態(tài)物質(zhì)，是‘盲目’的；具備了時(shí)間之矢，他才開(kāi)始‘看見(jiàn)’”（普里戈金《確定性的終結(jié)》），而所有生命的意義，也來(lái)自時(shí)間?；蛘?，用梅洛·龐蒂的話(huà)說(shuō)，主體就是時(shí)間，“意識(shí)是時(shí)間化的運(yùn)動(dòng)本身”（《知覺(jué)現(xiàn)象學(xué)》）。
6
有意識(shí)的新生命不是玩具，他給已有生命帶來(lái)的是一種新的關(guān)系，一加一大于了二。用懷特海的關(guān)系哲學(xué)表述就是：要把事物想像成過(guò)程，是一個(gè)個(gè)變化本身構(gòu)成了生生不息的實(shí)在，而每個(gè)新實(shí)在被創(chuàng)生時(shí)，多數(shù)實(shí)在變成了一個(gè)實(shí)在，且這多數(shù)實(shí)在又增加了一個(gè)實(shí)在。而近現(xiàn)代物理學(xué)也同樣認(rèn)識(shí)到，自然界不能通過(guò)“絕對(duì)旁觀(guān)者”的姿態(tài)來(lái)描述，不存在被隔絕的客體，自然界的各種成分既互相組成，又組成他們自己，事物本性和關(guān)系是互相依存的，而人一旦要去測(cè)量和描述自然，也就介入了與自然的關(guān)系之中，觀(guān)察本身就是一種參與。
但并不是每個(gè)人都能經(jīng)得起一場(chǎng)新關(guān)系的考驗(yàn)，所以有些人不適合談戀愛(ài)，有些人不適合養(yǎng)小孩，有些人甚至連寵物也不適合養(yǎng)。肺炎疫情期間，據(jù)報(bào)道有不少貓狗被恐慌的居民從高樓窗戶(hù)直接扔下，這種存在于我們身邊的邪惡生命體，遠(yuǎn)比人工智能可怕。
藍(lán)色伽馬投入市場(chǎng)的數(shù)碼體在最初受到熱烈追捧之后，很快就陷入低谷，因?yàn)樘嗳藷o(wú)法認(rèn)真地將數(shù)碼體當(dāng)作一個(gè)真正的生命來(lái)對(duì)待。他們?cè)谙硎芰俗畛醯男迈r感之后，紛紛感覺(jué)在與數(shù)碼體的關(guān)系中無(wú)法得到足夠的回報(bào)。而藍(lán)色伽馬為了避免虐待數(shù)碼體的行為，給數(shù)碼體都安裝了痛感阻隔器，因此數(shù)碼體對(duì)虐待狂也毫無(wú)吸引力。既然簡(jiǎn)單地調(diào)回時(shí)間點(diǎn)不能讓數(shù)碼體變得更聰明，純粹加速運(yùn)行也進(jìn)展緩慢，那么，大多數(shù)不想在與數(shù)碼體的這段關(guān)系中投入太多精力的人，其選擇必然就是讓數(shù)碼體暫停，將之在“數(shù)據(jù)地球”這個(gè)虛擬空間中掛起。
只有少數(shù)人在堅(jiān)持。他們自發(fā)組織起來(lái)，交流各種經(jīng)驗(yàn)。但這個(gè)微小的用戶(hù)群不足以支撐公司運(yùn)營(yíng)，兩年后，藍(lán)色伽馬倒閉，在關(guān)閉數(shù)碼體業(yè)務(wù)之前，公司發(fā)布了一個(gè)免費(fèi)版的食品發(fā)放軟件，“讓那些仍想養(yǎng)數(shù)碼體的顧客能永遠(yuǎn)養(yǎng)下去，但是其他問(wèn)題就只能靠顧客自己解決了”。
安娜收養(yǎng)了機(jī)器人造型的賈克斯，他是“吉祥物”中得分最高的一個(gè)，德雷克則收養(yǎng)了來(lái)自完全相同基因組的有著熊貓外表的馬可和波羅。他們都是這少數(shù)人中的一員。其實(shí)每個(gè)領(lǐng)域都是如此，探索和利用困境永遠(yuǎn)是少數(shù)人的事情，但這是生命中最重要的問(wèn)題之一，也是機(jī)器學(xué)習(xí)中最重要的問(wèn)題之一，現(xiàn)在，這些殘存的數(shù)碼體和他們的主人，面臨的是同樣的問(wèn)題。
"撫養(yǎng)數(shù)碼體并沒(méi)有現(xiàn)成的指南，把養(yǎng)寵物或養(yǎng)孩子的技巧用在他們身上有時(shí)能成功，有時(shí)會(huì)失敗。數(shù)碼體的身體很簡(jiǎn)單，他們走向成熟的旅程中，不會(huì)像有機(jī)軀體那樣因?yàn)榧に卦庥銮啻旱睦Ь?，但這并不意味著他們不會(huì)有心境起伏，也不代表說(shuō)他們的性格永不改變。在神經(jīng)源基因組所能提供的相空間內(nèi)，他們的心智在不斷探索新的領(lǐng)域。其實(shí)，數(shù)碼體甚至有可能永遠(yuǎn)也達(dá)不到所謂的“成熟”；所謂“發(fā)育平臺(tái)期”的概念是基于生物模型建立的，對(duì)于數(shù)碼體未必適用。他們的性格可能會(huì)一直以同樣的速度演化下去，直到他們被掛起為止。只有時(shí)間能回答一切。"
7
數(shù)碼體并非沒(méi)有其他的可能，其他公司也一直還在探索數(shù)碼體的應(yīng)用。比如有一些人工智能研究者把特別擅長(zhǎng)閱讀的數(shù)碼體集中起來(lái)安置在一個(gè)擁有圖書(shū)館的與外界隔絕的虛擬小島上，然后讓小島加速運(yùn)行，像溫室培育一樣，想促成數(shù)碼體通過(guò)自我學(xué)習(xí)快速進(jìn)化出一種新的文明。
"德雷克認(rèn)為這個(gè)想法荒謬至極，一群被拋棄的孩子不可能去主動(dòng)學(xué)習(xí)，不管留給他們多少書(shū)也沒(méi)用。因此他對(duì)結(jié)果毫無(wú)驚訝：每個(gè)測(cè)試種群最后都完全變野了……研究者的結(jié)論是這些數(shù)碼體基因組中缺少了一樣?xùn)|西，但在德雷克看來(lái)，錯(cuò)在研究者自己。他們忽略了一個(gè)簡(jiǎn)單的事實(shí)：復(fù)雜心智不可能自動(dòng)產(chǎn)生，不然也不會(huì)有狼孩了。而且心智也不像野草，無(wú)人照看也能茂盛生長(zhǎng)，不然孤兒院里的每一個(gè)兒童都應(yīng)該能茁壯成長(zhǎng)。只有接受了其他心智的栽培，一個(gè)心智的潛力才可能被完全開(kāi)發(fā)出來(lái)。"
特德·姜描述的這些研究者，像極了我們?cè)谏钪薪?jīng)常遇到的一類(lèi)人，他們?cè)谟龅嚼Ь硶r(shí)，習(xí)慣把原因歸咎于外部，從來(lái)不會(huì)反思自我，不會(huì)把自我納入整個(gè)問(wèn)題的思考框架中。若用數(shù)學(xué)術(shù)語(yǔ)來(lái)講，如哥德?tīng)柌煌耆远ɡ硭噲D表述的，如果出現(xiàn)一個(gè)在現(xiàn)有公理體系上得不到證明或證偽的命題，那接下來(lái)應(yīng)當(dāng)嘗試拓展這個(gè)公理體系，而不是輕易地將這個(gè)命題遺棄，比如說(shuō)研究者既然通過(guò)溫室培育無(wú)法證明或證偽數(shù)碼體到底有沒(méi)有復(fù)雜心智，那就不能簡(jiǎn)單推斷出是因?yàn)閿?shù)碼體自身缺少某樣?xùn)|西的問(wèn)題，而是應(yīng)該去思考這個(gè)溫室培育的預(yù)設(shè)體系是否有問(wèn)題。如果再用人工智能方面的表述就是，只有觸及自我指涉和自我解釋?zhuān)攀且粋€(gè)系統(tǒng)乃至一個(gè)生物體擁有智能的標(biāo)志。這些研究者探討人工智能的方式表明他們自己的心智是有所欠缺的。
還有一種嘗試，就是放棄數(shù)碼體的心智培育，只集中在某個(gè)具體實(shí)用領(lǐng)域，如小說(shuō)中提到的除草機(jī)器人和專(zhuān)門(mén)用于破解游戲謎題的“玄思數(shù)碼體”。這其實(shí)是回到了弱AI的傳統(tǒng)思路上。
我們熟悉的圍棋AI，從一開(kāi)始的阿爾法圍棋到現(xiàn)在的絕藝、星陣等等，其實(shí)也是這種弱AI，它們只能做特定的一件事情，比如說(shuō)下棋，但可以做得相當(dāng)好，目前最好的圍棋九段高手幾乎都要被AI讓二子。很多文化界人士認(rèn)為阿爾法圍棋和李世石、柯潔之戰(zhàn)標(biāo)志著人工智能終于擊敗了人類(lèi)智慧，于是，振奮者有之，哀嘆者有之，但無(wú)論是振奮還是哀嘆，可以說(shuō)都是既不懂圍棋又不懂人工智能的產(chǎn)物。如果人工智能僅僅意味著計(jì)算機(jī)在某個(gè)需要智慧完成的領(lǐng)域超越人類(lèi)，那么大概從圖靈機(jī)的時(shí)代就已經(jīng)超越了，達(dá)特茅斯會(huì)議的諸元老也不用為之爭(zhēng)論不休了。事實(shí)上，圍棋AI的勝利只是標(biāo)志著“深度學(xué)習(xí)”算法的突破，這是從弱AI向著強(qiáng)AI邁進(jìn)的關(guān)鍵一步，而這種算法正是源自對(duì)人類(lèi)類(lèi)比思維的學(xué)習(xí)，也就是前面提到的五大機(jī)器學(xué)習(xí)算法中的類(lèi)比學(xué)派的最新分支。在機(jī)器算法領(lǐng)域，最早的符號(hào)學(xué)派是基于規(guī)則的學(xué)習(xí)，最近的類(lèi)比學(xué)派是基于實(shí)例的學(xué)習(xí)，而圍棋恰恰是一個(gè)既注重大量規(guī)則（定式），又注重實(shí)例（千古無(wú)同局）的游戲，因此也正是一個(gè)可以將這兩種新舊算法加以結(jié)合利用的最佳測(cè)試對(duì)象。所以圍棋AI的研發(fā)對(duì)于人工智能界是大事，但對(duì)于人類(lèi)世界而言，其實(shí)依舊還只是人類(lèi)智慧的一部分罷了。我們可以再看看圍棋界對(duì)AI的反應(yīng)。棋手們?cè)谧畛醯妮p蔑和懷疑過(guò)后，迅速擁抱了AI，目前大概所有職業(yè)棋手都采用AI作為訓(xùn)練工具，很多過(guò)去的定式被瓦解了，新的定式又在源源不斷產(chǎn)生，各種新的著法層出不窮，圍棋AI帶來(lái)的并不是圍棋的失敗，而是新一輪突破，沒(méi)有棋手會(huì)以參考AI下法為恥，相反，他們公認(rèn)AI對(duì)棋道的理解更深刻。日本棋圣藤澤秀行曾經(jīng)有句名言：“棋道一百，我只知七?！边@句名言在圍棋AI時(shí)代復(fù)活，棋手們都認(rèn)識(shí)到AI只是人類(lèi)追求道和藝的一個(gè)最新工具，或者說(shuō)，AI是和人類(lèi)在一同追求。
圍棋如此，文學(xué)同樣如此。出版了詩(shī)集的微軟小冰讓很多不寫(xiě)作的人迷惑，但認(rèn)真的寫(xiě)作者大概會(huì)把小冰寫(xiě)的詩(shī)就當(dāng)成一個(gè)正常的文本來(lái)審視，像讀任何一本或好或壞的詩(shī)集一樣。我們先假設(shè)小冰以后可以寫(xiě)得很好，但人類(lèi)社會(huì)是否曾經(jīng)因?yàn)槟骋晃粡?qiáng)力詩(shī)人的出現(xiàn)就放棄詩(shī)歌呢？從來(lái)沒(méi)有。相反，每一位強(qiáng)力詩(shī)人都極大地更新和推動(dòng)了現(xiàn)有的詩(shī)歌。如果有一天機(jī)器寫(xiě)作達(dá)到了某種類(lèi)似阿爾法圍棋的突破，那么看看目前圍棋界因?yàn)锳I所煥發(fā)的生機(jī)，寫(xiě)作者自當(dāng)為之歡欣。
更何況，相對(duì)于圍棋，詩(shī)呈現(xiàn)的是一種更為復(fù)雜的心智。用特德·姜的話(huà)來(lái)說(shuō)，這種復(fù)雜心智不可能通過(guò)自動(dòng)訓(xùn)練產(chǎn)生，它需要經(jīng)受其他心智的教育，復(fù)雜心智需要在與其他復(fù)雜心智的環(huán)境關(guān)系中，慢慢生成。而就目前的微軟小冰而言，其訓(xùn)練寫(xiě)詩(shī)的方法據(jù)稱(chēng)是對(duì)五百多位現(xiàn)代詩(shī)人的詩(shī)作正讀、倒讀各一萬(wàn)遍，用層次遞歸神經(jīng)元網(wǎng)絡(luò)，通過(guò)閱讀來(lái)獲得語(yǔ)言的表達(dá)能力。這種粗陋的訓(xùn)練方式類(lèi)似于前面提到的特德·姜所描述的溫室培育，可以說(shuō)離復(fù)雜心智的要求還相距甚遠(yuǎn)，同時(shí)，其對(duì)于詩(shī)的生成機(jī)制的認(rèn)知也流于表面。因此，就算某一次小冰寫(xiě)出了一首非常好的詩(shī)，那它也依舊無(wú)法擺脫弱AI的屬性，正如在打字機(jī)上碰巧打出莎士比亞詩(shī)句的猴子也還是猴子。
8
"幾個(gè)月之后……接下來(lái)的一年里……又一年過(guò)去……又過(guò)了一年……又過(guò)了兩年……"
在這篇小說(shuō)里，這種拙樸的時(shí)間敘述貫穿前后，作者仿佛要我們一起加入這漫長(zhǎng)的不可逆的時(shí)間洪流，去體會(huì)一種真正的心智成長(zhǎng)的艱難，由此我們也可以理解這篇小說(shuō)所必須的長(zhǎng)度。
在安娜、德雷克和其他少數(shù)人的悉心教育下，為數(shù)不多的神經(jīng)源數(shù)碼體的智力發(fā)展水平迅速，同時(shí)也在虛擬社區(qū)中呈現(xiàn)出良好的人際交往能力，就像人類(lèi)的少年一樣，這些都超越了其他公司生產(chǎn)的數(shù)碼體。但接下來(lái)，神經(jīng)源數(shù)碼體遭遇到自誕生以來(lái)最大的危機(jī)。
"最近一次流感疫情過(guò)后，經(jīng)濟(jì)陷入了衰退，虛擬世界也隨之發(fā)生變遷?！皵?shù)據(jù)地球”平臺(tái)的創(chuàng)建公司瑞山數(shù)碼和“真實(shí)空間”的母公司維薩傳媒發(fā)表了一份聯(lián)合聲明：“數(shù)據(jù)地球”即將并入“真實(shí)空間”……對(duì)大多數(shù)用戶(hù)來(lái)說(shuō)，這不過(guò)意味著他們可以不用登入登出就能往返于更多的虛擬地點(diǎn)之間了……然而神經(jīng)源引擎卻是個(gè)例外，它沒(méi)有對(duì)應(yīng)的“真實(shí)空間”版本，因?yàn)樗{(lán)色伽馬在“真實(shí)空間”平臺(tái)出現(xiàn)以前就倒閉了。換言之，神經(jīng)源基因組下的數(shù)碼體是沒(méi)有辦法進(jìn)入“真實(shí)空間”的環(huán)境中的。對(duì)千紙和花百姿數(shù)碼體而言，遷往真實(shí)空間意味著全新的開(kāi)始；可是對(duì)賈克斯和其他神經(jīng)源數(shù)碼體來(lái)說(shuō)，瑞山的聲明等于是宣告了世界末日。"
賈克斯、馬可和波羅們只好在志愿者臨時(shí)搭建的私人服務(wù)器里玩耍，但這顯然不能讓數(shù)碼體們滿(mǎn)意，因?yàn)樵谒椒h(huán)境里只有數(shù)碼體和他們的主人們，不再有各種各樣不同于他們的數(shù)碼體和陌生人的存在，大家都跑去“真實(shí)空間”了，數(shù)據(jù)地球的私服漸漸像一座鬼城，游蕩著為數(shù)不多的神經(jīng)源數(shù)碼體。
特德·姜在這里想指涉的，是一個(gè)封閉系統(tǒng)無(wú)法促成智能的持續(xù)成長(zhǎng)，即便這個(gè)封閉系統(tǒng)內(nèi)部擁有最好的老師。這個(gè)觀(guān)點(diǎn)，同樣是最杰出的人文學(xué)者和科學(xué)家在最近這一兩百年里逐步達(dá)成的共識(shí)。沒(méi)有什么比19世紀(jì)發(fā)現(xiàn)的熱力學(xué)第二定律更能表明，一個(gè)封閉系統(tǒng)最終面臨的命運(yùn)，即不可逆的熵增過(guò)程最終導(dǎo)致的死寂，或者稱(chēng)之為熱平衡態(tài)。有人因此擔(dān)心宇宙的終點(diǎn)，但宇宙已被證明并不是一個(gè)封閉系統(tǒng)，一個(gè)健康的社會(huì)、一個(gè)健康的生命體乃至一部健全的文學(xué)作品同樣也都不是。翁貝托·?？朴懻撨^(guò)“開(kāi)放的作品”，卡爾·波普爾詳細(xì)地論證過(guò)人類(lèi)歷史上的種種封閉社會(huì)是如何一點(diǎn)點(diǎn)被瓦解的，納博科夫堅(jiān)信，“凡是能被控制的決不會(huì)完全真實(shí)，凡是真實(shí)的決不會(huì)完全被控制”，而科學(xué)家從宏觀(guān)的非平衡宇宙到微觀(guān)的分子生物學(xué)領(lǐng)域再到人工智能領(lǐng)域的種種研究，也很好地驗(yàn)證了人文學(xué)者的這些洞見(jiàn)。假如我們認(rèn)為一個(gè)系統(tǒng)的智能標(biāo)志是該系統(tǒng)對(duì)于有序的意識(shí)，如科學(xué)家對(duì)于蟻群和化學(xué)鐘的觀(guān)察，那么這種有序的來(lái)源，恰恰是非平衡，是動(dòng)蕩不安充滿(mǎn)種種不確定因素的不穩(wěn)定系統(tǒng)，如同每個(gè)正常生命所置身的人世。用普里戈金的話(huà)說(shuō)，是“非平衡使有序從混沌中產(chǎn)生”。
要再次進(jìn)入一個(gè)開(kāi)放系統(tǒng)，唯一的解決方案是重寫(xiě)神經(jīng)源引擎并把它移植到“真實(shí)空間”的平臺(tái)上，但這得請(qǐng)專(zhuān)業(yè)研發(fā)人員做，需要大量經(jīng)費(fèi)，對(duì)于只剩下二十個(gè)人的小用戶(hù)組來(lái)講，這是一筆難以承受的開(kāi)銷(xiāo)。安娜和德雷克為了籌集經(jīng)費(fèi)四處奔走。
9
安娜和“冪級(jí)器械”公司的研發(fā)人員見(jiàn)面，想讓后者投資神經(jīng)源引擎。
"這是一個(gè)生產(chǎn)家用機(jī)器人的公司。他們的機(jī)器人是傳統(tǒng)的人工智能，其技能都是事先編好的程序，而不是后天習(xí)得的。雖然它們用起來(lái)確實(shí)方便，但沒(méi)有真正意義上的意識(shí)。冪級(jí)定期發(fā)布新版本，每次都聲稱(chēng)新版向消費(fèi)者心目中的理想人工智能又邁近了一步。在安娜看來(lái)，這一連串的升級(jí)就像是向著地平線(xiàn)奔跑，雖然讓人產(chǎn)生不斷前進(jìn)的幻覺(jué)，實(shí)際上卻一點(diǎn)都沒(méi)有離目標(biāo)更近。"
好的小說(shuō)源自對(duì)現(xiàn)實(shí)的洞察，科幻小說(shuō)并不例外。上面一段描述，基本就是我們目前市場(chǎng)上所有打著人工智能旗號(hào)的產(chǎn)品寫(xiě)真。而特德·姜的諷刺也極富穿透力。
冪級(jí)售賣(mài)傳統(tǒng)人工智能機(jī)器人，是為了獲取資金研發(fā)他們心目中的理想人工智能，“一個(gè)只擁有純粹認(rèn)知的實(shí)體，不被任何情感羈絆、不被任何身體束縛的天才思想”，“一個(gè)完全成熟的軟件版雅典娜”，或者說(shuō)，一個(gè)速成的“超人智能”。他們?nèi)淌懿涣松窠?jīng)源數(shù)碼體的這種緩慢而不確定的進(jìn)步，事實(shí)上，大部分消費(fèi)者也忍受不了，因此當(dāng)冪級(jí)聲稱(chēng)自己的機(jī)器人的智能在不斷朝著理想智能更新，購(gòu)買(mǎi)者也就樂(lè)意相信。這是人性的弱點(diǎn)，即愿意相信自己所希望的，而不是相信真實(shí)，商人與政治家會(huì)利用這樣的弱點(diǎn)，但藝術(shù)家往往是要和這樣的弱點(diǎn)作斗爭(zhēng)。
冪級(jí)的思維悖論在于，他們希望用人為干預(yù)的優(yōu)化來(lái)創(chuàng)造出超人的智能。安娜認(rèn)為這是不可能的，這依舊是忽略時(shí)間的決定論思維模式投射到新興技術(shù)領(lǐng)域所造成的普遍局面。自然界的多樣性與神奇，是用億萬(wàn)年的時(shí)間演化而成的，人的進(jìn)化也花費(fèi)了數(shù)百萬(wàn)年，假如有超人的存在，他首先也必須經(jīng)受一個(gè)不那么短暫的時(shí)間。而時(shí)間帶來(lái)的，是不可替代的經(jīng)驗(yàn)。
"她想告訴他們，藍(lán)色伽馬那時(shí)甚至都不知道自己有多么正確：經(jīng)驗(yàn)不僅是最好的老師，而且是唯一的老師。如果說(shuō)她在撫養(yǎng)賈克斯時(shí)學(xué)到了什么東西的話(huà)，那就是沒(méi)有捷徑。如果你想創(chuàng)造出二十年的生命所帶來(lái)的常識(shí)的話(huà)，那你就得投入二十年。你無(wú)法在更短時(shí)間內(nèi)建立一個(gè)同等價(jià)值的探索體系，經(jīng)驗(yàn)這個(gè)算法的時(shí)間復(fù)雜度是不能被壓縮的。"
10
德雷克的妻子并不想要一種撫養(yǎng)數(shù)碼體的生活，但數(shù)碼體的成長(zhǎng)已經(jīng)成為德雷克的志業(yè)，婚姻的紐帶除了孩子，就是志趣，在他們之間這二者皆無(wú)，因此離婚也是時(shí)間自然會(huì)帶來(lái)的一種結(jié)果。
德雷克喜歡安娜，但安娜一直有男友，德雷克只好把自己的喜歡放在心底，只保持一種志同道合的朋友關(guān)系?，F(xiàn)在有關(guān)神經(jīng)源引擎的資金來(lái)源似乎只剩下兩個(gè)選擇，一種是安娜接受“多維體”公司的高薪聘請(qǐng)，去幫助他們訓(xùn)練玄思數(shù)碼體，條件是必須使用一種可以釋放愛(ài)意的藥物“捷立親”，公司認(rèn)為愛(ài)意是高效訓(xùn)練的重要保證，但安娜的男友反對(duì)這樣做；另一種選擇是來(lái)自“零一欲望”公司，他們看中神經(jīng)源數(shù)碼體的情感發(fā)育潛力，希望可以購(gòu)買(mǎi)某個(gè)數(shù)碼體副本的非專(zhuān)有使用權(quán)，然后訓(xùn)練和改造這些副本，使之成為可以信賴(lài)的性伴侶，再賣(mài)給顧客。安娜對(duì)此堅(jiān)決反對(duì)。德雷克和他的兩個(gè)數(shù)碼體談?wù)摿艘幌铝阋挥奶嶙h，沒(méi)想到的是，馬可對(duì)此表示出極大的興趣。這讓德雷克陷入了兩難：他可以聽(tīng)任安娜去接受藥物洗腦，這樣安娜和男友的關(guān)系可能會(huì)破裂，他也許可以因此得到安娜，但這樣的得到并不高尚；他也可以尊重馬可的自由選擇，賣(mài)掉馬可，以此換取其他數(shù)碼體的未來(lái)，但他和安娜的關(guān)系一定會(huì)受到傷害。
我們可以看到，特德·姜在這本探索人工智能的小說(shuō)中，始終沒(méi)有忘記首先探索屬于人的困境。因?yàn)?，教育首先是教育者的自我教育。高貴和美無(wú)法從卑劣中產(chǎn)生，如果我們希望未來(lái)的人工智能擁有道德感，那么我們這些培育者首先就要具備道德感，如果我們恐懼人工智能非人性的一面給人類(lèi)的傷害，那么我們首先要清理自己身上的非人性。小說(shuō)最后的結(jié)局是開(kāi)放式的，一切都在繼續(xù)，所有熱切生活的人，所有充滿(mǎn)可能的數(shù)碼體。
計(jì)算機(jī)領(lǐng)域有句格言，“你沒(méi)法了解某樣?xùn)|西，直到你能用一套算法將其表達(dá)出來(lái)”。物理學(xué)家費(fèi)曼常說(shuō)，“如果我無(wú)法創(chuàng)造某樣?xùn)|西，那么也就無(wú)法理解它”。在這個(gè)意義上，特德·姜的科幻小說(shuō)可以也看成一種他所創(chuàng)造出來(lái)的算法，為的是和我們一起去理解令人激動(dòng)的未來(lái)。
