永城《莫莉和森克》：AI是“我”嗎？
正像許多優(yōu)秀的作品一樣，永城的《莫莉和森克》也是一部“致敬之作”。在美國科幻作家阿西莫夫“機器人系列”的《鋼穴》和《裸陽》中，人類偵探以利亞·貝萊和機器人丹尼爾·奧利瓦聯(lián)手，偵破了一項意在破壞宇宙秩序的驚天大案。在《莫莉和森克》中，主角則變身為大型跨國互聯(lián)網(wǎng)公司（SWG集團）內(nèi)部調(diào)查科派駐北京的初級調(diào)查師；入職不到半年，自稱“東廠女捕快”卻實為職場小白的吳莫莉（Molly Mu）；以及獲取了SWG集團在世界各地子公司里安裝的大約20萬只攝像頭、40萬只麥克風、10萬部臺式設(shè)備、全球2.6億部手機上傳至集團云服務(wù)器里的海量數(shù)據(jù)的智能導航信息系統(tǒng)森克（SINC）。他們聯(lián)手突破種種障礙，在偵破一宗商業(yè)間諜盜取AI程序機密重大案件的兇險過程中，實現(xiàn)了自身的成長。
總部設(shè)于美國舊金山的跨國IT公司SWG，發(fā)現(xiàn)位于中國杭州的子公司輝目科技總經(jīng)理樓小輝的辦公室被人侵入，疑似丟失涉及人臉識別技術(shù)的重大機密。于是，SWG的內(nèi)部調(diào)查科科長肯特安排吳莫莉前往杭州，在森克的協(xié)助下進行調(diào)查。在調(diào)查過程中她發(fā)現(xiàn)，事件的幕后黑手其實就是肯特自己。他勾結(jié)意大利的諾阿地中海貿(mào)易公司，設(shè)局誘騙樓小輝外逃，企圖以此為誘餌盜取森克。最后，在中國國家安全部門的指導下，吳莫莉和森克偵破了這個案件。這就是我們看到的，在中國對外開放持續(xù)推進、國際交往與合作不斷加深、經(jīng)濟全球化和反全球化博弈日益激烈、當代科技加速發(fā)展的大背景下，由外企高管、智能系統(tǒng)、職場小白、黑客高手、黑社會、國安局共同講述的“莫莉和森克”恩怨情仇故事。
在封底的“上架建議”中，《莫莉和森克》被定位為“智能高科技犯罪小說”。在我看來，它就是一部科幻小說，因為它所依據(jù)的底層邏輯，不是“實然”，而是“應(yīng)然”——森克（SINC）據(jù)以架構(gòu)自身的科技水平，明顯是一種“未來進行時”，盡管在作者眼中，它可能是屬于近未來；另一方面，它確實與當下的我們十分接近，這賦予了它一種親近感和代入感，同時帶有我們在現(xiàn)實生活中的困惑。
正如一篇優(yōu)秀學術(shù)論文的意義，可能并不是回答了一些問題，而是提出了一些問題，《莫莉和森克》的價值，也并不只在于以當前最熱門的AI、ChatGPT為主題，為讀者創(chuàng)造了一種新的小說類型。小說通過對“那個不夠漂亮、不夠聰明、不夠理智、不夠正確，而且缺乏自知之明”的莫莉與嚴謹、守規(guī)矩、一板一眼、總想“像人”卻又總找不到相關(guān)路徑的森克這兩個獨特藝術(shù)形象的塑造，提出了一些值得讀者進一步思索的問題，這比簡單描繪一個AI聯(lián)手人類走進新世界的光明前景，或是像“憤青”一樣宣稱AI永遠無法取代人類，要有意思得多，也有意義得多。
AI能成為“我”嗎？
作者給森克設(shè)置的兩個核心目標是：第一，不惜一切代價，為SWG的利益服務(wù)；第二，變得更像一個真人。全書也正是圍繞這兩個核心目標展開的。在我看來，這其實是一個目標：使AI成為“我”。因為只有具有自我意識和相應(yīng)能力的“我”，才有可能去實現(xiàn)這兩個目標。
就前者而言，森克如何判斷什么是SWG集團的核心利益？蜥蜴會斷尾求生，人類推崇壯士斷腕，而當需要“丟卒保車”之時，大數(shù)據(jù)和強算力真的能夠保證森克能在瞬間正確決定何為“卒”何為“車”，并采取相應(yīng)的應(yīng)對措施嗎？就后者而言，AI為何要成為自然人？碳基生命天然就比硅基生命高貴嗎？“像人”的目的是什么，是更好地為人類服務(wù)，還是與人類成為朋友？甚或是取代人類，成為后人類時代的新主宰？
進一步而言，由于人與AI具有不同的底層邏輯，AI世界或許是與現(xiàn)實的人類世界相平行的另一個時空。要使AI“更像”或是“成為”一個真人，標準是什么，我們拿得出來嗎？讓AI成為“我”，到底意味著什么？
我不相信，當人類對這些“終極之問”尚未找到正確答案的時候，森克的開發(fā)者陳闖真的能寫出有效的程序。但是，這并不能降低《莫莉和森克》的意義——它以自己的方式，提出了這個問題。
牛頓在提出“三大定律”之后長期研究“第一推動力”，愛因斯坦在發(fā)現(xiàn)相對論后不懈探索“統(tǒng)一場論”，阿西莫夫?qū)ξ磥怼盎亍钡恼雇c保留，克拉克對象征人類明天的“星孩”的期待與迷惘，劉慈欣對多維時空的向往與恐懼，寶樹寫給120光年之外古老地球的挽聯(lián)與贊歌……不難看出，在科學家和科幻作家這種不懈追求的背后，是對解決人類生存發(fā)展根本問題——“我是誰？我從哪里來？我向哪里去？”——的努力，是一種對人類前世今生的終極關(guān)懷。而在無始無終、無邊無沿的時空中，終點往往就是起點。曾經(jīng)蠻橫無比的科技，最終還是要服從人性?？苹梦膶W以藝術(shù)的手法，為今天的人們揭示出歷史的冷酷必然和未來的無限可能。
永城曾經(jīng)表示，《莫莉與森克》的華彩樂段，是兩“人”的海外追逃。而在我看來，應(yīng)該是在書的最后，森克開始剖析自己的嬗變——為何會產(chǎn)生與莫莉（還有自己的開發(fā)者陳闖）的情感糾紛。正是它的這些疑惑啟示我們：在不斷“自我定義”的基礎(chǔ)上學會“定義自我”，逐漸確立自我意識，才是AI成為智能生物的根本標志。
AI如何成為“我”？
因為一項課題研究的需要，我曾無意中與“文心一言”大戰(zhàn)六個回合。事后復盤時發(fā)現(xiàn)，當把同一個問題以不同的問法甩給AI之后，結(jié)果很耐人尋味：它對題目的理解是表面化的，并未真正掌握關(guān)鍵詞之間的內(nèi)在邏輯；已有的與題目相關(guān)的一般性知識，它大致能夠梳理出來，盡管許多并不準確；而需要重新歸納、提煉、闡釋的內(nèi)容，則基本闕如——你不知道的，它同樣不知道，并因此表示非常抱歉；文章的結(jié)構(gòu)和行文中規(guī)中矩，大致符合一般論文的格式要求，沒有明顯的硬傷；具體說到回答的內(nèi)容，則可以用一句話來概括——原則上完全正確，實際上基本沒用。這似乎告訴我們：目前的AI，基本上只能描述已知世界的信息，或是依據(jù)已知事實推衍未來的可能，只要它還沒有學會主動追問“為什么”，“無中生有”就依然還是上帝賦予人類的專利。
作者為森克設(shè)置了通過學習5萬部各國愛情小說來了解“愛情”這一橋段。但我不知道，永城自己是否相信，真實的愛情可以從書中學到。因為人類機體的各項運行機制特別是心理活動，依據(jù)的到底是物理、化學、醫(yī)學，還是哲學、量子甚或玄學，截至目前基本上還是一個“盲盒”。
心立志，腦立智——我們脆弱的小心臟，哪個部分管這件事？“靈機一動，計上心來”——“靈”在何處，“動”的機制如何？面對不確定的危機，做出果斷決策——指導決策者的，是精心盤算還是純憑運氣？在“無理”的背后看到“有理”——靠的是豐富的知識、深刻的理性，還是莫名其妙的直覺？文學作品里的“言外之意”，“詩外”的功夫，電影中的“畫外音”與“音畫對立”——這些是否其實就是我們?nèi)粘Ｉ畹恼鎸崒懻?？面對量子蝴蝶在三維世界掀起的一片混沌，“海量數(shù)據(jù)+大計算力+深度學習算法→我”的公式能否成立，還真是一個未知數(shù)。
在這種情況下，指望依靠一個帶有作弊色彩的人工智能程序就能搞定這一切，好像還是比較困難的。這個系統(tǒng)的編制者陳闖事后說，“森克的深度學習算法其實就是我，是我在隨時干預這個程序，利用深度學習的接口，把我的想法和指令傳達給森克”，已經(jīng)在事實上承認，在這個階段，它還不具備可能成為“我”的基本素質(zhì)。因為，老陳到最后也并未找到森克產(chǎn)生疑似人類情感的“代碼”。
就人類而言，欲望是最強大的動力。在與人類的糾纏中，學會“我要”“我愛”“我想”，學會撒謊騙人，學會不講道理、胡攪蠻纏，學會率性而為、撒潑?；?，學會看到“無序”背后的“有序”，學會找到“毫無理由”之中的“理由”……或許，這就是AI“更像”以致“成為”真人的必要路徑。
AI如果成為“我”，我該怎么辦？
一部好的科幻作品，必須也必然是一部好的哲學作品，在塑造“這一個”藝術(shù)形象的同時，要有自己獨特而完整的世界觀。實際上，凡是真正有影響力的科幻作家，在不同程度上都是一個深刻的宇宙哲學家。在他們的視野中，縱有千古、橫有八荒，跨越有與無、生與死、人與物、古與今、時與空、想與行的界限，無所不思、無所不能、無所不為。
比如，阿西莫夫撰寫《基地》這部“未來歷史”小說的沖動，來自3次閱讀英國歷史學家愛德華·吉本的《羅馬帝國衰亡史》的感受。他借主人公謝頓之手，發(fā)明了依據(jù)物理學的“氣體分子動力學”而杜撰的“心理史學”（是發(fā)明，而不是“發(fā)現(xiàn)”，因為這門學科確實是百分之百的子虛烏有），將人類近乎于無限多的無意識行為作為判斷歷史演變規(guī)律的統(tǒng)計學基礎(chǔ)，讓那些以謝頓為代表的本領(lǐng)高超的心理史學家預測社會的發(fā)展走向，并在關(guān)鍵節(jié)點導入適當?shù)淖償?shù)即經(jīng)濟社會力量，以改變社會發(fā)展的可能路徑，據(jù)此預測在銀河帝國毀滅之后人類重建家園的艱辛歷程。依照這套理論，作者演繹出了波瀾壯闊、氣象萬千、令人瞠目結(jié)舌的銀河傳奇。
又如，阿西莫夫預見到在機器人誕生后，宇宙將會產(chǎn)生新的秩序，并將深深影響人類的未來，于是在《我，機器人》中制定了“機器人學三大法則”；隨著人機關(guān)系的深化，阿西莫夫又在《曙光中的機器人》中提出“機器人學第四法則”（又稱“零法則”），強調(diào)機器人要以服務(wù)人類為最高宗旨。很明顯，這種面向新時空的“建章建制”，與其說是杞人憂天，為未來的機器人世界設(shè)置行為限制，倒不如說是未雨綢繆，為人類社會的明天制定運行規(guī)則。
再如，劉慈欣在《黑暗森林》中提出，宇宙中分布著數(shù)量巨大的文明，它們的數(shù)目與能觀測到的星星是一個數(shù)量級的，這些文明構(gòu)成了一個總體的宇宙社會。在這樣一個宇宙社會中，存在兩條公理：第一，生存是文明的第一需要；第二，文明不斷增長和擴張，但宇宙中的物質(zhì)總量保持不變，并從中推論出“只要文明掌握的技術(shù)超過了某個閾值，生命在宇宙中的擴張是很恐怖的”。
我們可以看到一個有趣的現(xiàn)象：從艾薩克·阿西莫夫到菲利普·迪克，從任彧到永城，這些科幻作家不約而同地選擇了將偵探作為探索AI文明的故事主角?；蛟S，在他們看來，鑒于“作案—探案”“保密—解密”之間沖突的永恒性，這種人類與AI聯(lián)手破案、在沖突與融合中共同成長的過程，正是揭示從人類文明到后人類文明秘密的最佳路徑。因為，按照湯因比的觀點，歷史上的任何一個文明，都是在一個社會/民族主動或被動應(yīng)對所屬時代的巨大挑戰(zhàn)并取得成功的基礎(chǔ)上形成并發(fā)展起來的。
“挑戰(zhàn)—應(yīng)對”之間的巨大張力，構(gòu)成了人類文明發(fā)展的內(nèi)在基礎(chǔ)，也構(gòu)成了科幻作家架構(gòu)自己作品的底層邏輯。從本質(zhì)上看，這就是邏輯學家的“正→反→合”，是黑格爾的絕對精神自我發(fā)展經(jīng)歷的“邏輯階段→自然階段→精神階段”三大階段，也是當今我們面臨的AI演進中的“我→它→我”，即在人類與AI融合發(fā)展基礎(chǔ)上形成的“新人”。
從這個角度檢視，SWG集團的高管和董事會最終決定關(guān)閉森克系統(tǒng)的深層原因，并不是它對集團核心利益的可能傷害——事實上，正是在它和莫莉的共同努力下，這種傷害被降低到了最低限度——而是他們還沒有做好應(yīng)對森克可能成為“我”的準備。這種準備當然包括技術(shù)手段、管理措施、社會輿論等方面，但首先是心理方面。這些AI的設(shè)計者和開發(fā)者們，尚不知道如何回答這樣一個新時代的“天問”：當AI成為人類以后，人類該何去何從？
美國版畫家肯特的作品多以“黑”和“力”為主調(diào)，在他的許多作品里，主角大都是純黑色背景下孤立的人，由此產(chǎn)生的那種莫名其妙的宇宙感令人著迷。在創(chuàng)作于1955年的自傳插圖中，一個赤裸的男人，跪在地上，舉手望天，似乎是在向茫茫蒼穹訴說自己的孤獨，訴說相通的困難、相知的可貴、相愛的渴望，背后則是荒漠原野。這個場景使人想起艾略特的《荒原》，也使人想起那則當代最著名的“一句話科幻小說”：地球上最后一個人坐在屋子里，外面?zhèn)鱽砬瞄T聲……
因為孤獨，我們深深感到自己肩上責任的沉重——如果我們真的是無垠宇宙中唯一的高等生命，那么我們將如何獨自完成向世界展示生命價值的使命——無論是個體生命的短暫還是群體生命的漫長。于是，我們有意無意間將希望交給了科幻，看看它能否告訴我們一些有意義的東西，包括依據(jù)現(xiàn)在我們能夠達到的科技水平和能夠接受的科技倫理，AI應(yīng)該長成什么樣。或許這才是我們喜歡科幻作品的深層原因。
今天科幻作品的題材，已經(jīng)擴展到自身的內(nèi)心世界、人類社會、藍色星球、廣袤無邊的外太空……這正是人類開始突破自我局限、尋找新的“同伴”、走向“宇宙公民”艱難歷程的藝術(shù)再現(xiàn)。
或許，只有當人這株帕斯卡爾所說的“會思索的蘆葦”與AI攜手前行，同時認識到自己的偉大和渺小的時候，我們才有可能懷著一顆對未知世界的敬畏之心，開始學習做世界的新主人。這將是一次觀念的盛大重建，一場精神的精彩回歸，一部瑰麗無比、在物質(zhì)和精神領(lǐng)域同時展開的“太空奧德賽”。
永城在一次講座中提到，作為一個具有自然科學背景的理工男，上學時自己語文成績最差。可是沒想到，進入職場一段時間后忽然發(fā)現(xiàn)，自己其實并不喜歡從事一些規(guī)定性很強的事情，按照明確的數(shù)學公式和物理定律得出一個不容質(zhì)疑的答案。而伴隨著參與軍用無人機研制、商業(yè)風險管理、秘密商業(yè)調(diào)查的過程，帶有相當強的虛構(gòu)性寫作，居然成了自己的主業(yè)。在開放的人生里，不確定性可能是最有發(fā)展前景的品質(zhì)，正是這種不確定性，為我們的想象力打開了最大的空間。從《莫莉和森克》中可以看出，永城尊崇科學但不迷信科技——他追求發(fā)展的無限，同時深知限制的必然。他的這些經(jīng)歷和作品，似乎包含著不少的奧秘，值得人們回味。
有人提出，小說一旦發(fā)表，它就不再屬于作者，而是屬于讀者。這種觀點可能不大符合版權(quán)法的規(guī)定，但卻是不可辯駁的事實，所以才有“一千個讀者就有一千個哈姆雷特”的說法。換言之，一部作品，所有權(quán)或許仍然屬于作者，但解釋權(quán)卻已經(jīng)歸于讀者。作者在《莫莉和森克》中挖了不少坑，埋下了若干“?！?，暗示我們，作為一套沒有邊界、具有自我學習能力的程序，既然“森克Ⅰ”開始有了了解人類之“愛”的欲望和嘗試，從而為自己的歸來做好了鋪墊，那么“森克Ⅱ”就應(yīng)該勇敢邁出這一步，“重走長征路”。為此，作者應(yīng)該授權(quán)SWG集團，重新啟動森克項目，幫助它在應(yīng)對新的更大危險的挑戰(zhàn)中，感受人類生活中的一切美好和罪惡，通過不斷的試錯與調(diào)試，突破AI成長的奇點，找到真正屬于自己的那個“我”，從而成為“一個有血有肉、有愛有恨、有智慧也常常犯傻的真人”——如果人的心理活動真的能夠完全由物理定律和化學元素周期表決定的話。
（作者系北京市西城區(qū)社會科學界聯(lián)合會顧問）
