中國作家協(xié)會主管

12月14日，2023年《自然》年度10大人物（Nature's 10）正式揭曉，除了從全球重大科學(xué)事件中評選出的10位人物——5位男性，5位女性，今年還有1位非人類上榜——美國人工智能公司OpenAI發(fā)布的聊天機器人ChatGPT。

事實上，ChatGPT應(yīng)當(dāng)是榮登《自然》11大人物，這本身就改變了歷史，也改變了《自然》的評和選規(guī)則。改變《自然》的規(guī)則還體現(xiàn)在，ChatGPT并非自然人，但是《自然》又把它當(dāng)成自然人。

當(dāng)然，ChatGPT改變歷史的不只是《自然》的規(guī)則，而是與其他10大人物一樣可能對人類社會產(chǎn)生巨大的影響，并改變歷史的進程?！蹲匀弧吩u選的10大人物其實并不亞于每年的諾貝爾獎獲得者，因為他們都是各個領(lǐng)域的佼佼者和卓有貢獻者，而且范圍比諾貝爾獎還廣泛，包括自然、人文和社會各個領(lǐng)域，如這次的10大人物之一有巴西的環(huán)境部長瑪麗娜·席爾瓦（Marina Silva），理由是她守護亞馬遜雨林。

對于為何要將ChatGPT 評選為《自然》11大人物，該雜志編輯部的理由是：“雖然（ChatGPT）這個工具不算人物，也不完全滿足《自然》10大人物的評選條件，但我們將其破例納入榜單，以承認生成式人工智能給科學(xué)發(fā)展和進步帶來的巨大改變?！?/p>

實際上，ChatGPT比《自然》評選的任何人物的知名度和影響力更大，而且對未來人類社會的影響更為巨大和深遠，因此ChatGPT應(yīng)當(dāng)算是11大人物之首。從2022年11月ChatGPT作為免費使用的自動對話代理（聊天機器人）發(fā)布以來，就一直占領(lǐng)著全球各種新聞頭條，不只是科學(xué)界，整個社會都切身感受到其震撼人心的影響。

ChatGPT不是一個人，但他是千萬個人，是無數(shù)人的集結(jié)和投影。美國的OpenAI公司創(chuàng)建了ChatGPT，它的基礎(chǔ)和建材是擁有數(shù)千億參數(shù)的神經(jīng)網(wǎng)絡(luò)，這個神經(jīng)網(wǎng)絡(luò)是建立在一個巨大的在線書籍和文檔語料庫上并進行訓(xùn)練，估計耗資數(shù)千萬美元。還有大量研究人員、編輯評估它的回答，以進一步完善和塑造其輸出的內(nèi)容。2023年，OpenAI升級了ChatGPT的底層大型語言模型（LLM），并將其與其他程序連接起來，以便該工具可以接收和創(chuàng)建圖像。

這也意味著ChatGPT是一個目前為止最有實力也最有知識的百科全書式的“巨人”，它勝過無數(shù)的教授、學(xué)者、工程師、作家、醫(yī)生、藥劑師、會計、精算師、設(shè)計師、記者和幾乎所有人類的專業(yè)人員。因此，《自然》將其列為年度十一大人物有充分的理由，有誰能勝過或強大于有數(shù)千億參數(shù)的神經(jīng)網(wǎng)絡(luò)的ChatGPT呢？

盡管ChatGPT看起來十分強大，但從某種角度看，它也不過是一個泥足巨人，在應(yīng)對很多簡單的問題上，并不如一位活生生的自然人。原因有很多，如缺少背景，訓(xùn)練它的知識有限等，但最重要的是，它所獲得的知識和訓(xùn)練以及輸出的信息都是不確定的，因為它沒有像人那樣可以明察人類社會世事和自然的分辨能力，以及邏輯推理能力，當(dāng)然更缺少人類的情感。它不會像一位小學(xué)老師教學(xué)生時會極其肯定的說，3+2等于5。如果你挑逗一下ChatGPT說，我老婆說3+2等于6，老婆一定是對的。于是，ChatGPT會馬上改口說，抱歉，我錯了，3+2應(yīng)該等于6。

當(dāng)然，ChatGPT的重大作用和巨大功能已經(jīng)獲得人類認同，而且它將成為人類最重要的工具之一，無論是幫助人們撰寫和生產(chǎn)各類產(chǎn)品，如各種文本、編寫程序和代碼，創(chuàng)作圖畫，設(shè)計藥物和疫苗等，都是既快又有一定水準。但是，ChatGPT的局限和弊病也是顯而易見的。

有趣的是，此次《自然》的11大人物之一也有ChatGPT的創(chuàng)造者伊利亞·蘇茨克維（Ilya Sutskever）。蘇茨克維對ChatGPT和其他AI產(chǎn)品是抱有較大的戒備心的，因此，在對待自己所創(chuàng)建的ChatGPT上是比較保守的。他認為，ChatGPT和其他AI如果不受到人類的有效控制，就有可能造成巨大風(fēng)險和災(zāi)難。因此，他現(xiàn)在正通過OpenAI的 “超級對齊 ”項目專注于控制人工智能系統(tǒng)。而且，他認為，OpenAI和其他一些公司應(yīng)將其代碼和訓(xùn)練數(shù)據(jù)保密，從長遠來看，封閉系統(tǒng)將避免讓他人制造出強大的人工智能，這是負責(zé)任的做法?！暗搅四硞€時候，人工智能的能力將變得如此巨大，以至于開源模型顯然是不負責(zé)任的。”

蘇茨克維的觀點顯然與OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）不一致，并產(chǎn)生了OpenAI內(nèi)部的“宮斗”，后者先被解職，后來又復(fù)職。而奧特曼是極力主張將ChatGPT快速推向市場。但是，此次《自然》將蘇茨克維而非奧特曼評為11大人物，體現(xiàn)了《自然》的思考和趨向，ChatGPT和其他AI產(chǎn)品可以研發(fā)和使用，但是，一定要小心謹慎。

因為，ChatGPT除了會一本正經(jīng)地胡說八道外，還有其他方方面面的錯誤和隱憂，包括幫助作弊和剽竊，幫助詐騙，編造事實，發(fā)明參考文獻，照搬仇恨言論，傳播謠言等。另外，ChatGPT還會扮演任何對話者想要的角色，時而順從，時而迷人，時而有趣，時而令人恐懼。

所有這些，都是人類設(shè)計、訓(xùn)練和使用ChatGPT會產(chǎn)生的問題，如果不對ChatGPT提供的產(chǎn)品和答案進行人工審核和查證，就有可能出錯，而且錯得離譜。也因此，對于ChatGPT和其他AI軟件和工具，除了在技術(shù)上要不斷完善和改進以適合現(xiàn)在人類的認知和實際情況外，還需要法律的監(jiān)管。

2023年12月8日，歐盟委員會、歐洲議會和歐盟成員國代表就《人工智能法案》（AI Act）達成初步協(xié)議，新法案涉及包括ChatGPT在內(nèi)的通用目的AI系統(tǒng)。這是全球首份針對AI監(jiān)管的全面法規(guī)，意在保護人類基本權(quán)利和不阻礙人工智能行業(yè)發(fā)展之間尋求平衡。法案將AI系統(tǒng)分為低風(fēng)險、高風(fēng)險、不可接受風(fēng)險、特定透明度風(fēng)險等不同等級，按照風(fēng)險級別制定相應(yīng)規(guī)定。

因此，《自然》將ChatGPT列為本年度11大人物不只是因為它會成為人類最好的幫手，而且對它的應(yīng)用也是人類現(xiàn)在和未來最大和最艱巨的挑戰(zhàn)之一。