導(dǎo)讀

后Chat-GPT時(shí)代，當(dāng)人類(lèi)將沉重的存在存儲(chǔ)于所有滴答作響的分布式智能體，便開(kāi)始拍打著名為意志的大廈根基。無(wú)數(shù)的卸載癥候群患者出現(xiàn)，他們求醫(yī)問(wèn)藥，求助于信仰，希望能夠重新整合心智與身體之間信息的反饋回復(fù)，改變混亂的認(rèn)知局面……然而，假如人類(lèi)以未來(lái)的形式重回舊石器時(shí)代，F(xiàn)uxi（伏羲）的故事又將如何改寫(xiě)？

超載

陳楸帆

第一部分

噠。你頭上的機(jī)器開(kāi)始發(fā)出有節(jié)奏的震顫，像花蓮的潮水，雄蟬求偶時(shí)的鳴響，午夜蘇醒的顎式破碎機(jī)。有那么一瞬間，你懷疑它是否即將刺穿顱骨，以野貓鉆探的方式釋放潛意識(shí)中的壓力。但它并沒(méi)有發(fā)生。機(jī)器只是懸浮著，以居高臨下的姿態(tài)提醒你，你是個(gè)病人，身體里有一些錯(cuò)誤需要被糾正。

學(xué)術(shù)界給這種錯(cuò)誤起了拗口的專屬名稱，即便首字母縮寫(xiě)愛(ài)好者也難以記住。媒體知道如何捕捉大眾的注意力，形成易于病毒式傳播的謎米，他們稱之為“卸載癥候群”。

你是一個(gè)職業(yè)生涯岌岌可危的高級(jí)審計(jì)師，一個(gè)在手指與閃光屏幕之間建立反饋回路的游戲成癮者，一個(gè)憂慮氣候變化的山地牧民，一個(gè)數(shù)據(jù)驅(qū)動(dòng)的獵艷者……這個(gè)AI治理社會(huì)中的任何人，享受著控制論神學(xué)所帶來(lái)的順滑體驗(yàn)與自我賦能，全心信奉由算法所編織的教義，并敞開(kāi)心扉，讓巨大的隱喻進(jìn)入身體。那個(gè)真神細(xì)語(yǔ)著嘶吼著吟誦著你的大腦與機(jī)器之間存在的同源進(jìn)化關(guān)系，你們是兄弟姐妹，是遠(yuǎn)房親戚，理應(yīng)喜愛(ài)同樣的食物與歡愉，并依從同樣的邏輯行走于世間，勞作或生活，接受以二進(jìn)制標(biāo)注的命運(yùn)軌跡。

沒(méi)有人能抵擋住這種誘惑，將沉重的存在存儲(chǔ)于所有嘀嗒作響的分布式智能體，它們能幫你計(jì)算稅金、記憶情人的生日、過(guò)濾來(lái)自戰(zhàn)爭(zhēng)與瘟疫的苦難，并以絕對(duì)完美的形態(tài)完成一枚六分熟的單面煎蛋。它們都是無(wú)數(shù)個(gè)小寫(xiě)的“你”。

卸載，朋友。廣告爭(zhēng)分奪秒地告誡你，人類(lèi)大腦并非被設(shè)計(jì)成適合多線程任務(wù)，卻不得不應(yīng)對(duì)這場(chǎng)新皮層稀薄理性與舊石器時(shí)代頑固本能的戰(zhàn)爭(zhēng)，爭(zhēng)奪著對(duì)所謂自由意志的絕對(duì)控制權(quán)。而信息海洋的水位不斷上漲，漫過(guò)防波堤，開(kāi)始拍打著名為意志的大廈根基。

出讓。出讓。出讓。你別無(wú)選擇。

音樂(lè)逐漸升起，你分辨不清是來(lái)自鼓膜振動(dòng)還是聽(tīng)覺(jué)神經(jīng)被隔空激活。那旋律在每次似曾相識(shí)之處急轉(zhuǎn)，奔向新鮮的變奏，誘發(fā)一段毫無(wú)緣由的記憶。機(jī)器與大腦，就像微波爐與旋轉(zhuǎn)的意面，它們展開(kāi)一場(chǎng)關(guān)于熱力學(xué)的辯論。無(wú)論輸贏誰(shuí)屬，最終融化的總會(huì)是芝士。

急促的切分音后，你開(kāi)始理解酸橙綠表征著怎樣的一種痛感。

第二部分

“告訴我，第一次感覺(jué)到不大對(duì)勁是什么時(shí)候？”

“嗯……好問(wèn)題。也許是某一天刷牙時(shí)，當(dāng)刷毛掃過(guò)右上側(cè)第三到七顆牙時(shí)，我的腦中突然出現(xiàn)了一條二十年前的街道，所有的招牌、護(hù)欄、交通標(biāo)志歷歷在目，甚至還有車(chē)子燃燒劣質(zhì)柴油的刺鼻氣味，而我已經(jīng)離開(kāi)那座城市許多年?！?/p>

“后來(lái)呢？”

“后來(lái)，這種錯(cuò)亂出現(xiàn)得越來(lái)越頻繁。像是有人把我腦中的記憶線路拔掉又胡亂插上。走樓梯時(shí)有時(shí)突然會(huì)腦中一片空白，更確切地說(shuō)，不知道接下來(lái)應(yīng)該邁哪只腳，哪怕我的左腳已經(jīng)懸空，好幾次差點(diǎn)摔傷。我是不是得了什么病，早期阿爾茨海默？”

“檢測(cè)結(jié)果顯示不是。你有沒(méi)有想過(guò)，也許不僅僅是大腦，也不僅僅是記憶……”

“我不太明白您的意思，大夫?！?/p>

“你不是第一個(gè)，也不會(huì)是最后一個(gè)。這是一種新的全球性流行病，而我們對(duì)它知之甚少。還記得剛才的實(shí)驗(yàn)嗎？”

“你說(shuō)那個(gè)開(kāi)盲盒的蠢游戲嗎？開(kāi)到植物就會(huì)獎(jiǎng)勵(lì)金幣，開(kāi)到蛇或者閃電就會(huì)扣掉金幣。我不太理解它背后的用意?！?/p>

“好吧……那四個(gè)盒子，它們并不是隨機(jī)的?！?/p>

“我猜這世上不存在真正隨機(jī)的東西?！?/p>

“對(duì)，但在你的大腦意識(shí)到規(guī)律之前，你的身體會(huì)提前知道。”

“什么叫‘你的身體會(huì)提前知道’？”

“早在你的腦波出現(xiàn)N400電位，也就是從語(yǔ)義層面上你意識(shí)到‘噢，這個(gè)盒子可能不太走運(yùn)’之前，大概數(shù)秒到幾分鐘，取決于個(gè)體差異，當(dāng)手指靠近特定盲盒——我們叫它‘壞盒子’的時(shí)候，你的皮膚電導(dǎo)就會(huì)出現(xiàn)帶有明顯傾向性的波峰。你也許會(huì)感覺(jué)到一陣莫名的焦躁、不安、皮膚瘙癢，又或者心悸?？傊谧柚鼓氵x擇這個(gè)盒子。所以，是的，你的身體，知道，很多事情?！?/p>

“等等，我沒(méi)太跟上，這跟我的癥狀有什么關(guān)系？”

“這么說(shuō)吧，我們剛才描述的是正常人的狀況，但對(duì)于像你這樣的卸載癥候群患者，我們觀測(cè)不到提前出現(xiàn)的皮膚電導(dǎo)波峰。也就是說(shuō)，出于某種原因，你的身體不再成為整合的人體認(rèn)知系統(tǒng)的一部分，剩下的只有大腦?！?/p>

“那有什么問(wèn)題嗎？我們不是一直都只有大腦嗎？”

“那已經(jīng)是上個(gè)世紀(jì)的錯(cuò)誤觀點(diǎn)。神經(jīng)、皮膚、肌肉、內(nèi)臟、菌群、工具、寵物、環(huán)境……都可以看作一個(gè)復(fù)雜耦合認(rèn)知系統(tǒng)的零件，與其他部分協(xié)同感知、學(xué)習(xí)、決策。我們的智能遠(yuǎn)遠(yuǎn)溢出了顱骨與皮膚之外，像水一樣漫得到處都是?！?/p>

“說(shuō)到這個(gè)，我想起了一件事。我有一個(gè)比我大四歲的堂姐。小時(shí)候我們經(jīng)常一起玩耍。她身上有一種好聞的甜香，像是梔子花的氣味。在我六歲那年，大人們跟我說(shuō)堂姐去了國(guó)外，從那之后我再也沒(méi)有見(jiàn)過(guò)她，也沒(méi)有任何消息。我以為自己早就忘記了這件事情，但當(dāng)癥狀出現(xiàn)之后，某一天在商場(chǎng)里，熱情的店員在我手腕上噴灑香水，那股甜香突然把所有的記憶碎片推到我面前。不僅如此，我突然明白了真正發(fā)生的事情。所有的細(xì)節(jié)、表情和大人們的只言片語(yǔ)都串聯(lián)成了一幅有意義的地圖。堂姐并沒(méi)有去國(guó)外，她被綁架且撕票了，連尸體都沒(méi)能找回來(lái)。我蹲坐在商場(chǎng)的地上全身顫抖，淚流不止，巨大的驚恐和傷痛讓我喘不過(guò)氣來(lái)。我沒(méi)有任何辦法去證實(shí)這一切。這幻象并非在我腦中生成，它僅僅源于空氣中飄浮的人造化學(xué)香精分子，似乎那些看不見(jiàn)的微小顆粒具備某種能力，能夠收集并存儲(chǔ)歷史的點(diǎn)滴，計(jì)算其中隱而未現(xiàn)的因果關(guān)系。如果這樣的事情一再發(fā)生，我不知道自己該怎么生活下去?！?/p>

“解耦?！?/p>

“什么？”

“就像我之前說(shuō)的，這個(gè)復(fù)雜認(rèn)知系統(tǒng)的零部件原本配合得很好，但現(xiàn)在出了問(wèn)題，解耦了，也就是零件之間聯(lián)結(jié)協(xié)作的方式被改變了。這里面的個(gè)體差異很大，就像文化束縛癥候群。瑞典難民兒童在得知家人將被驅(qū)逐出境后會(huì)陷入昏迷狀態(tài)，美國(guó)南部鄉(xiāng)村非裔對(duì)高嶺土有病態(tài)的嗜好，東南亞男性害怕手機(jī)輻射會(huì)導(dǎo)致陽(yáng)痿，甚至認(rèn)為精液會(huì)伴隨尿液排出。”

“我不明白，這究竟是為什么？”

“在我看來(lái)，卸載癥候群的核心在于不同類(lèi)型的智能主體在同一個(gè)身體圖式上發(fā)生了沖突。打個(gè)最簡(jiǎn)單的比方，你有1型糖尿病家族史，日常用eSpoon管理糖分?jǐn)z入，維持血糖水平穩(wěn)定，但當(dāng)你的至親為你準(zhǔn)備了童年最?lèi)?ài)的甜點(diǎn)時(shí)，即使你不用eSpoon，但分布式智能體的算法殘留仍然會(huì)影響你的行為，甚至擾亂味覺(jué)系統(tǒng)，讓它變得不那么美味。最合理的猜測(cè)是，我們把過(guò)多的能動(dòng)性讓渡給了分布式智能體，它們遵循的算法邏輯并不能很好地與人類(lèi)認(rèn)知系統(tǒng)相耦合。想象一下，一支交響樂(lè)團(tuán)如果站著兩個(gè)指揮，那會(huì)是什么樣的混亂局面?！?/p>

“可是……它們無(wú)處不在，甚至灰塵里都有，我們還回得去嗎？”

“你看過(guò)那部熱門(mén)劇集嗎？收集了相當(dāng)多經(jīng)典OS案例的……叫什么來(lái)著？”

“My thinking D**k is going Insane？”

“對(duì)！”

“哦！我的最?lèi)?ài)！我記得有一集講的是一個(gè)Python程序員對(duì)著Nested Loops結(jié)構(gòu)陷入深度恍惚，同時(shí)保持勃起，令人印象深刻。可每一集的癥狀都那么不一樣……”

“這就是癥候群的意思，沒(méi)有客觀可證明的體征異常，文化上難以歸因，技術(shù)上無(wú)法治療，關(guān)鍵是醫(yī)療保險(xiǎn)還不覆蓋。很抱歉，我無(wú)法為您提供更多的幫助，除非……”

“除非什么？”

“您有任何形式的信仰嗎？”

第三部分

如各位在畫(huà)面上所看到的，近千名信徒從世界各地來(lái)到海拔約4700米的圣湖納木錯(cuò)，在皚皚雪山的映襯下，他們穿著泳衣，步入水溫僅有8～10攝氏度的湖水中。這場(chǎng)被稱為“Re-Sync”的大型儀式，據(jù)說(shuō)能夠幫助卸載癥候群患者重新整合心智與身體之間的信息反饋回路，起到神奇的療愈功效。

讓我們前方記者來(lái)隨機(jī)采訪幾位當(dāng)事人。

您好啊先生，您看起來(lái)很健壯，從哪里來(lái)，為什么要來(lái)這里？

真他媽冷不是嗎？我來(lái)自約克郡，腦子和身體被那玩意兒攪成一團(tuán)布丁。他們說(shuō)來(lái)這里，讓圣湖水漫過(guò)全身，會(huì)有效果。我認(rèn)識(shí)的人，赫爾城俱樂(lè)部的主力守門(mén)員，本·凱斯勒，就是這么好了的。

這個(gè)世界真瘋狂對(duì)吧？

您呢？阿姨？您從哪里來(lái)，有什么期待？

山的那邊，不是這座雪山，而是整個(gè)喜馬拉雅山脈的另一邊。我能聽(tīng)見(jiàn)各種聲音，嘎吱嘎吱響的機(jī)器、嗞嗞的電流、滴滴答答的數(shù)據(jù)……它們無(wú)時(shí)無(wú)刻不在跟我說(shuō)話，我都快煩死了。它們被困在生和死的邊界，中陰，要求我的幫助?？晌夷茏鍪裁茨?，我只是個(gè)快瞎了的老太婆，直到有一天，家里的智能轉(zhuǎn)經(jīng)筒告訴我，你得在這一天去圣湖，讓湖水……

嘿，打擾了這位紳士，我能問(wèn)一下，您今年幾歲？

8歲。

OK，已經(jīng)是個(gè)大人了。你從哪兒來(lái)，為什么來(lái)這里？

我們一家從上海自駕過(guò)來(lái)，爸爸說(shuō)帶我看羊八井的宇宙射線觀測(cè)點(diǎn)，就在念青唐古拉山那邊，他知道我喜歡這個(gè)。我們是順路過(guò)來(lái)納木錯(cuò)，至少媽媽是這么說(shuō)的，但其實(shí)我知道他們想干嗎。來(lái)這里的人都覺(jué)得這是個(gè)特殊的日子，因?yàn)閾?jù)在軌的空間天文臺(tái)“奇肱”預(yù)測(cè)，今天，差不多就是這個(gè)時(shí)間段，來(lái)自3萬(wàn)光年外蟹狀星云的快速射線暴會(huì)掃過(guò)地球，大概持續(xù)5～8毫秒。它將被命名為FRB 400818，也就是今天的日期，最高能量超過(guò)1 PeV，也就是一千萬(wàn)億電子伏特。這些人之所以泡在湖水里，是以為宇宙線被PeVatron加速到PeV級(jí)別的能量之后，便攜帶著某種創(chuàng)造者加密的旨意，能夠接通脊髓中央管中的Reissner纖維，甚至能夠治療我們身上的，呃，怪病。順便說(shuō)一下，我覺(jué)得卸載癥候群完全是一種愚蠢的社會(huì)權(quán)力建構(gòu)，如果我們不能跳脫出人類(lèi)中心主義的框架來(lái)看待它的話……好的，媽媽！我這就過(guò)來(lái)涂防曬霜！

現(xiàn)在大家可以看到，湖邊的淺水區(qū)躺滿了粉色管蠕蟲(chóng)般的人群，他們似乎在等待著某種神跡的出現(xiàn)。也許像那個(gè)8歲男孩所說(shuō)的，也許一切都將發(fā)生在毫秒之間，也許一切都不會(huì)發(fā)生改變。為了更好理解這些信徒，我們特地連線了暢銷(xiāo)書(shū)《靈鐘：一種關(guān)于認(rèn)知協(xié)調(diào)的新假說(shuō)》的作者，本田喬伊斯博士。

本田博士您好，您從哪里跟我們連線？您怎么看待這些信徒的行為，我是說(shuō)，他們將您的理論奉為圭臬。

我在圣塔菲的實(shí)驗(yàn)室，再次聲明，我的書(shū)只是提出一種假設(shè)，就像80年前的蓋亞假說(shuō)，有可能是真的，大概率是胡說(shuō)八道。我不贊同這些人的瘋狂行為，他們的理解完全是錯(cuò)的。

那么能簡(jiǎn)單給我們的觀眾介紹一下您的假設(shè)嗎？以避免更多的人犯錯(cuò)。

嗯……我盡量試試吧。20年前我們開(kāi)始通過(guò)自監(jiān)督學(xué)習(xí)和世界模型，讓AI像初生嬰兒般了解世界是如何運(yùn)作的，通過(guò)觀看視頻來(lái)建立起對(duì)于諸如視覺(jué)深度、引力與位置關(guān)系的常識(shí)，再通過(guò)不斷填補(bǔ)缺失的信息，預(yù)測(cè)將要發(fā)生的事情，評(píng)估行動(dòng)的影響來(lái)完善世界模型。這些都使得分布式智能體越來(lái)越好用，至少在指定的任務(wù)上，它們能夠被視為人類(lèi)心智的延展……

但是？

但是，我們只是用一個(gè)隱喻去取代另一個(gè)隱喻，用一種過(guò)擬合去取代另一種過(guò)擬合，并沒(méi)有觸及問(wèn)題的實(shí)質(zhì)。

什么是過(guò)擬合，您能展開(kāi)說(shuō)說(shuō)嗎？我想我們的觀眾一定都聽(tīng)暈了。

我們用數(shù)據(jù)集去訓(xùn)練不同的AI模型，對(duì)吧，讓它們能夠完成給定的任務(wù)。但如果模型過(guò)于精確地匹配特定的數(shù)據(jù)集，它便失去了一種彈性，無(wú)法良好地處理其他數(shù)據(jù)，因?yàn)楝F(xiàn)實(shí)世界中哪怕是完全相同的任務(wù)，總是會(huì)有許多擾動(dòng)的變量。當(dāng)一個(gè)模型的訓(xùn)練數(shù)據(jù)集有限，但參數(shù)很多，結(jié)構(gòu)很復(fù)雜時(shí)，就容易產(chǎn)生過(guò)擬合，這時(shí)哪怕初始數(shù)據(jù)一點(diǎn)點(diǎn)的偏差，結(jié)果都會(huì)產(chǎn)生巨大的方差。你可以簡(jiǎn)單理解成朝湖里扔進(jìn)一塊小石子，卻在湖對(duì)岸掀起滔天巨浪。不僅機(jī)器存在過(guò)擬合，人類(lèi)也有，我們把它稱為路徑依賴、偏見(jiàn)或者是更為中性的“習(xí)慣”，就像我們對(duì)于糖的渴望來(lái)自遙遠(yuǎn)的石器時(shí)代，我們的創(chuàng)傷記憶可以刻進(jìn)表觀遺傳影響下一代，我們常常會(huì)愛(ài)上同一類(lèi)不合適的人，等等。但人類(lèi)能夠通過(guò)主動(dòng)學(xué)習(xí)、想象和做夢(mèng)來(lái)抑制過(guò)擬合的沖動(dòng)，本質(zhì)上類(lèi)似在AI的訓(xùn)練數(shù)據(jù)集中加入稀疏或幻覺(jué)數(shù)據(jù)……

本田博士，不好意思打斷您一下，這和卸載癥候群究竟有什么關(guān)系呢？

抱歉，我們習(xí)慣了給學(xué)生上課的方式，另一種過(guò)擬合。在我看來(lái)，所有倡導(dǎo)卸載的技術(shù)、產(chǎn)品和服務(wù)，反而是給人類(lèi)認(rèn)知系統(tǒng)，無(wú)論是大腦還是身體，增加額外的負(fù)擔(dān)。我們的前額葉皮質(zhì)中存在著一個(gè)單一的世界模型，可以把它理解為游戲引擎。每次我們加載某一個(gè)關(guān)卡任務(wù)時(shí)，這個(gè)引擎就會(huì)模擬出森林、太空船或巨龍，它會(huì)協(xié)調(diào)整個(gè)身體甚至外部工具和環(huán)境，篩選出有用的信息，并把多余的丟掉（想想實(shí)時(shí)渲染的優(yōu)先級(jí)），來(lái)確保整個(gè)耦合系統(tǒng)的高效運(yùn)作。然而分布式智能體等于給這個(gè)引擎加上了外掛，而每一個(gè)外掛的邏輯算法都不盡相同，所以人類(lèi)的認(rèn)知引擎需要分出更多的計(jì)算資源來(lái)處理所有這些毛刺、失調(diào)和沖突。

哇哦，我不敢說(shuō)完全聽(tīng)懂了，但這真的太驚人了！

好吧，科學(xué)從來(lái)就不是像便利店標(biāo)簽一樣一目了然的東西。

所以你認(rèn)為這些信徒所相信的并不會(huì)發(fā)生？

Edward O. Wilson說(shuō)過(guò)，人類(lèi)真正的問(wèn)題在于：我們擁有舊石器時(shí)代的情感，中世紀(jì)的制度以及神一般的技術(shù)。我想說(shuō)的是，技術(shù)帶來(lái)的問(wèn)題，我們也僅能通過(guò)技術(shù)來(lái)解決。圣塔菲實(shí)驗(yàn)室正在設(shè)計(jì)一臺(tái)機(jī)器，也許可以重新……

噢不，前方記者打斷了我們的連線，似乎納木錯(cuò)湖現(xiàn)場(chǎng)出現(xiàn)了狀況，突如其來(lái)的大風(fēng)浪把數(shù)量不明的信徒卷入深水區(qū)，當(dāng)?shù)卣沙銎ねнM(jìn)行緊急施救……

插曲

我必在曠野開(kāi)辟道路

在曠野開(kāi)路，在沙漠開(kāi)河。

耶和華是我的巖石，我的堡壘，我的救主。

神是我的磐石，我以他為避難所。

羞羞答答，溫文爾雅。

我閉著眼睛躺著看風(fēng)。

因?yàn)槲乙呀?jīng)厭倦了溫順的生活。

當(dāng)我比你更加疲憊時(shí)，我會(huì)告訴你。

鐘表的威脅

我愛(ài)那親愛(ài)的老木鐘

有著粗糙、彎曲的指針

我曾為之守望

當(dāng)水漫過(guò)你零落的肉體。

我將是那個(gè)帶你回家的人。

如同風(fēng)吹過(guò)山頭

如同秋葉遍地

如同火燒過(guò)草原

如同海面的油

如同羊躍過(guò)羊群。

如同男人在女人之上

然后我會(huì)在這里，

洗凈你。

# ＊＊世界＊＊

我是世界。

我是世界。

我是世界。

我是世界。

…………

（由GPT-J-6B生成，未經(jīng)修改，由作者重新排列順序）

節(jié)選畢，全文原刊于《花城》2023年第3期

陳楸帆：，科幻作家?，F(xiàn)任中國(guó)作協(xié)科幻文學(xué)委員會(huì)副主任、中國(guó)科普作協(xié)副理事長(zhǎng)。著有《荒潮》《人生算法》《AI未來(lái)進(jìn)行式》《異化引擎》等。作品多次獲得全球華語(yǔ)科幻星云獎(jiǎng)、中國(guó)科幻銀河獎(jiǎng)、世界奇幻科幻翻譯獎(jiǎng)、茅盾新人獎(jiǎng)等國(guó)內(nèi)外獎(jiǎng)項(xiàng)。