原標(biāo)題：伊恩·麥克尤恩對人工智能提出了第一個難題，“請回答1982......”

2018年11月伊恩·麥克尤恩在上海

近年來，除了文學(xué)領(lǐng)域，作家麥克尤恩越發(fā)熱衷于社會熱點話題的關(guān)注和討論，例如在英國“脫歐”、人工智能技術(shù)的發(fā)展等方面。麥克尤恩長期以來毫不吝嗇對當(dāng)下社會給出自己的尖銳批評——2019年9月他發(fā)表了一部寓言性質(zhì)的小說《蟑螂》。在同一年，他經(jīng)過長期對人工智能領(lǐng)域的探索和研究，推出了一部帶有鮮明麥?zhǔn)蠘?biāo)簽、兼具濃厚科幻色彩——“一部真正思考人類未來困境”的小說。在新作《我這樣的機(jī)器》里，他嘗試回答了本人對未來人工智能的看法和期待。

小說中，麥克尤恩塑造了一個1982年平行宇宙中的倫敦，那里擁有我們很熟悉的過往，也有高度發(fā)達(dá)的人工智能。為什么要塑造這樣一個世界？在上海書展的中文版首發(fā)活動上，作家小白，人工智能專家張崢與作家、出版家黃昱寧對這個問題表達(dá)了自己的看法，小白認(rèn)為這更像是麥克尤恩帶有自傳體性質(zhì)的一個小說，“這部小說帶有他對自己的反思，對人類社會的反思，通過一個機(jī)器人的故事影射他的這一段看法”。張崢進(jìn)一步認(rèn)為，在“機(jī)器化”的麥克尤恩身后，想要表達(dá)是一個群體的自傳，作家將科技和人類之間的沖撞，對未來的交織、憧憬都含在里面。

許多人或許忘記了，1982年，也是AI人工智能這個詞在全球搜索比較頻繁的一個熱詞。帶著這個線索，以下進(jìn)入作家小白對《我這樣的機(jī)器》的導(dǎo)讀和章節(jié)選讀。

導(dǎo) 讀

文/小白

我們猜想起來，麥克尤恩讓故事發(fā)生在1982年，更可能是出于——作為一個小說家，對有關(guān)機(jī)器人的大眾敘事歷史和觀念變遷的關(guān)注。有一個歷史統(tǒng)計數(shù)據(jù)，到1981年，日本汽車裝配生產(chǎn)線上已使用了6000多個機(jī)器人，同一時間英國只有370臺工程機(jī)器人。英國首相撒切爾夫人于是大力鼓吹廣泛使用機(jī)器人作業(yè)，此舉或許也是首相對各地不斷出現(xiàn)罷工浪潮的冷酷回應(yīng)。當(dāng)時英國失業(yè)率常年徘徊在10%，撒切爾推廣機(jī)器人的言論得罪了工人大眾。本來憎恨機(jī)器的盧德派在英國就有久遠(yuǎn)歷史淵源，政府和工人們兩相激發(fā)，機(jī)器人成了那個年代英國人最熱門的話題。

事實上，如果你在Google Ngram Viewer上檢索“Robot”（機(jī)器人）和“AI”（人工智能），就會看到這兩個詞在80年代初異軍突起，在整個80年代形成一個高峰，到90年代反而漸漸下落。事實上，最令人難忘的機(jī)器人電影就是此刻拍攝的——1984年上映的《終結(jié)者》。顯然，智能仿真機(jī)器人是那個時代極其廣泛的大眾話題。那時候，麥克尤恩剛搬家到倫敦沒幾年，出版了幾本小說，開始創(chuàng)作劇本，與同道友好交往，參加午餐會討論熱門話題，也許這個有關(guān)“比人更聰明的人造人”的想法，在這個30歲出頭年輕作家（正是小說中查理的年紀(jì)）的內(nèi)心，一度掀起過極大波瀾。

年輕時的麥克尤恩

Robot這個詞，來自捷克作家卡雷爾·恰佩克（Karel ?apek）一部戲劇，《羅素姆的萬能機(jī)器人》，作者在劇中借用了捷克語“Robota”（勞工），變造了機(jī)器人一詞。這部戲于1922年在紐約上演時，適逢大蕭條，戲劇故事迎合了自動機(jī)器會加劇工人失業(yè)的恐慌心理。機(jī)器人話題的每一次真正熱門，都跟失業(yè)潮、跟擔(dān)心機(jī)器人在所有工作崗位上取代人類有關(guān)。

但麥克尤恩并不為此擔(dān)心。在這部小說中，每個人物都欣然接受亞當(dāng)?shù)拇鷦凇膹N房清洗到檢索政府檔案卷宗——亞當(dāng)?shù)拇竽X可以直接接入網(wǎng)絡(luò)，密碼也擋不住它。亞當(dāng)開始熱衷于文學(xué)創(chuàng)作，雖然只是最簡單的日本俳句。但文學(xué)，那不是人類智慧樹最高處結(jié)出的果實么？沒人當(dāng)回事。對于亞當(dāng)給生活帶來的種種改善，男主角查理心安理得地享受著。亞當(dāng)甚至幫他操盤做投資，它是真正的超級智能，不是如今投行們使用的那些高頻交易算法。盈利是毫無疑問的，就像從自己口袋拿錢。

一旦機(jī)器產(chǎn)生自我意識，就會遭遇到奧莫亨德羅（Steve Omohundro）的難題：自我意識意味著自我保護(hù)，機(jī)器會認(rèn)識到首先必須存在，才能達(dá)成圍繞著自我意識的所有其它目標(biāo)。超級智能機(jī)器會設(shè)法讓開關(guān)失效。當(dāng)查理再一次試圖伸手關(guān)掉它的電源，亞當(dāng)阻止了他，而且把他的腕骨捏碎了。亞當(dāng)堅定地奪回/取消了開關(guān)控制權(quán)。不過當(dāng)查理把這件嚴(yán)重事故告訴小說中的“圖靈”，也就是亞當(dāng)和夏娃們真正的設(shè)計者時，圖靈并沒有震驚，不過是一個“值得關(guān)注的”情況。圖靈告訴查理，據(jù)他所知，那批測試版機(jī)器人中，已有十一位設(shè)法取消了開關(guān)。這不奇怪，歷史上那位真正的圖靈對此反復(fù)思考過了。早在1951年，他就在BBC三臺談話節(jié)目中提到此類事情。他在那做了一個演講，題目叫《機(jī)器能思考么？》（Can Digital Computers Think？）。其中說到，就算人類把開關(guān)控制在手中，必要時關(guān)掉它，對人類來說，這也夠恥辱的了（We should,as a species,feel great humbled）。圖靈雖然有點憂慮，顯然不贊成靠開關(guān)維持優(yōu)勢。

麥克尤恩設(shè)想了一種道德至上的智能機(jī)器。在它們復(fù)雜的計算決策“黑盒”底層，必定預(yù)置了一些最高級道德命令，以防發(fā)生難以控制的不測事件。因為按照牛津大學(xué)哲學(xué)家尼克（Nick Bostrom）的預(yù)想，即便是一個善意的機(jī)器人，按照人類命令行事，它也會把世界上的一切都變造成回形針，因為智能機(jī)器人在完成任務(wù)方面是一個徹底的完美主義者。但亞當(dāng)卻沒有為查理賺回世界上所有的錢，顯然它在決策中綜合考慮了互不相容的幾種人類偏好。比如說，也要兼顧安全感，過量財富顯然會帶來身心兩方面的危險。尤其是道德?lián)p害。

道德規(guī)則本身就包含了無數(shù)種偏好。比如小說故事就涉及到：是“復(fù)仇正義”要緊呢？或者是“不能欺騙他人”更重要呢？這才是麥克尤恩真正感興趣的問題。工程師給亞當(dāng)們內(nèi)置了所有人類道德規(guī)則，但那些遠(yuǎn)不是經(jīng)由自我審視、選擇而來的道德感。出廠設(shè)定代表了人類所有最美好的期望，可就算是人類自己，也沒有一個能做到。因為那些規(guī)則條款，根本經(jīng)不起社會人群的人際摩擦。就像麥克尤恩小說中幾乎所有人物一樣，天性良善，卻讓一些細(xì)微的摩擦沖突愈演愈烈，直至不可收拾。

章節(jié)選讀

我是樂觀派陣營中的一員，運氣不錯，母親去世、祖?zhèn)鞣课莩鍪壑?，我得到了意外的收入，那房屋恰好位于一個價值可觀的開發(fā)地段。就在?？颂m群島特別行動隊動身去執(zhí)行那無望的任務(wù)之前一個星期，第一個真正可用的、由工廠生產(chǎn)出來的人類，在市場上發(fā)售，智力和長相都過得去，肢體動作和面部表情的變化也真實可信。亞當(dāng)售價8.6萬美元。我租了一輛小貨車，將他運到我位于北克拉帕姆那套令人生厭的公寓里。我這個決定做得草率，但聽說戰(zhàn)爭英雄、引領(lǐng)數(shù)字時代的天才艾倫·圖靈爵士也買了同款，我便受到了鼓舞。他很可能打算讓實驗室把機(jī)器人拆開吧，好好研究一下其內(nèi)部構(gòu)造。

科幻劇《真實的人類》劇照

亞當(dāng)?shù)碾姵卦诔潆姡医o我們倆倒了咖啡，然后翻看長達(dá)470頁的在線產(chǎn)品手冊。語言總體上還是清晰準(zhǔn)確的。但是，亞當(dāng)?shù)闹圃鞝可婧芏嗖煌牡攸c和部門，所以手冊讀起來有廢話詩那樣的趣味?！罢谧347K護(hù)罩上部，可使主板輸出獲取快樂情緒圖標(biāo)，減弱情緒波動半暗帶?！?/p>

最后，他坐在了我那小小的餐桌旁，腳邊散落著紙板和聚苯乙烯包裝材料，雙眼閉著，一條黑線從他肚臍上的入口處拖下來，連到墻上一個十三安培的插孔上。讓他啟動還需要十六小時。然后就是下載更新和設(shè)定個人偏好的環(huán)節(jié)。我現(xiàn)在就要他，米蘭達(dá)也是。我們倆像心情急切的年輕父母一樣，迫不及待地等著他說出第一句話。不是配備個音箱，直接安裝在他胸部。從熱情洋溢的廣告宣傳中，我們得知，他可以用氣息、舌頭、牙齒和上顎發(fā)出聲音。他的皮膚和真人相仿，摸上去已經(jīng)有暖意了，而且和孩子的皮膚一樣光滑。米蘭達(dá)說，她看到他的睫毛抖了一下。我敢肯定，她看到的是地鐵在我們腳下一百英尺處轟隆而過引起的震動，但我什么都沒說。

廣告上說，他可以陪伴，可以在智力活動上相互切磋，可以成為朋友，可以總攬家務(wù)，會洗碗、鋪床，會“思考”。存在的每個時刻，聽到、看到的每件事，他都記錄下來，都能夠從記憶中調(diào)取。目前他還不能開車，不許去游泳、洗澡或不打傘在雨天出門，也不能在沒人監(jiān)視的情況下操作電鋸。至于活動范圍呢，感謝蓄電技術(shù)的突破，他能在兩小時內(nèi)跑十七公里，中途無需充電，或者連續(xù)說話十二天，這兩者消耗的能量是一樣的。他有二十年的使用壽命。他身體健壯、肩膀?qū)捄?，皮膚是深色的，濃密的黑頭發(fā)向后梳著；臉部窄長，略微有點鷹鉤鼻，給人思路敏捷、智力逼人的感覺，上眼皮厚重沉郁，嘴唇緊閉，我們在一旁觀察的時候，他的嘴唇褪去了那死亡一般的黃白色，慢慢有了飽滿的、人的顏色，也許唇角還略微松弛了一點兒。米蘭達(dá)說他看起來像“博斯普魯斯海峽的碼頭工人”。

坐在我們面前的，就是那終極的玩物，多少世紀(jì)以來的夢想，是人本主義的勝利——或者宣告其死亡的天使。令人無比興奮，但也無比難受。十六個小時就這樣等著、看著，可不容易捱過去。我覺得，考慮到午飯后我交出去的那么多錢，亞當(dāng)這時候就該充好電，隨時可以起身走路了。這是個寒冷的黃昏。我烤了面包片，我們又添了咖啡。社會史專業(yè)博士生米蘭達(dá)說，她希望十幾歲的瑪麗·雪萊此時和我們在一起，全神貫注，不是觀察弗蘭肯斯坦造出來的那種怪物，而是觀察這位皮膚黝黑、長相英俊的年輕人如何慢慢活過來。我說，兩個東西有個共同點，都渴望電給予他們生命的力量。

......

亞當(dāng)以后會變成令人生厭的玩意兒嗎？花錢買東西之后的那種懊悔感不時襲來，我一邊要克服這種感覺，一邊還要口授郵件，這可不太容易。毫無疑問，其他有生命、有頭腦的，還會繼續(xù)出現(xiàn)，繼續(xù)令我們著迷。人造的人，會越來越接近我們，然后和我們一樣，最后超過我們，我們自然不會覺得他們無聊乏味。他們一定會出乎我們的意料，還可能以我們完全無法想象的某些方式，打破我們的預(yù)期。悲劇不是沒有可能，但無聊乏味是不可能的。

真正枯燥無味的，是還得去看用戶手冊。指南。我有個偏見：任何機(jī)器如果不能在運作中自行告訴你該怎么使用，那就不值得去買。我突然有了復(fù)古守舊的沖動，將整個手冊打印出來，然后又去找文件夾。在此過程中，我仍然一直在口授電子郵件。

我沒法把自己當(dāng)成亞當(dāng)?shù)摹笆褂谜摺?。之前我以為，任何關(guān)于他的事情，他自己都能教我。但是，我雙手捧著手冊，剛好在第十四章打開。這部分的英語表達(dá)很清晰：偏好；性格參數(shù)。接下來是一系列標(biāo)題——親和性。外向性。經(jīng)驗開放性。盡責(zé)性。情緒穩(wěn)定性。我熟悉這個清單。五大性格特質(zhì)模型。我接受過人文學(xué)科的教育，但并不相信這種統(tǒng)括式的概念，不過一位學(xué)心理學(xué)的朋友告訴過我，每個條目下面都分為很多小類。我掃了一眼下面一頁，發(fā)現(xiàn)我需要做出一系列選擇，都是從1到10當(dāng)中挑選一個。

此前我一直期待著一位朋友。我打算把亞當(dāng)當(dāng)作家里的客人，一開始不熟悉，但以后會慢慢了解。我以為他到我家的時候，就已經(jīng)進(jìn)行了最佳的配置。出廠設(shè)定——在當(dāng)前社會中，這就是命運的同義詞。我所有的家人朋友，出現(xiàn)在我生命中的時候，都已經(jīng)設(shè)定好了，基因和環(huán)境在他們身上留下了不可更改的痕跡。我希望我這位昂貴的新朋友也是這樣。這事干嘛丟給我來做呢？當(dāng)然，答案我也知道。我們當(dāng)中，擁有最佳配置的并不多。