翻譯/乂文

　　生命未來研究所的一封要求對人工智能開發進行為期六個月的預防性暫停的公開信已經得到了包括埃隆·馬斯克在內的數千位名人的簽名。簽名者擔心，人工智能的開發者們正在“陷入一場失控的競賽”，開發和部署越來越強大的系統以至于沒有人，包括開發者們自己，能夠理解、預測或控制它們。

　　是什么導致了某些精英階層爆發恐慌？控制和管理明顯是問題的核心，但誰來當監管者呢？在提議的半年暫停期間，當人類能夠進行風險評估時，誰又來代表全人類呢？既然中國、印度和俄羅斯的人工智能團體會繼續他們的工作（也許是私下進行），那么關于這一問題的全球性公開辯論顯然是不可能的。

　　不過，我們仍然應該討論一下其中的利害關系。歷史學家尤瓦爾·赫拉利（Yuval Harari）在他2015年出版的著作《未來簡史》（Homo Deus）中預測，人工智能最有可能帶來的結果是人類社會的徹底分裂，這一分裂將遠比階級分化更嚴重。不久以后，生物科技與計算機算法將協力合作制造出“身體、大腦和思想”，從而導致“知道如何設計身體與大腦的人”與“不知道的人”之間的差距不斷擴大。換言之，“那些搭上進步列車的人將獲得創造與毀滅的神力，而那些未能上車的人將面臨滅頂之災。”

　　公開信所反映的恐慌源自這樣的一種擔憂：即使是那些“進步之車”上的人也有可能無法駕馭列車本身。我們當前的電子封建主們嚇壞了。然而，他們想要的不是公開辯論，而是政府和科技企業能夠達成協議以將權力牢牢把握在自己手中。

　　人工智能能力的大規模擴張對當權者構成了嚴重威脅——包括那些開發、擁有和控制人工智能的人。它預示著我們所熟知的資本主義范式的終結，呈現出了一套自我繁殖的人工智能系統的前景，它將越來越少地需要接受來自人類代理人的輸入（算法交易活動只不過是朝著這個方向邁出的第一步）。而我們只能在下列二者中選擇其一：一種新型的共產主義或無法控制的混亂。

　　新型的聊天機器人會為許多孤獨的（或者沒那么孤獨的）人們提供無數個充斥著關于電影、書籍、烹飪或政治的友好對話的夜晚。套用我自己的一個舊的比喻，人們得到的將會是人工智能版本的無咖啡因咖啡或無糖汽水：一個沒有任何秘密的友鄰，一個完全為滿足你需求而存在的他者。這里存在著一種戀物式的否定結構：“我非常清楚我不是在和真人說話，但這感覺就像是（和真人說話），并且沒有任何（和真人說話所）附帶的風險！”

　　無論如何，仔細研究這封公開信就會發現，這是又一次試圖阻止一件無法阻止之事的嘗試。這是一種老的悖論：作為（舊）人類而言，我們無法參與到后人類時代的實踐中去，因此我們必須禁止其發展。為了使我們就這些技術明確方向，我們應該重提列寧的經典問題：誰擁有做什么的自由？在何種意義下我們曾是自由的？難道我們實際上遭受的支配不是比我們所意識到的多得多嗎？與其抱怨我們的自由與尊嚴在未來會受到威脅，也許我們首先應該考察自由在今天的含義。除非我們這么做，否則我們只會像癔癥患者一樣行事，在法國精神分析家雅克·拉康看來，其（癔癥患者）急于尋求一位主人，但前提是這位主人在我們的支配之下。

　　未來學家雷·庫茲韋爾（Ray Kurzweil）預測，由于科技進步指數級增長的特點，我們很快就會面對“靈性”機器，其不僅能夠表現出自我意識的各種跡象，而且還擁有遠超于人類的智慧。但是，我們不應該把這種“后人類”立場同現代人對實現科技對自然的全面統治的典型關注混為一談。相反，我們正在見證的是這一過程的辯證顛倒。

　　今天的“后人類”科學不再是為了統治，他們把“驚喜”作為信條：“黑盒”人工智能模型會為自身謀取何種偶然的、意料之外的新奇特質？沒人知道，而這正是整個事業的快感，或者說是平庸所在。

　　因此，在本世紀早些時候，法國哲學家兼工程師讓-皮埃爾·迪皮伊（Jean-Pierre Dupuy）在新的機器人技術、遺傳學、納米技術、人工生命和人工智能中發現了一種對科技所帶來的傳統人類中心主義傲慢的奇異反轉：

　　“我們該如何解釋科學成為了一項如此危險的活動，以至于，根據一些頂尖科學家的說法，科學如今構成了對人類生存的主要威脅？一些哲學家對此的回應則是，笛卡爾關于‘成為自然的主宰與所有者’的夢想已經過時了，而我們應該迫切地回到‘統治的統治’上去。他們什么都不懂，他們沒有看到通過所有學科的“融合”，科技正在以我們的視角進行自我剖析，而其目標恰恰正是非統治性的。未來的工程師不會因為自己的疏忽或無知而被迫成為法師學徒，而是完全取決于個人選擇。”

　　人類正在創造自己的上帝或魔鬼。盡管結果無法預測，但是有一件事是肯定的。如果“后人類”事物作為一種集體性事實產生，那么我們的世界觀將全部失去三項典型的、重疊的主題：人類、自然和神性。我們的人類身份只能建立在牢靠的自然背景之上，但如果生活變成了某種可以完全被技術所操縱的事物，那么它就會失去其“自然的”屬性。一種完全受控的存在沒有任何意義，更不用說偶然性與驚奇了。

　　當然，任何神圣感也是如此。人類對“神”的體驗只有從人類有限和可朽的立場出發才有意義。一旦我們實現“人神合一”（homo deus）并且創造出在舊人類立場看來似乎是“超自然”的特性，我們所熟知的“眾神”將會消失。問題是，如果還有（關于神的觀念）存在的話，那新神會是誰？我們會崇拜自己創造的人工智能嗎？

　　我們完全有理由擔心，科技諾斯底主義版的后人類世界是一種遮蓋了我們生活中的深淵的意識形態幻想。毋庸置疑，要確保人類不會在不遙遠的未來變得無足輕重，他們的生活也不會變得毫無意義，這需要的不僅僅是六個月的停頓。

× 烏有之鄉 WYZXWK.COM

您的打賞將用于網站日常運行與維護。
幫助我們辦好網站，宣傳紅色文化！

歡迎掃描下方二維碼，訂閱烏有之鄉網刊微信公眾號