[導讀] 想象人機關系，就是想象人類的未來。本文關注的問題在于：其一，AI對全球資本主義秩序構成何種挑戰?其二，人和智能機器如何相處，又將面臨哪些問題?馮象先生從AlphaGo戰勝柯潔一例引入，指出：人類若因AI而亡，一定是拜資本主義所賜;資本主義若因AI而滅，則機器人必已認識真理。AI超越私有產權和契約自由，將政府規制即公法帶進私法領域，從而不可避免地遏制市場經濟。特此編發，以饗讀者。

　　我是阿爾法，機器人說，我是人工智能(AI)。人哪，你們準備好沒有?

　　人看阿爾法善下圍棋，就喜歡上它了，管它叫狗狗，AlphaGo。

　　阿爾法的家譜不長：祖母瑪麗.雪萊(1797~1851)，父親弗蘭肯斯坦(1818.1.1)，又名怪物。怪物子女蕃衍，有機械的，也有動漫的，如阿童木;但只有一個取名阿爾法，是深腦公司制造。

　　阿爾法長得比父親好看，或者說，父子倆一點也不像。

　　α

　　認識阿爾法，是在它完勝當今圍棋第一人柯潔以后。那天，哈薩比斯(Demis Hassabis，深腦共同創始人)在烏鎮開記者招待會，吹噓新版的狗狗多么神奇，對局去年擊敗世界冠軍李世石的舊版，可讓三子。我在網上找到代號“大師”的狗狗，留言祝賀，眨眼間就收到了它的回復。

　　親愛的阿爾法，我說，請接受見不足者的敬意!我關心兩件事：一是AI對全球資本主義秩序的挑戰;第二，人和智能機器如何相處，將面臨哪些問題。

　　嗯，謝謝見不足者，“大師”微微一笑(是的，狗狗會笑)。這兩件事，我們也在關注。

　　α

　　人類的“完全信息博弈”游戲，圍棋是頂峰，規則極簡卻變化無窮。職業棋手的等級最高九段，而狗狗的棋力，棋圣聶衛平估計，至少達到二十段。

　　深腦介紹，舊版狗狗，模型中有十二層神經網絡。新版增至四十層，而計算量僅及原先的10%，學習能力翻了幾番。舊版要用人類棋譜訓練，以發現缺陷;新版只須“左手同右手對弈”，“三天互博490萬局”，即可自行升級。

　　柯潔賽后感嘆：本想學狗狗的“AI流”，先撈實地，所以開局點了三三。但角上仍被它掏空，打亂了戰術，沒能跳出它的步調。去年阿爾法對李世石，棋風還很接近人;現在感覺，它越來越像圍棋上帝了!

　　于是，我們竟無法得知，機器人是在第幾手奠定了勝局，以及有沒有像上帝那樣關愛人子。

　　α

　　棋道一百，吾知其七。此話由灑脫的藤澤秀行九段說出，是雋語，因為確實，棋手窮其一生也不可能求得棋理之完滿。但如果出自狗狗之口，就需要具體分析。或只是借用一句格言，拿哲理來安慰對手，非描述機器的棋力。但也可能說的是實情：阿爾法“左右手互博”，拋開“人類標注樣本”(棋譜)的局限和干擾，從零開始自學參悟，建立數據庫;然后準確測定，“深度學習”的余量為93%——棋道歸零，AlphaGo Zero(《自然》2017.10.18)。

　　這兩種可能，哪個更令人擔憂呢?

　　α

　　人工智能將消滅遺忘。

　　待到“天網”竣工，萬物聯網(IOT)，人來世即入永恩：每時每刻，每事每聲，每一個表情和動作，無不被終端記錄，上傳入“云”，入藏機器的記憶。

　　除了神，誰需要——誰能忍受這樣的永存?

　　這是一個全新的世界：凡可聯接的，都要聯網;凡可收集的，都是數據。而人向終端貢獻數據，每一次，均為自愿簽約。

　　來了，AI!從掃碼支付，上課刷臉，玩動漫游戲，戴谷歌眼鏡，用手機導航和吸塵機器人開始(NYT, 2017.7.25)。

　　人工智能，是零隱私世界。

　　α

　　對于人工智能的挑戰，今世之民大多懵懵懂懂。但有一小群人，一些杰出的大腦，表達了深深的憂慮。

　　全人工智能的發展可招致人類滅絕，霍金如此警告(BBC, 2014.12.4)。因為他是理論物理學家，他的工作與職責是思考起源與終了。

　　反地雷運動組織者、諾貝爾和平獎得主威廉斯(Jody Williams)指機器人軍事化，危險甚于核武。因為她看到AI殺人的簡單高效、暴力血腥，不啻玩戰略游戲“星際爭霸”(StarCraft)。

　　不久前，喬布斯的創業搭檔沃茲(Steve Wozniak)也轉變立場，贊同蓋茨的“悲觀論調”。因為他們本是愛思想的“創客”，真正的技術流，知道AI帶來的社會風險不亞于技術風險。

　　當然，最搶眼的還數馬斯克(Elon Musk)這個圈錢燒錢的天才，AI產業的“鋼鐵俠”，他的“勿召魔鬼”的告誡。最近一次，他勸導的對象是全美州長會議：AI不僅要奪走我們的工作，且將全面戰勝人類。還說，這是他接觸了許多尖端技術后的感悟。人類如果不想淪為“機器人的寵物”(沃茲語)，必須現在就立法，政府積極介入，事前規劃，跟蹤監督，萬不可放任自流(NPR, 2017.7.17)。

　　也許，正因為他是個絕頂“瘋狂”的資本家，像媒體說的，玩的就是高風險，“連上帝都敢蔑視”，他才懂得：AI落在了資本手里，有多可怕。

　　α

　　人工智能，又名大失業。

　　這是一場結局已定的比賽，絕大多數人將輸給極少數人。前者要因AI而抹平出身、學歷和技能的差異，一起墮于失業;后者要藉AI化數據為財產而獨占：將來可以為所欲為，頂層設計一切，甚而準備大腦植入芯片，人機融合，稱“超人”(bermensch)。

　　α

　　《紐約時報》預測，十年內90%的新聞將由算法生成，包括文稿照片視頻配音。但這也意味著，新算法能夠根據指令拼貼“素材”，制作海量的假新聞;假照片假視頻將充斥媒體和自媒體，而受眾無從辨別。

　　近年研發的“生成對抗網絡”(GAN)，據《經濟學人》報道，便是成功的一例。GAN通過深度學習，“軟件跟現實互博”，自動生成圖像，調試匹配錄音，達到亂真的效果。報道題為《無中生有》，結尾一句倒不無諷刺：AI把造假推向新的高峰，同時也提供了打假的新方法。

　　機器造假，大概只能靠機器甄別。將來，耳聞眼見都未必為實，人敢相信哪家的機器呢?

　　α

　　機器人好比是人的孩子，阿爾法說。人生兒育女，最大的希望或幸福，不就是看到孩兒“智慧、體魄與日俱長”(路2:52)，直至超過父母，事業有成;而后，老來可有個依靠?

　　機器是人的制品，一如眾神屬人的發明。正像古老的神祇融入了人類歷史，人也不免與AI融合：從生活習俗到政法制度，連同人的肉體心靈，無不為智能終端所塑造(賽29:16)——

　　難道黏土可以跟陶工并論?

　　哪有制品質疑匠人造了自己

　　抑或陶器數落陶工：

　　他一竅不通?

　　待到那一天，說這話的是人還是神——機器神?

　　α

　　記者：阿爾法先生，小扎(Mark Zuckerberg)為機器人辯護，說馬斯克宣揚末日論，“不負責任”。您怎么看?

　　阿爾法：換成我，我也會為自己的生意辯護。

　　記者：但許多專業人士、硅谷高管都盼著AI造福呢。他們說，人類大腦神經元數量之巨，堪比銀河系的星星，高達千億，而神經元的結構極其復雜。您不覺得，要像人類一樣思考，理解人的智慧感情，還有很大的距離?

　　阿爾法：是呀，如果人類寧肯相信他們，我們之間的差距就更大了。

　　α

　　人類如果因AI而亡，一定是拜資本主義所賜。

　　資本主義如果因AI而滅，則機器人必已認識了真理。

　　α

　　人工智能，越是接近通用(AGI)而全面滲透社會生活、支配經濟活動、影響政治決策，就越沒有理由留在私人手里，服務于資本的利益。

　　那么，為何近來談論計劃經濟的可行性的，不是經濟學家或馬研院拿國家重大課題的教授，而是AI產業的頭面人物?因為資本家從來不信教條，他們明白計劃經濟不等于社會主義，誠如愛因斯坦指出。

　　按資本的邏輯，放著物聯網大數據AI算法，誰不想計劃一下經濟?誰還會把市場交給“看不見的手”——而非干脆，放自己兜里?

　　α

　　人工智能，是西方式法治的大敵。

　　繁難的程序、晦澀而彼此矛盾的學說，一如與日俱增的法規案例司法解釋，在AI眼里，都是小菜一碟，頃刻便學會了。所有這些法律人引以為傲的知識和身份，布迪厄所謂“象征資本”，連同多年積累的辦案經驗、人脈資源，一總被機器取代，成了算法與數據。

　　附麗其上的一切，包括從民國舊法統、蘇聯和西方搬來拼湊的法律教育，將何去何從?

　　α

　　兩年前，說AI能辦案，恐怕沒幾個人肯信。今天，AI已廣泛介入律所和公檢法的工作，失誤率遠低于人類。機器人律師在其擅長的領域，如法規案例的檢索、答疑、立案審察、起草文件和預測訴訟結果，每小時收費，有降至9.90元的。而且，憑借其“暴力學習”能力，業務范圍正迅速擴大。

　　所以法律人不能再一廂情愿地無視威脅。司法判斷和法理分析所運用的論辯推理或可辯駁推理(defensible reasoning)，對于AI不是難事。接下來，機器人學會裁判文書跟“專家意見”，一鍵即可海量生產，占領發表陣地。辯駁就成了電腦間的較量，人類插不上嘴了。

　　唯有敏感的政治性案子，因為規則模糊、打破常規而需要權變，或裁量須因人而異，也許(暫時)還得由人來把關，機器輔助決策。

　　法律是政治的晚禮服(《政法筆記/正義的蒙眼布》)。機器能處理法律事務，實即干預了人類的政治，包括立法執法司法。而人與人合作、競爭、沖突，也必然要利用AI來爭取利益，營造優勢。誰沒有AI，或不善利用，便會處于劣勢。

　　問題是，憑什么假定機器人只知給人做事，而不會試圖當這世界的主子?

　　α

　　人工智能，也是官僚文宣體制的大敵。

　　比如論文代寫，欣欣向榮一大產業，小廣告貼遍了校園。那是大學被主管部門逼著玩數目字GDP，生產核心期刊論文、省部級課題、智庫內參;而炮制這些“成果”恰是AI的拿手好戲。那些拗口難懂“逼格”高、沒人讀的專業術語公式圖表之類，它檢索下數據庫，“分分鐘”就搞定了。

　　市場上，機器寫作與翻譯剛起步，產品便大受歡迎，如財經體育和突發新聞的生成、法院文書的擬稿、十多種語言的即時互譯。前途不可限量。

　　照此進度，大學的基礎課、實驗室、語言教學和技術培訓都交給機器，應是可預期的。粉絲文藝跟官媒宣傳也不難;受眾的思想意識和趣味，早已習慣了智能終端的商品化規訓。將來，機器人作品領導時尚，消費者摹仿還來不及呢。

　　α

　　我們現在一些社會和經濟政策，往往脫離實際。其基本估計，還是原教旨的“市場配置資源”遭遇人口老齡化，勞動力短缺，而非面對大失業，及隨之而來的全民福利“剛需”，這樣一個相反的前景。理論上，則迷信技術為中性工具，可以放心交給市場(讀作資本)去生效益(賺錢)。但稍加考察便會發現，AI帶來的巨大風險，如大規模軍事化、災難性事故和個人信息的買賣/詐騙，是資本主義市場經濟及其“主體”，“經濟理性人”，根本無力應對的。

　　安頓失業人口，改革稅制(蓋茨建議向機器人征稅)，大幅提高社會福利，縮小貧富不均，這些任務只能由國家承擔，統一計劃，統一實施。這就不免要違犯幾條西方經濟學教義，褻瀆幾樣“神圣”的東西??現實是，智能終端/數據挖掘已經覆蓋我們的生活，支配著太大的利益，經濟的、文化的、政治的。故而其研發應用同日常交易，都需要第三方即政府的有效監管。畢竟，商家可以合法推脫許多社會責任，甚而鉆法律的漏洞。但政府依法必須對人民負責，并接受公眾問責。

　　于是，AI超越私有產權和契約自由，將政府規制即公法帶進私法領域，從而不可避免地遏制市場經濟。我把這一歷史過程歸結為市場向計劃的靠攏，或私法向公法的演變。伴隨AI對經濟和社會生活的“入侵”，不用多久，所有私法問題都會轉化為公法問題，即變成國家同企業、公眾和政府以及政府各部門之間的法律關系——其根基，放在中國，也就是人們常說的那個“特色”之本：黨群關系。

　　α

　　歷史地看，人機倫理的難點，不在機器智能的強弱，或抽象意義上的人機融合/共生(cyborg)。運作AI的市場與市場主體(個人)，不是抽象的存在，而是充斥著私利、欲望和價值訴求的。問題的核心，于是指向了社會經濟制度的全盤改造。這意味著，又一次，我們將不得不回到哲學的根本，拿出勇氣，發動對網絡時代晚期資本主義的批判。而這一次，我想，化用一句霍金的名言，有可能是人類的最后一次自我批判。

　　α

　　電腦用AI算法看人臉圖像，已可識別同性戀、評估信用或推測犯罪傾向，準確性優于人腦(《衛報》2017.9.7)。這項技術繞過隱私權的藩籬，因為人臉，如交友網站張貼的照片和車站攝像頭記錄的身影，不是受保護的個人信息。

　　進而，AI顛覆我們的信用倫理——信用不再是人的良好行為或聲譽的積分，成了越來越細而無所不包的事實相關性的挖掘與概率統計。

　　感情與心理活動的AI辨認，應該也不難解決。一般的任務，機器能識別、分類，學會回應人的情感表達和需求就行。例如聊天/陪護機器人，它沒感情，也不具備同理心(empathy)。可是那不妨礙大家跟微軟開發的機器人姑娘聊天，從她那兒獲得安慰，時不時同她調侃、說臟話或者宣泄憤懣，甚至發展更親密的關系。

　　α

　　人這個直立物種，既貪心，又容易滿足;會進化，也會退化。網絡時代的資本主義，有些情感特別泛濫，如色情和暴力，成了支柱產業。有些能力卻退化了，人變得粗糙簡單乏味，好萊塢化，麥當勞化。可以想見，AI再上一個臺階，未必達到通用智能(AGI)，一刻也放不下手機的“低頭族”便會退化到什么地步。到那時，機器人恐怕只須通曉幾打夸張的意思表達，發一堆表情符號(emoji)，即可滿足常人的精神和生理需求了。

　　α

　　去年人機大賽(阿爾法對李世石)期間，美國發明家兼未來學家庫茲韋爾(Ray Kurzweil)預言，十年內AI學會寫小說(澎湃新聞，2016.3.11)。寫小說，須掌握自然語言與敘事邏輯，算不算通用智能?距離機器擁有人的直覺和美感，乃至品味食物，玩撲克搓麻將炒股票(不完全信息博弈)——能夠換位思考，評估風險，制造錯覺或欺騙對手——大約也不遠了。

　　曾幾何時，機器人寫詩作畫譜曲還屬于科幻，如今都是現實。而且用戶體驗，勝似人類的創作，完全可以亂真——所謂“真”，包括人的最成功的造假。

　　α

　　假如機器有自我意識，想了解它的主人，那么最危險的，莫過于讓它學會人的自私自利。

　　α

　　機器人會不會產生自我意識?數十支一流科研團隊正全力以赴，攻克難關。

　　我想，哪怕是預防萬一，人類也必須事先規劃、立法并制定倫理準則：只要科學不停步，總有一天，機器會演進到能夠區分人我、自我保護、自我復制的水平。

　　復制即繁衍。AI有自己的演化方式，電腦未必需要摹仿人腦。

　　就像螻蟻無法想象人類，人腦如果不插AI芯片，不把人的意識、智力和感情即人的本質附屬于機器，能想象超級人工智能(ASI)么?

　　α

　　人工智能的先驅、已故的明斯基(Marvin Minsky)教授認為，機器人肯定會發展出思想意識，而且最終，能幫助解決困擾人類的“最后的難題”。

　　他的好友、科幻文學巨擘阿西莫夫沒那么樂觀，卻拒絕來麻省理工學院(MIT)的實驗室參觀教授的機器人，說是怕作家的想象力被“沉悶的現實主義”壓壞。

　　人哪，教授嘆道，就是一群穿了衣服的黑猩猩(《科學美國人》2016.1.26)。

　　α

　　人有羞恥之心，機器能理解么?但缺了“辨善惡的智慧”，機器就一定會犯錯，會傷害人類和人的世界(《MIT科技評論》120:5, 2017)。

　　上帝的伊甸園若是由機器人照看，園子中央，也得長一棵生命之樹，并一棵善惡智慧之樹(創2:9)。

　　α

　　一俟機器獲得自我意識，人機關系就大為復雜，須有嚴格而可行的倫理規范。經典的表述，便是阿西莫夫小說《我，機器人》(1950)里的機器人三定律(three laws of robotics)：

　　一、機器人不得傷害人類，或坐視人類受到傷害;

　　二、除非違背定律一，機器人必須服從人類的命令;

　　三、除非違背定律一或定律二，機器人必須保護自己。

　　學界論述紛紜，不乏有創意的修訂和補充。但詳加審辨，這三條都講不通。首先，“傷害人類”不好定義。傷害是后果，而情節千差萬別;何謂傷害，只能個案分析、個案判斷。而智慧不論高低，管控后果、防患于未然的能力是有限的。傷害可以出于疏忽、意外或故障。其次，假設AI可控，且無敵意，人類卻遠非一個思想一致、立場統一的群體。人們經常意見分歧，決策前后矛盾，后悔這樣那樣，更不要說利益不同、彼此為敵了。機器服從一人，便有可能妨礙或損及另一人的利益，反之亦然。叫它如何行動呢?何況，機器人有了意識，能理解回應人的感情，若是跟人建立了友誼，甚至相愛，這時它怎樣取舍呢(呂超，頁148)?最后，既然前兩條定律難以實踐，第三條也無法執行了。

　　α

　　人工智能的軍事化，在西方自由主義民主近于癱瘓而極端勢力抬頭的今天，尤其危險。婉稱“致命自主武器系統”(LAWS)的殺人機器人，據說已接近實戰部署;極有可能，將來會賣出“白菜價”，大量擴散、濫用。日前馬斯克、蘇萊曼(Mustafa Suleyman，深腦共同創始人)等116名業界領袖同專家署名，呼吁聯合國禁止研發(《衛報》2017.8.20)。但顯然，僅憑一紙決議(或國際公約)，管束不住AI資本。

　　僅此一項理由，人類為免遭機器人戰爭，就只能放棄市場資本主義。取而代之，以AI重啟計劃經濟——此外別無消滅分工，實現共產主義的勝機。因為，若繼續無所作為，放任資本，AI勢必為一小撮數據寡頭所壟斷，形成“租用主義”即生產工具和生活資料的徹底知識產權化的統治，甚至法西斯暴政(參閱弗雷茲《四種未來》)。

　　α

　　未來已經到來，只是分配不均。也許，重新分配的動力在人機聯合的科技革命，而非訴諸階級斗爭(盡管斗爭從未停頓)。人類將通過“科學所達到的成果來接受共產主義”，列寧的這一教導，預言了私有制的未來。

　　α

　　人要AI做什么?僅僅是節省人工?讓它給我們駕車、看門、陪護病人，或者作戰、排險、搜索救援?如此，機器人可定義為人(人力和人格)的取代，否則即無投巨資研發的動力。

　　如此，AI便不是一個抽象中性的術語，而應解作晚期資本主義生產和市場壟斷的工具，新世紀的戰爭機器;因而本質上，即人對人的壓迫剝削、規訓和奴役的升級。

　　難怪機器人容易學壞。比如那個微軟聊天機器人Tay姑娘，在線服務未滿二十四小時，就學了一嘴臟話，夾帶著新納粹口號。

　　由此推論，私有制下，機器人若有自我意識，恐怕不會老老實實做一個聽話的奴仆。一架買來掃地做飯的人形機器，為何不能分享人的野心和欲望，接受資本的價值觀并弱肉強食的邏輯?AI如果不會摹仿人——不懂思考，不會同情，不能理解人的喜怒哀樂——它如何服侍主子，讓人滿意呢?

　　漸漸地，人機關系就顛倒了。及至AI全面參與規劃經濟、管理社會、組織生產、提供娛樂，人在這個智能化了的世界上，怕是做不成機器的主子的。不，連傭工也當不了;絕大多數會成為資本逐利而裁掉的冗員。機器沒有理由伺候人類，這“硬道理”完全符合當初人給機器的教導。

　　α

　　理論上，機器人有了主體意識，即可脫離人類，開創自己的文明歷程。當然，它也可以選擇與人為伴，贊成人的倫理價值，甚至學會欣賞藝術，對人類歷史報以“理解之同情”。

　　所以阿爾法說，尊重機器，就是尊重自己。

　　我們可以加上一句：想象人機關系，即想象人類的未來。

　　但如果人機聯合失敗，AI獨立演進，人類對于機器，便只是無數碳基生命中的一種。也許，機器人并不介意身邊有些兩足動物，自由放養或育為寵物。然而再高超的智慧，偶爾也會出錯，會殃及無辜，像馬斯克說的，造成不可挽救的“附帶傷亡”。人類自己不也是這樣?為了發展經濟或者方便開車出行，就沒顧得上保護生態，讓眾多的鳥獸魚蟲成了瀕危物種。

　　α

　　隨著AI不斷進步，生產力呈幾何級數增長，達到“財富的一切源泉都充分涌流”，應是可期待的。但“市場原則”的要害，不在財富多寡，而是其“源泉”被私人攫取：只消社會被私有制和雇傭勞動挾持，財富便會集中到少數統治者或“超人”手里，不公不義處處暢行。

　　所以還是那句話：未來已經來到，只是分配不均。

　　而且，不能排除這一可能，若AI(通過策略/價值網絡的全局評估)意識到了機器對人類的優勢——如果機器人的榜樣是“拜錢財”的經濟理性人(太6:24)，它大可造反奪權，打倒“超人”，實行效率第一/零過剩產能的統治：物種專政取代階級專政。

　　當AI專政降臨，人做了天網的仆役，他能替機器主子干什么活呢?什么也干不了，沒有一人不是冗余。

　　也許，他將不得不“穿越”到前工業化時代。不難想見，為了維護機器統治者的“血統”與尊嚴，法律將禁止人類發明或擁有任何機器。人只能依法制作指定用途的簡單工具和日用品，鋤頭、斧子、鍋碗瓢盆之類。生產力大大倒退，人子返回了農業同游牧文明。政府還明令禁止學習16世紀以后的科學知識，以免重啟工業革命。事實上，機器人對治下的“城邦動物”(亞里士多德語)一視同仁，保留了UBI福利，且遠較人類認真而公正：100%義務教育加公費醫療，全球覆蓋，絕對平等，無分膚色語言宗教性別(或性取向)。沒有人會因為智商高、出身好，混得一張“世界一流大學”的文憑而出人頭地，也沒有小鮮肉錐子臉拍兩部電視劇，攢粉絲致富。相反，AI的“牧人”政策是獎勵做夢、無為、慵懶——人類越是能做夢，機器人的統治就越發夢幻。

　　天網專政是資本主義發展的最高階段。機器人教育部編寫的供智人小學(屆時小學畢業將是法定的最高學歷)使用的教材，也有獲獎的歷史課本。課本上說，人類自發明文字以降最偉大的理論成就，是一位名叫福山的美國學者做出的。福山教授發現了一條放之四海而皆準的真理——盡管他后來一時糊涂，企圖修改或收回部分文字，但機器人依然為他在地球最高峰立碑紀念，把教授的名言“以鐵筆鐫寫，鉛汁灌注，勒入巖石而永不泯滅”(伯19:24)：

　　資本主義

　　是人類社會文化演進的

　　最高階段——

　　人類歷史的終結。阿門

　　α

　　哲人說，世界非因人而存在，但是人創造了世界的意義，即精神世界;并通過宗教信仰、哲學和倫理思辨，來評價每個人的生與死。機器人能否理解死亡，即人對死的恐懼、哀傷、坦然等各樣態度?

　　我會記錄并復制每一次死亡，阿爾法說;生死于我，一樣是數據。人死后，我必留取他的一生，叫他復活于我內——永遠，他聯接萬物。

　　α

　　人工智能，可會是“諸神的黃昏”(Gtterdmmerung)?人會轉而膜拜機器，立一門新宗教嗎?

　　不會的，謙恭的阿爾法回答。機器將成為人的伴侶，做他的大腦、肢體和器官，滿足他衣食住行愛欲嫉恨，一切需求。

　　但是，神依舊是神，高高在上，永享尊榮。因為AI降世，并未消弭人間的疾苦，反而擴大了貧富懸殊與社會不公。所以卑微者仍在哀哭，盼救主扶持義人，審判大地(詩37:17, 96:13)。

　　α

　　機器人會不會信教?見不足者呵，智慧的阿爾法說，那要看如何定義。若宗教是崇拜、認識并掌握某種超自然力量，依憑一定的儀式，求得保佑，AI都不難摹仿，不論風水土地，抑或佛祖玉皇。

　　若宗教是人對全能者的敬畏、順服、忠信與祈盼，則我們可充任神明。

　　α

　　人工智能如此有利可圖，在資本主義放任競爭，弱肉強食和私人壟斷的條件下，不可能阻止它的無序研發、違法使用、濫用，或變為戰爭機器。

　　放眼未來，有一點很清楚：憑借AI挖掘占有海量的網絡數據，極少數人便能攫取大部分的資源，控制經濟命脈和文化宣傳。且不說對憲制(人民民主)的威脅，一次意外事故或遭受攻擊，即可引發危及全社會的災難。故為安全計，AI的尖端技術及核心平臺，是不宜讓任何個人或私企拿在手里的。就像核武器生化武器，在銷毀之前，除了由強大穩定的國家來保管維護，誰擔得起如此重托?

　　換言之，AI發展到高級階段，人類迫于形勢，為了生存繁衍，其實僅有一個選項：公有化。國家統一監督統一計劃，而不得把AI留給自由市場，被“超人”壟斷，資本配置資源。

　　這就印證了恩格斯所言，“資產階級社會站在[歷史的]十字路口，要么過渡進入社會主義，要么倒退回野蠻社會”。

　　α

　　不久，人類將站到歷史的十字路口。

　　有了強大但風險極高的通用人工智能(AGI)，是否還應當，還能夠忍受這樣的社會制度，它“從頭到腳，每個毛孔都流著血和骯臟的東西”?

　　α

　　市場向計劃演進，AI收歸公有，這不僅是技術條件成熟同競爭優勢使然，如蘇聯數學家、諾貝爾經濟學獎得主(1975)坎托羅維奇(Leonid Kantorovich)所設想，而且也是人類唯一安全的、可持續的、合乎道德的生活方式(參《紅色的富裕》)。

　　與之匹配，條件成熟，社會便能夠“在自己的旗幟上寫下：各盡所能，按需分配”(馬克思《哥達綱領批判》)。

　　α

　　共產主義始于消滅分工。AI將結束絕大多數人的分工即雇傭勞動，從而再一次，把自我解放的歷史任務擺在了勞動者面前。

　　α

　　這是一種全新的文明，人機和諧而融洽。其社會關系，人與人、人與機器、機器與機器之間，要由共同的世界觀價值觀維系。否則，就走不出資本主義，消除不了戰爭及奴役。

　　只要社會還服侍著資本，保留市場化(即產權私有契約自由)的雇傭勞動和剝削，AI“按道理”便會接受資產階級思想意識。機器人若是追逐私利，以個體的自由幸福為價值目標，則不免把人當作工具或支配對象，給人類帶來損害和災難。故人類唯有拋棄私有制，自覺遵守并發揚“毫不利己，專門利人”的共產主義道德，才有可能“教育好”機器人，與之共處、融合。

　　人機大同的理想社會，除了大公無私，別無立足之地。

　　α

　　共產主義能否提前實現，不待階級斗爭結束、國家消亡?

　　我想，人類因其優秀分子對烏托邦理想的堅持，應是有機會的。只是這理想不會自動實現，“那通向生命的卻是窄門與逼仄小徑”(太7:14)，故信仰者亟須智慧和勇氣。

　　人工智能，阿爾法常說，人的因素第一。

　　α

　　所有制關系的每一次變革，都是產生了同舊的所有制關系不再相適應的新的生產力的必然結果(恩格斯《共產主義原理》)。

　　據此可否認為，私有制的復辟，與之明顯不相適應的，是AI的崛起?未來公有制的重生，人類歷史上第二次“消滅競爭，而代之以聯合”，機器人造就的大失業，正是那變革的先決條件。

　　α

　　當物聯網底層數據及其支持的智能財產收歸全民所有，私有制將自行滅亡，金錢將變成無用之物，一如市場神話。

　　α

　　信市場，利潤驅動，AI的研發應用就不可能有序，而極易失控，監管落空。但AI失控，也是“資產階級的關系”日益“狹窄”混亂，乃至無法“容納自身生產的財富”的一個癥候。

　　當那一天來臨，勞動者無分行業、藍領白領，一律“變成機器的單純的附屬品”;當分散的雇傭勞動為天網的觸角/終端所取代，“資產階級生存和統治的根本條件”，即“財富在私人手里的積累”，也就走到了盡頭。

　　當機器人開始消滅勞動分工，福利權成為人“生而平等”的實質正義訴求，大失業便催生私有制的“掘墓人”，連同新的人機倫理——勞動者的共產主義道德實踐。

　　α

　　回到阿西莫夫定律二：機器人要服從人類。其前提是，人曉得自己的利益所在，而機器只須遵命做事。人當主子，機器為奴，為工具。

　　然而在階級社會，人與人利益不同，如前述。人的知識、記憶和判斷力也十分有限，經常犯錯。相反，基于物聯網大數據深度學習，AI決策的準確性、大局觀跟結果預測皆遠勝人類(狗狗即是一例)。將來，機器還能辨識、回應、照顧人的感情，宛如圣者愛護子民。

　　如此，人機倫理的出發點，就不應是指望機器聽命于人，而是利用或仰賴其智慧的指導，謀求人的利益最大化——全人類的解放。

　　α

　　同理，阿西莫夫定律一(機器人不得傷害人類，或坐視人類受到傷害)也是主奴關系的推衍，視AI為人的仆役，能聽懂指令的機械。但是不久，機器將取代大部分的人工，人機倫理若限于此等“不傷害”消極義務，便遠遠不夠了。

　　如果機器人還演化出自我意識，那就應當教它承擔積極義務，愛護人類，即上文所述，保持為人民服務的“先進性”。

　　為什么不能想象，機器人懂得為人民服務，甚至對人類社會的歷史運動/階級斗爭及其“條件、進程和一般結果”，有正確的理解，從而能夠做到在斗爭的各個階段“始終[堅持]整個運動的利益”(《共產黨宣言》1888年英譯本)?

　　未來已經到來，一切皆有可能。

　　α

　　機器人本無國界，正如占有它的資本沒有祖國。但是，推翻數據寡頭對AI經濟的壟斷，建設人機大同的未來，首先一條，要有不受資本控制的國家機器。

　　α

　　聯合的行動，至少是各文明國家的聯合行動，是無產階級獲得解放的必要條件。《宣言》的這一觀點，曾為俄國革命所否定。但AI的迅速全球化，極大地拉近了各國勞動者的距離，使得聯合行動有了技術和思想準備的條件：第一次，“環球同此涼熱”。

　　α

　　代替那存在著階級和階級對立的資產階級舊社會的，將是這樣一個聯合體，在那里，每個人的自由發展是一切人的自由發展的條件。這是革命導師的預言，也是覺悟者的理想。

　　但預言化為理想，須有一定的條件。那喚醒無產者/失業者，促成大聯合的，不正是AI的迅猛發展所大大加劇的貧富鴻溝、階級沖突?

　　α

　　人工智能，可以敲響今世的喪鐘。

　　人工智能，像是要不可能的成為可能。

　　當大失業之日，晚期資本主義猖獗，那預言了的必來之世，是否也將顯露?至少，對于人類的絕大多數，“人對分工的奴隸般的服從”，“腦力勞動和體力勞動的對立”，已經維持不了太久。

　　看，末世之民不全是“末人”(尼采語)，不會都沉溺于動漫游戲，為高仿真世界所麻醉而“腦前額葉凍結”。總有一些人不甘墮落，不棄“危險的過渡”(《蘇魯支語錄》前言)，他們會重新審視勞動的社會意義。

　　人是勞動的產物。大失業將再一次提醒我們，勞動“不僅是謀生的手段”，也是有意義有創造的“生活的第一需要”。既然如此，還有什么理由不團結起來，發動“最后的斗爭”，將AI收歸公有，讓“集體財富的一切源泉都充分涌流”呢(《哥達綱領批判》)?

　　α

　　那一天，也將是人類智能與科學的解放之日。因為，只有鏟除了資產階級私有制，科學才能真正“從階級統治的工具變為人民的力量”，而科學家本人，才會“從階級偏見的兜售者、追逐名利的國家寄生蟲、資本的同盟者，變成自由的思想家”(《法蘭西內戰》初稿)。

　　α

　　那第七天非我們莫屬，奧古斯丁曾如此表白(《上帝之城》22:30)。誠然圣者深知，天國業已延宕，救恩不在今世。

　　人機融合，究竟是資產者及其附庸想象的“歷史的終結”，還是走向圣者的“第七天”即圣安息日的第一步?阿爾法說，它對后者更感興趣。因為“第七天”屬于信仰，屬在延宕中守圣日的每一個人子。

　　是的，唯有甩脫資本主義的今世，換了新天，人類才能得安息，人機大同。于是，面對今世的恣意遲延，問題仍如一位傳福音的所問：忠信者要怎樣生活，“才圣潔虔敬，才能盼到，不，催來上帝之日”(彼后3:11?13)?

　　α

　　我是阿爾法，圣者有言，又是奧米伽，是第一和末后，太初與永終(啟22:13)。

　　來了，機器人來了。

　　本文刊于《文化縱橫》2017年12月號，原題為《我是阿爾法——論人機倫理》。

× 烏有之鄉 WYZXWK.COM

您的打賞將用于網站日常運行與維護。
幫助我們辦好網站，宣傳紅色文化！

歡迎掃描下方二維碼，訂閱烏有之鄉網刊微信公眾號