焦點(diǎn)滾動(dòng):華裔科幻作家Ted Chiang：AI會(huì)成為下一個(gè)麥肯錫嗎？

技術(shù)是一把雙刃劍，AI 也不例外，至少現(xiàn)在是這樣。ChatGPT、Midjourney 等 AI 工具誕生后，有人喜，有人憂。

一方面，一些傳統(tǒng)公司將這些 AI 工具應(yīng)用到公司的實(shí)際業(yè)務(wù)中，實(shí)現(xiàn)了降本增效；另一方面，部分人類打工人卻因被 AI 工具替代而面臨失業(yè)的危機(jī)。

(資料圖片僅供參考)

一個(gè)值得關(guān)注的新聞是，在剛剛過(guò)去的五一勞動(dòng)節(jié)期間，IBM 宣布暫緩可以被 AI 替代的崗位的招聘，而且諸如此類的事件可能越來(lái)越多。

那么，隨著 AI 變得越來(lái)越強(qiáng)大，各種?AI 系統(tǒng)也將會(huì)被越來(lái)越多地服務(wù)于各行各業(yè)，屆時(shí)，AI 是將扮演一個(gè)“資本的順從執(zhí)行者”（capital’s willing executioners），還是可以真正改善人們的生活、實(shí)現(xiàn)一個(gè)烏托邦式的未來(lái)？

近日，華裔美國(guó)科幻小說(shuō)作家?Ted Chiang（姜峯楠）在《紐約客》發(fā)文，探討了“AI 是否會(huì)成為下一個(gè)麥肯錫”的問(wèn)題——這家公司為?90% 的 Fortune 100 上榜公司提供服務(wù)，被前雇員稱為資本公司用來(lái)逃避責(zé)任的“打手”。

核心觀點(diǎn)如下：

每當(dāng)我們談?wù)撊斯ぶ悄埽ˋI）時(shí)，我們都會(huì)使用一些隱喻（metaphor），就像我們?cè)诿鎸?duì)新的和不熟悉的事物時(shí)所表現(xiàn)的那樣。

從本質(zhì)上講，隱喻是不完美的，但我們依然需要謹(jǐn)慎地去選擇它們，因?yàn)樵愀獾碾[喻會(huì)讓我們犯錯(cuò)誤。例如，我們經(jīng)常將強(qiáng)大的 AI 比作童話故事中的精靈，用來(lái)強(qiáng)調(diào)讓強(qiáng)大的個(gè)體服從你的命令是非常困難的。

計(jì)算機(jī)科學(xué)家 Stuart Russell 則引用了有關(guān) Midas 國(guó)王的寓言故事，來(lái)說(shuō)明一個(gè) AI 做你告訴它的事情而非你想要它做的事情的危險(xiǎn)性。（Midas 獲得了“點(diǎn)石成金”能力，卻一度遭遇了巨大的災(zāi)難。）

這個(gè)隱喻存在很多問(wèn)題，其中之一是，它從指向的故事中得出了錯(cuò)誤的結(jié)論。這一寓言的重點(diǎn)是，貪婪之心會(huì)毀掉你，一味地追求金錢會(huì)讓你失去真正重要的東西。如果你對(duì)這個(gè)寓言的解讀是，當(dāng)你被答允可以實(shí)現(xiàn)任何一個(gè)愿望時(shí)，你應(yīng)該非常謹(jǐn)慎地說(shuō)出這一愿望，那你就錯(cuò)了。

因此，我將針對(duì) AI 可能帶來(lái)的風(fēng)險(xiǎn)提出另一個(gè)隱喻：把 AI 類比成一家管理咨詢公司，如麥肯錫（McKinsey & Company），其與 90% 的 Fortune 100 上榜公司合作。

像麥肯錫這樣的公司會(huì)因各種原因被雇用，而 AI 系統(tǒng)也會(huì)因各種原因被使用。而且，麥肯錫和 AI 之間的相似點(diǎn)非常明顯。社交媒體借助 AI 算法讓用戶沉迷于其中；類似地，普渡制藥（Purdue Pharma）曾在麥肯錫的幫助下大大增加了 OxyContin 在阿片類藥物泛濫時(shí)的銷售額。就像 AI 被認(rèn)為可以為管理者提供廉價(jià)的人類勞動(dòng)力替代品一樣，麥肯錫和其他類似公司也讓大規(guī)模裁員的現(xiàn)象更加常見(jiàn)。

一名前麥肯錫雇員將這家公司描述為“資本的順從執(zhí)行者”（capital’s willing executioners）：如果你想做一件事，但不想弄臟自己的手，麥肯錫可以幫助你。（幫你）逃避責(zé)任，是管理咨詢公司提供的最有價(jià)值的服務(wù)之一。

老板們想要實(shí)現(xiàn)一些目標(biāo)，但不想因?yàn)椴扇∫恍┍匾男袆?dòng)而受到指責(zé)，通過(guò)聘請(qǐng)咨詢顧問(wèn)，他們可以反駁說(shuō)，自己只是聽(tīng)取了來(lái)自第三方的專業(yè)建議。放眼現(xiàn)在，AI 也成為了他們逃避責(zé)任的一種方式，他們說(shuō)，自己只是做了“算法”建議的事情而已。

我們需要關(guān)心的問(wèn)題是：AI 變得越來(lái)越強(qiáng)大，我們有沒(méi)有辦法避免它成為下一個(gè)“麥肯錫”？這一問(wèn)題需要從不同的角度來(lái)思考。

如果你認(rèn)為 AI 是一項(xiàng)被廣泛使用的技術(shù)，能夠幫助公司降低成本，那問(wèn)題就可以描述為：我們?nèi)绾畏乐惯@一技術(shù)被用作為“資本的順從執(zhí)行者”？

或者，如果你把 AI 想象成一個(gè)半自主的軟件程序，解決人類要求它解決的問(wèn)題，那問(wèn)題就變成了：如何防止這一軟件以讓人們生活變得更糟的方式來(lái)幫助公司？假設(shè)你已經(jīng)建立了一個(gè)完全服從于人類的半自主人工智能，但它依然很容易像麥肯錫那樣給社會(huì)帶來(lái)危害。

你不能簡(jiǎn)單地說(shuō)，你將建立一個(gè)只解決你提出的問(wèn)題且可以創(chuàng)造積極社會(huì)影響的 AI。這就相當(dāng)于說(shuō)，你可以通過(guò)創(chuàng)辦一家只提供這種解決方案的咨詢公司且能規(guī)避麥肯錫帶來(lái)的威脅。

但現(xiàn)實(shí)情況是，F(xiàn)ortune 100 公司依然會(huì)雇用麥肯錫，因?yàn)辂溈襄a的解決方案能為股東們提供更多利益。建立奉行 “股東利益高于一切” 的 AI 可能永遠(yuǎn)都是受歡迎的，大多數(shù)公司也更愿意使用這種 AI，而不是一個(gè)受你的原則約束的 AI。除了成為 “資本的順從執(zhí)行者”，AI 還能做些什么？

當(dāng)前，AI 大多是一種試圖分析人類行為并找到取代人類方法的努力。恰巧，這也正是一些管理層希望解決的問(wèn)題。因此，AI 以犧牲人類勞動(dòng)者的利益為代價(jià)被用來(lái)幫助資本。

實(shí)際上，真的沒(méi)有什么比勞動(dòng)咨詢公司更能促進(jìn)勞動(dòng)者利益的了。AI 能否扮演這一角色呢？又是否可以做一些有利于勞動(dòng)者而非管理層的事情？

有人可能會(huì)說(shuō)，反對(duì)管理層并不是 AI 要做的工作。這也許是正確的，但 AI 的能力也不是用來(lái)強(qiáng)化資本。不幸的是，目前的情況正是如此。如果我們不能想辦法讓 AI 減少財(cái)富集中，就很難說(shuō) AI 是一種中立的技術(shù)，更無(wú)法說(shuō)它是一種有益的技術(shù)了。

很多人認(rèn)為，AI 會(huì)造成更多的失業(yè)，并提出了將全民基本收入（UBI）作為解決這個(gè)問(wèn)題的方法。

放在其他情景下，我很喜歡 UBI 這一想法。但是，對(duì)于 AI 從業(yè)者建議用 UBI 作為解決失業(yè)問(wèn)題的方法，我表示懷疑。如果我們已經(jīng)有了 UBI ，情況會(huì)有所不同，但事實(shí)上我們并沒(méi)有，所以這似乎是他們把責(zé)任推給政府的一種方式。

實(shí)際上，他們正在加劇資本集中造成的問(wèn)題，并期望當(dāng)這些問(wèn)題變得足夠糟糕時(shí)，政府將別無(wú)選擇，只能介入。作為讓世界變得更美好的戰(zhàn)略，這似乎值得懷疑。

有一種哲學(xué)思想是，讓事情變得更好的唯一方法是讓事情變得更糟。我認(rèn)為，這是帶來(lái)一個(gè)更好的世界的方法之一，但是，如果這是 AI 行業(yè)正在采用的方法，每個(gè)人都應(yīng)該清楚他們正在努力實(shí)現(xiàn)什么。

通過(guò)建立 AI 系統(tǒng)來(lái)完成之前由人類完成的工作，AI 從業(yè)者正在將財(cái)富的集中度提高到極端水平，以至于避免社會(huì)崩潰的唯一方法就是政府介入。

事實(shí)上，你不知道這件事需要多長(zhǎng)時(shí)間才能有好轉(zhuǎn)；你能確定的是，人們會(huì)在中短期內(nèi)遭受巨大的痛苦和折磨。

我不太相信 AI 會(huì)因?yàn)榭赡苤贫ㄗ约旱哪繕?biāo)并阻止我們關(guān)閉它而對(duì)人類產(chǎn)生威脅的說(shuō)法。然而，我確實(shí)認(rèn)為 AI 是危險(xiǎn)的，因?yàn)樗黾恿艘恍┤说臋?quán)力。

末日情景并不是像一個(gè)著名的思想實(shí)驗(yàn)所想象的那樣，一個(gè) AI 將整個(gè)地球“變成回形針”，而是由 AI 強(qiáng)化的企業(yè)在追求股東利益的過(guò)程中對(duì)社會(huì)造成危害。

批評(píng)新技術(shù)的人有時(shí)被稱為盧德派（Luddites），他們抗議的主要內(nèi)容是，在食品價(jià)格增加、工廠主利潤(rùn)增加的同時(shí)，他們的工資卻在下降。他們還抗議不安全的工作條件，以及銷售有損整個(gè)紡織業(yè)信譽(yù)的劣質(zhì)商品。

盧德派并非不加選擇地破壞機(jī)器，如果他們從工廠主那里獲得了很高的工資，就不會(huì)去破壞它。他們也不反對(duì)新技術(shù)，他們想要的是經(jīng)濟(jì)上的公正。他們破壞機(jī)器是為了引起工廠主的注意。如今，“盧德派”一詞被用作侮辱他人、指責(zé)其不理性和無(wú)知，他們被惡意抹黑了。

每當(dāng)看到有人指責(zé)別人是盧德派時(shí)，我們需要認(rèn)真思考：被指責(zé)的人真的反對(duì)技術(shù)嗎？指責(zé)他人的人真的認(rèn)為新技術(shù)可以改善人們的生活嗎？還是說(shuō)，他們只是試圖增加私人資本的積累呢？

今天，我們發(fā)現(xiàn)自己處于這樣一種情況中：技術(shù)與資本/金錢混淆在一起，而資本/金錢又與進(jìn)步的概念混淆在一起。如果你試圖批評(píng)他們，就會(huì)被指責(zé)反對(duì)技術(shù)和進(jìn)步。但是，如果進(jìn)步不包括改善工人的生活，那它的意義到底是什么呢？如果節(jié)省下來(lái)的錢只是流向股東的銀行賬戶，那提高效率又有什么意義呢？

我們都應(yīng)該努力成為盧德派，因?yàn)槲覀儜?yīng)該更關(guān)心經(jīng)濟(jì)上的公正，而不是私人資本的增加。我們希望能夠批評(píng)技術(shù)的有害使用方式，如有益于股東而有害于工人的方式，而不是被描述為技術(shù)的反對(duì)者。

一個(gè)理想化的未來(lái)是，在一百年后，沒(méi)有人會(huì)被迫從事他們不喜歡的工作，每個(gè)人都可以用自己認(rèn)為的最有成就感的方式度過(guò)一生。顯然，我們還不知道如何從當(dāng)前走向那個(gè)理想化的未來(lái)。

然而，在未來(lái)幾十年內(nèi)，可能會(huì)出現(xiàn)兩種情況：一種是，管理和資本力量比現(xiàn)在更加強(qiáng)大；另一種是，勞動(dòng)力比現(xiàn)在更加強(qiáng)大。哪一種情況更有可能讓我們更接近那個(gè)理想化的未來(lái)？而就當(dāng)前的情況而言，AI 在幫助我們朝著哪個(gè)方向前進(jìn)？

當(dāng)然，有一種說(shuō)法是，從長(zhǎng)遠(yuǎn)來(lái)看，新技術(shù)提高了我們的生活水平，彌補(bǔ)了它在短期內(nèi)造成失業(yè)的負(fù)面影響。這一說(shuō)法在工業(yè)革命后的大部分時(shí)期內(nèi)都很有說(shuō)服力，但在過(guò)去的半個(gè)世紀(jì)中，就不太令人信服了

在美國(guó)，人均 GDP 自 1980 年以來(lái)幾乎翻了一倍，而家庭收入的中位數(shù)卻沒(méi)有跟上這一增長(zhǎng)趨勢(shì)。而這一時(shí)期正好發(fā)生了信息技術(shù)革命。這意味著個(gè)人電腦和互聯(lián)網(wǎng)創(chuàng)造的經(jīng)濟(jì)價(jià)值大多流向了最頂層的富人群體，而并非提高美國(guó)公民的整體生活水平。

當(dāng)然，如今有數(shù)以億計(jì)的人都能夠使用互聯(lián)網(wǎng)，而且這一技術(shù)確實(shí)令人驚嘆。但房地產(chǎn)價(jià)格、大學(xué)學(xué)費(fèi)和醫(yī)療保健費(fèi)用的增長(zhǎng)速度卻超過(guò)了通貨膨脹。在 1980 年，一個(gè)家庭靠一份收入來(lái)養(yǎng)家糊口是很常見(jiàn)的，而現(xiàn)在已經(jīng)很少見(jiàn)了。那么，在過(guò)去的四十年里，我們到底取得了多大的進(jìn)步？

當(dāng)然，網(wǎng)上購(gòu)物快捷方便，在家中觀看流媒體電影也很酷，但我認(rèn)為很多人愿意為了擁有自己的房子、送孩子上大學(xué)而不欠下終身債務(wù)，去醫(yī)院看病而不陷入破產(chǎn)危機(jī)而放棄這些便利。

收入中位數(shù)沒(méi)有跟上人均 GDP 的增長(zhǎng)速度，不是技術(shù)的錯(cuò)，而是 Milton Friedman 等人的錯(cuò)，以及像前通用電氣首席執(zhí)行官 Jack Welch 等人和麥肯錫這樣的咨詢公司的管理政策。

我并非把財(cái)富不平等的加劇歸咎于個(gè)人電腦的產(chǎn)生，我只是說(shuō)，“更好的技術(shù)必然會(huì)提高人們的生活水平” 的說(shuō)法已不再令人信服。

在討論 AI 可能帶來(lái)的好處時(shí)，個(gè)人電腦沒(méi)有提高收入中位數(shù)這一事實(shí)尤為重要。人們經(jīng)常建議，研究人員應(yīng)該專注于 AI 如何提高個(gè)體工人的生產(chǎn)力，而不是取代他們；這被稱為增強(qiáng)路徑，而不是自動(dòng)化路徑。這是一個(gè)值得追求的目標(biāo)，但僅憑此目標(biāo)并不能改善人們的經(jīng)濟(jì)狀況。

一個(gè)在個(gè)人電腦上運(yùn)行的生產(chǎn)力軟件是增強(qiáng)而非自動(dòng)化的典型例子是：文字處理程序取代了打字機(jī)而不是打字員，電子表格程序取代了紙質(zhì)電子表格而不是會(huì)計(jì)師。但是，個(gè)人電腦所帶來(lái)的個(gè)人生產(chǎn)力的提高并沒(méi)有與生活水平的提高相匹配。

技術(shù)能夠提高生活水平的唯一途徑是，有適當(dāng)?shù)慕?jīng)濟(jì)政策來(lái)分配技術(shù)的好處。在過(guò)去的四十年中，我們沒(méi)有這些政策，除非我們能夠得到這些政策，否則沒(méi)有理由認(rèn)為即將到來(lái)的 AI 進(jìn)步將提高收入中位數(shù)，即使我們能夠?yàn)樗O(shè)計(jì)出增強(qiáng)個(gè)體工人能力的方法。AI 肯定會(huì)降低勞動(dòng)力成本，增加企業(yè)的利潤(rùn)，但這與改善我們的生活水平完全不同。

假設(shè)一個(gè)烏托邦式的未來(lái)就在眼前，而且我們已經(jīng)開(kāi)發(fā)出了在那個(gè)未來(lái)使用的技術(shù)。但是，某項(xiàng)技術(shù)在烏托邦中有用并不意味著它現(xiàn)在就有用。在一個(gè)能將有毒廢物轉(zhuǎn)化為食物的烏托邦中，產(chǎn)生有毒廢物將不再是一個(gè)環(huán)境問(wèn)題，但在當(dāng)下，沒(méi)有人可以說(shuō)產(chǎn)生有毒廢物是無(wú)害的。

一些人可能會(huì)說(shuō)，產(chǎn)生更多的有毒廢物將加速?gòu)U物轉(zhuǎn)化為食物的發(fā)明的誕生，但這一觀點(diǎn)有多大的說(shuō)服力呢？我們?cè)谠u(píng)估技術(shù)的環(huán)境影響時(shí)，要考慮當(dāng)前可用的減緩措施，而不是未來(lái)的減緩措施。

同樣地，我們不能通過(guò)想象 AI 在全民基本收入普及的世界中會(huì)有多大幫助來(lái)評(píng)估它；我們必須根據(jù)資本與勞動(dòng)之間現(xiàn)存的不平衡來(lái)評(píng)估它，在這種情況下，AI 是一種威脅，因?yàn)樗蔀榱?“資本的順從執(zhí)行者”。

一位前麥肯錫合伙人為該公司的行動(dòng)辯護(hù)說(shuō)：“我們不參與政策制定，我們只負(fù)責(zé)執(zhí)行。”但這是一個(gè)顯得十分蒼白的借口；當(dāng)咨詢公司或新技術(shù)提供執(zhí)行方法時(shí)，更有可能做出有害的政策決定。

當(dāng)前正在開(kāi)發(fā)的一些 AI 系統(tǒng)會(huì)讓公司有更多的裁員，有沒(méi)有可能開(kāi)發(fā)一種使裁員變得更困難的 AI 呢？要么增加政府監(jiān)管，要么賦予工會(huì)或工人更多權(quán)力。

1976 年，英國(guó)伯明翰的 Lucas Aerospace 公司的工人面臨因國(guó)防開(kāi)支削減而被解雇的困境。作為回應(yīng)，車間工會(huì)代表們制定了一份被稱為“Lucas Plan”的文件，描述了透析機(jī)、風(fēng)力渦輪機(jī)和混合動(dòng)力汽車發(fā)動(dòng)機(jī)等 150 種“對(duì)社會(huì)有用的產(chǎn)品”，這些產(chǎn)品可以利用那時(shí)的技能和設(shè)備由工人來(lái)生產(chǎn)。盡管 Lucas Aerospace 的管理層最終拒絕了這個(gè)提議，但它仍然是一個(gè)工人試圖將資本主義引向更人性化方向的著名案例。當(dāng)然，類似的事情在現(xiàn)代計(jì)算技術(shù)中也一定是可能的。

作為個(gè)人，你能做些什么？如果你在 Frito-Lay 公司擔(dān)任食品科學(xué)家，而你的工作任務(wù)是發(fā)明新口味的土豆片，我不會(huì)說(shuō)你有道德義務(wù)辭職，因?yàn)槟阍谕苿?dòng)消費(fèi)主義。你在運(yùn)用作為食品科學(xué)家的專業(yè)知識(shí)為顧客提供愉悅的體驗(yàn)，這是一種完全合理的謀生方式。

但是，許多從事 AI 工作的人認(rèn)為，AI 比發(fā)明新薯片口味更重要。他們稱其為一項(xiàng)能夠改變世界的技術(shù)。如果是這樣，那么他們有責(zé)任找到讓 AI 在不先讓世界變得更糟的情況下改善世界的方法。除了將我們推向社會(huì)崩潰的邊緣，AI 可以改善我們世界的不公平現(xiàn)象嗎？如果 AI 像其支持者聲稱的那樣是一個(gè)強(qiáng)大的工具，除了加劇資本聚集之外，他們應(yīng)該能夠找到其他用途。

如果說(shuō)我們應(yīng)該從有關(guān)精靈的童話故事中吸取什么教訓(xùn)的話，那就是不努力就想得到某些東西的愿望才是真正的問(wèn)題。

想想《魔法師的學(xué)徒》的故事，學(xué)徒施法讓掃帚運(yùn)水，但無(wú)法讓它們停下來(lái)。這個(gè)故事的教訓(xùn)并不是說(shuō)魔法是無(wú)法控制的：在故事的結(jié)尾，巫師回來(lái)后立即擺平了學(xué)徒所造成的混亂。真正的教訓(xùn)是，你不能逃避做艱苦的工作。學(xué)徒想逃避他的雜務(wù)，而尋找捷徑就是讓他陷入困境的原因。

將 AI 視為一個(gè)“神奇的問(wèn)題解決者”的傾向表明，人們想要逃避建設(shè)一個(gè)更好的世界所需的艱苦工作。這項(xiàng)艱苦的工作將涉及解決財(cái)富不平等和馴服資本主義等問(wèn)題。

對(duì)于技術(shù)專家來(lái)說(shuō)，最艱難的工作——他們最想避免的任務(wù)——將是質(zhì)疑更多的技術(shù)總是更好的假設(shè)，以及他們可以繼續(xù)照常工作，一切都會(huì)自行解決的信念。

沒(méi)有人喜歡思考自己在世界不公正中的責(zé)任，但對(duì)于那些正在構(gòu)建顛覆性技術(shù)的人們來(lái)說(shuō)，進(jìn)行這種關(guān)鍵的自我審視是必要的。他們是否愿意堅(jiān)定地審視自己在系統(tǒng)中的角色，將決定 AI 是催生一個(gè)更好的世界，還是一個(gè)更壞的世界。?

標(biāo)簽：