編者按：人工智能的發(fā)展日新月異，有人認(rèn)為，既然像 ChatGPT 這樣會(huì)自己寫(xiě)代碼和編程的 AI 已經(jīng)被開(kāi)發(fā)出來(lái)了，人類就不再有學(xué)習(xí)編程的需要了。但人工智能的代碼雖然是人類寫(xiě)出來(lái)的，可經(jīng)過(guò)訓(xùn)練之后的人工智能卻發(fā)展到了并不能總是為人類所理解，人們常常只能盡量對(duì)其進(jìn)行解釋。代碼是機(jī)器的語(yǔ)言，我們有越多的人能夠理解這種語(yǔ)言，就越有可能繼續(xù)成為機(jī)器革命的創(chuàng)作者，而不是其解釋者。本文來(lái)自編譯，是國(guó)外網(wǎng)站上的一則讀者來(lái)信及編輯部回信，希望對(duì)您有所啟發(fā)。
ILLUSTRATION: SHEN HOU
我不會(huì)編程，并且因此很沮喪，因?yàn)楝F(xiàn)在有這么多的書(shū)、課程和夏訓(xùn)練營(yíng)，有這么多的學(xué)習(xí)機(jī)會(huì)。我想，如果我能學(xué)會(huì)編程，學(xué)會(huì)“機(jī)器語(yǔ)言”，就能更好地理解機(jī)器革命。我應(yīng)該試一試嗎？”——Decoder
親愛(ài)的 Decoder：
你想學(xué)習(xí)“機(jī)器語(yǔ)言”的愿望讓我想起了特德·姜（Ted Chiang）的短篇小說(shuō)《人類科學(xué)的進(jìn)化》（The Evolution of Human Science）。這個(gè)故事想象了這樣一個(gè)未來(lái)：幾乎所有的學(xué)術(shù)學(xué)科都被超級(jí)智能的“超能力者”主導(dǎo)，他們對(duì)世界的理解遠(yuǎn)遠(yuǎn)超過(guò)人類專家。這些超能力者的科學(xué)報(bào)告（雖然表面上是用人類語(yǔ)言寫(xiě)的，發(fā)表在公開(kāi)的科學(xué)期刊上）在技術(shù)上非常復(fù)雜和深?yuàn)W，以至于人類科學(xué)家?guī)缀醵祭斫獠涣?。人類科學(xué)家已經(jīng)被降級(jí)為類似神學(xué)家的角色，試圖解釋對(duì)自己來(lái)說(shuō)晦澀難懂的文本，就像中世紀(jì)的哲學(xué)家來(lái)解讀上帝的意志一樣。這些科學(xué)家不是在進(jìn)行原創(chuàng)性研究，而是在實(shí)踐解釋學(xué)的藝術(shù)。
曾經(jīng)有一段時(shí)間，編程被認(rèn)為是最有前途的技能之一，它可以讓一個(gè)人成為技術(shù)精英，決定人類的未來(lái)。特德·姜的故事首次發(fā)表于 2000 年，他預(yù)見(jiàn)到了編程這種知識(shí)技能的局限性，這是有先見(jiàn)之明的。在深度學(xué)習(xí)和其他形式的高級(jí)人工智能等領(lǐng)域，許多技術(shù)專家已經(jīng)看起來(lái)更像神學(xué)家或煉金術(shù)士了，而不是現(xiàn)代意義上的“專家”：盡管他們編寫(xiě)了最初的代碼，但卻往往無(wú)法解釋自己的程序在數(shù)據(jù)集上訓(xùn)練時(shí)產(chǎn)生的高層次技能。[2016年，DeepMind 的首席研究科學(xué)家大衛(wèi)·西爾弗（David Silver）說(shuō)，他無(wú)法解釋自己設(shè)計(jì)的 AlphaGo 程序是如何制定制勝策略的：“它是自己發(fā)現(xiàn)和制定出這一策略的，”西爾弗說(shuō)，“是通過(guò)它自己的反思和分析過(guò)程發(fā)現(xiàn)的?！盷
與此同時(shí)，像 GPT-3 或 GitHub 的 Copilot 這樣的算法已經(jīng)學(xué)會(huì)了自己寫(xiě)代碼，這引發(fā)了關(guān)于軟件開(kāi)發(fā)人員的爭(zhēng)論，他們的職業(yè)曾經(jīng)被認(rèn)為是即將到來(lái)的自動(dòng)化海嘯中的一個(gè)平靜島嶼，但可能很快就會(huì)發(fā)生改變，并引發(fā)對(duì)“自我編程”的恐懼。人工智能的自我進(jìn)化引起了人們對(duì)技術(shù)日益不透明的擔(dān)憂。畢竟，人工智能有一個(gè)公認(rèn)的趨勢(shì)，那就是發(fā)現(xiàn)特異的解決方案，并發(fā)明出違反人類直覺(jué)的特殊語(yǔ)言。許多人已經(jīng)開(kāi)始懷疑：當(dāng)人類不再能閱讀代碼時(shí)會(huì)發(fā)生什么？
我提到這一切，Decoder，是為了幫你認(rèn)清嚴(yán)酷的現(xiàn)實(shí)，而不是貶低你的野心，我認(rèn)為你的野心是值得稱贊的。無(wú)論如何，對(duì)程序員過(guò)時(shí)的普遍擔(dān)憂在我看來(lái)是危言聳聽(tīng)，而且為時(shí)過(guò)早。自動(dòng)化代碼已經(jīng)以某種形式存在了幾十年（回想一下 20 世紀(jì) 90 年代生成 HTML 和 CSS 的網(wǎng)絡(luò)編輯器），即使是最先進(jìn)的編碼算法，目前也容易出現(xiàn)簡(jiǎn)單的錯(cuò)誤，需要大量的人工監(jiān)督。在我看來(lái)，你并不是想把編程作為一種職業(yè)，而是被一種更深層次的好奇心所驅(qū)使。也許你正在考慮業(yè)余愛(ài)好者的創(chuàng)造性樂(lè)趣，比如為開(kāi)源項(xiàng)目做貢獻(xiàn)，或者為你經(jīng)常使用的程序中的簡(jiǎn)單錯(cuò)誤提出修正建議?；蛘撸阆Ｍㄟ^(guò)編程將自己工作中的繁瑣環(huán)節(jié)自動(dòng)化。如果我沒(méi)理解錯(cuò)你的問(wèn)題的話，你最想要的是對(duì)支撐現(xiàn)代生活的語(yǔ)言有一個(gè)更全面的了解。
有一個(gè)令人信服的理由是，編碼現(xiàn)在是一種基本的文化形式，當(dāng)涉及到理解我們所處的更大的意識(shí)環(huán)境時(shí)，對(duì)數(shù)據(jù)結(jié)構(gòu)、算法和編程語(yǔ)言的掌握，與閱讀和寫(xiě)作一樣重要。當(dāng)然，對(duì)業(yè)余愛(ài)好者的不信任是很自然的。業(yè)余開(kāi)發(fā)人員經(jīng)常被詬病，因?yàn)樗麄冋莆樟司幊陶Z(yǔ)言的語(yǔ)法，卻沒(méi)有創(chuàng)造成功產(chǎn)品所需的遠(yuǎn)見(jiàn)和眼光。但是，這種專業(yè)知識(shí)的模糊也可以被看作是一種謙遜的修養(yǎng)。業(yè)余知識(shí)的一個(gè)好處是，它往往會(huì)激發(fā)人們的好奇心，因?yàn)樗屝率钟X(jué)得自己知道的東西太少。在一個(gè)精簡(jiǎn)、用戶友好界面的時(shí)代，人們很容易只看技術(shù)的表面價(jià)值，而不考慮隱藏在表面之下的動(dòng)機(jī)和議程。但是，你對(duì)底層結(jié)構(gòu)了解得越多，就會(huì)有越多的基本問(wèn)題困擾你：代碼是如何轉(zhuǎn)化為電脈沖的？軟件設(shè)計(jì)如何微妙地改變用戶體驗(yàn)？像開(kāi)放獲取、共享和數(shù)字公地等原則的潛在價(jià)值是什么？例如，對(duì)于普通用戶來(lái)說(shuō)，社交平臺(tái)的設(shè)計(jì)似乎是為了將你與朋友聯(lián)系起來(lái)，并傳遞有用的信息。然而，了解一個(gè)網(wǎng)站是如何構(gòu)建的，不可避免地會(huì)導(dǎo)致人們更加批判性地思考其功能是如何設(shè)計(jì)的，以最大限度地吸引用戶的注意力，創(chuàng)建強(qiáng)大的數(shù)據(jù)跟蹤，并在社交圖譜中盈利。
最終，這些知識(shí)有可能讓我們免受宿命論的影響。那些了解程序是如何構(gòu)建的、以及為什么要構(gòu)建的人，不太可能接受既定的程序設(shè)計(jì)的必然性。你談到了機(jī)器革命，但值得一提的是，歷史上最著名的革命（那些由人類發(fā)起的革命）都是大眾文化與技術(shù)創(chuàng)新相結(jié)合的結(jié)果。比如，印刷機(jī)的發(fā)明和新識(shí)字的公眾對(duì)書(shū)籍的需求，為宗教改革以及發(fā)生在法國(guó)和美國(guó)的革命奠定了基礎(chǔ)。一旦相當(dāng)一部分民眾能夠自己閱讀了，他們就會(huì)開(kāi)始質(zhì)疑神職人員和國(guó)王的權(quán)威，以及統(tǒng)治假設(shè)的必然性。
目前，一些技術(shù)專家正在權(quán)衡我們最緊迫的道德問(wèn)題（關(guān)于數(shù)據(jù)公正、自動(dòng)化和人工智能價(jià)值），他們經(jīng)常強(qiáng)調(diào)需要進(jìn)行更大規(guī)模的公開(kāi)辯論，但當(dāng)公眾缺乏對(duì)相關(guān)技術(shù)的基本知識(shí)時(shí)，具體和細(xì)微的對(duì)話就很難進(jìn)行。（例如，只需看一眼美國(guó)眾議院小組委員會(huì)最近舉行的聽(tīng)證會(huì)，就可以看出立法者對(duì)他們?cè)噲D監(jiān)管的技術(shù)的理解有多差。）正如《紐約時(shí)報(bào)》科技作家凱文·盧斯（Kevin Roose）所觀察到的那樣，先進(jìn)的人工智能模型正在“關(guān)起門(mén)來(lái)”開(kāi)發(fā)，好奇的外行越來(lái)越多地被迫通過(guò)深?yuàn)W的報(bào)告來(lái)了解其內(nèi)部工作原理，或者相信專家的解釋?！爱?dāng)有關(guān)（這些技術(shù)）的信息被公開(kāi)時(shí)，”他寫(xiě)道，“通常要么被企業(yè)公關(guān)淡化，要么被淹沒(méi)在高深莫測(cè)的科學(xué)論文中。”
特德·姜的故事告訴我們?nèi)祟愐３帧霸谛袃?nèi)圈子里”，同時(shí)也告訴我們要確保自己的圈子足夠大。當(dāng)人工智能越來(lái)越精通我們的語(yǔ)言，以人類的方式閱讀、寫(xiě)作和交談的能力越來(lái)越讓人類驚嘆不已的時(shí)候，我們理解編程語(yǔ)言的需求就變得更加迫切了。我們有越多的人能夠理解這種語(yǔ)言，就越有可能繼續(xù)成為機(jī)器革命的創(chuàng)作者，而不是其解釋者。
此致,
Cloud