奇點論者利用這套理論來支撐自己的預期：他們認為，我們可以制作一種具備人類思維的“硅腦”，甚至可以開發(fā)能像人類一樣思考的人工思想，而且遠比人類更加聰明。我們應該對這種期待心存懷疑，因為他們誤解了丘奇-圖靈假說。

　　這項理論的出發(fā)點是：“如果擁有無限的磁帶（存儲）和時間，所有的計算都是等價的?！眴栴}在于，在現(xiàn)實世界中，沒有一臺計算機擁有無限的存儲和時間。當你在現(xiàn)實世界中進行實時操作時，這甚至會產(chǎn)生天壤之別。沒錯，如果忽略時間因素，所有的思維都是等價的。的確，你可以在任何一個矩陣中模擬人類思維，前提是你要忽略時間維度，或者存儲及內存等實實在在的局限因素。

　　然而，如果把時間考慮在內，就必須重新闡述這條定律：在兩個差異巨大的平臺上運行的兩套計算系統(tǒng)不可能實時等價。還可以這樣來說：想要讓不同的思維模式等價，唯一的方法就是讓它們在等價的基底上運行。你的計算究竟能夠實時處理好哪些類型的計算，很大程度上取決于它所依賴的物理因素——隨著復雜度的提升，這種現(xiàn)象也會越發(fā)明顯。

　　我會進一步擴展這種論調：想要達到與人類相似的思維流程，唯一的方法就是在類似于人類的血肉組織上進行計算。這也就意味著，那些在冷冰冰的硅片上構造的復雜的大型人工智能雖然可以生成復雜的大型思維，但卻不同于人類的思維。如果能使用像人類這樣可以增長的神經(jīng)開發(fā)出有血有肉的人工大腦，它們的思維或許會與我們更加相似。這種血肉大腦帶來的好處，與它所依賴的基底跟我們之間的相似程度成正比。創(chuàng)造“濕件”（wetware，指人類的神經(jīng)系統(tǒng)）的成本巨大，而它的組織結構與人腦組織越接近，“制造”人類的成本效率就越高。畢竟，我們只要懷胎9個月就可以“制造”一個人。

　　另外，正如上文所說，我使用整個身體來思考，而不僅僅依賴思維。有很多數(shù)據(jù)都可以顯示人體的神經(jīng)系統(tǒng)如何引導我們的“理性”決策過程，甚至能夠預測和學習這一過程。我們對整個人體系統(tǒng)了解得越深，就越有可能復制它。處于不同載體上（例如從有血有肉的人體轉移到冷冰冰的硅片上）的智能會產(chǎn)生不同的思考方式。

　　我不認為這是個漏洞，反而認為這是一項可以利用的功能。正如我在第2條中所說，與人類擁有不同的思維方式恰恰是人工智能的優(yōu)勢所在。正因如此，我才認為，用“比人類更聰明”這樣的說法來定義它是一種誤導。

　　4 超人類人工智能——尤其是認為這種人工智能將會不斷自我提升的觀點——的核心在于，他們認為智能可以擁有無限的規(guī)模。我沒有發(fā)現(xiàn)這方面的證據(jù)。同樣地，以單一維度來看待智能的錯誤觀念也對這種看法形成了促進，但我們應該對此加以理解。以目前的科學研究來看，宇宙中還沒有哪一種物理維度是無限的。

　　溫度不是無限的——無論冷熱都有極限。空間和時間也不是無限的，速度同樣也有極限。數(shù)字或許是無限的，但其他的物理屬性都有極限。于是，問題變成了：智能的極限在哪里？我們往往認為，這個極限遠超自身的能力范圍，肯定“高于”我們，就像我們“高于”螞蟻一樣。

　　暫且拋開單一維度這個遞歸問題不談，我們有什么證據(jù)證明人類本身不是智能的極限？為什么人類智能就不能是智能的極限呢？或者說，人類智能有沒有可能距離極限水平只有很短的距離？為什么我們認為智能可以繼續(xù)無限提升下去？

　　可以通過一種更好的方式來思考這個問題，那就是把我們的智能看做數(shù)百萬種可能的智能中的一種。所以，雖然每一個認知和計算維度都有局限，但如果有數(shù)百個維度，那就會有數(shù)不清的思維類型——沒有一種思維類型能在任何一個維度中達到無限高度。當我們建立和遇到這些數(shù)不清的思維模式后，或許會自然而然地認為其中一些超過了我們。在最近出版的新書《The Inevitable》里，我闡述了一些能在某些方面超越我們的思維類型。以下就是其中的部分摘錄：

——跟人類思維相似，但回答速度更快（這是最容易設想的人工智能思維）

——思維速度很慢，主要由龐大的存儲和內存構成

——由數(shù)百萬愚蠢的個體思維合力構成的集體超級思維

——由很多極其聰明的思維構成的集體思維，但卻并未意識自己是一個集體

——有很多極其聰明的思維共同構成的超級思維，而且清楚地意識到自己加入了一個聯(lián)合體

——它經(jīng)過訓練，而且專門用于提升你的個人思維，但對其他人卻沒有用處

——能夠想象更好的思維，但卻無法將其創(chuàng)造出來

——能夠創(chuàng)造更好的思維，但卻不具備足夠的自我意識來想象這種思維

——能夠一次性地成功創(chuàng)造更好的思維

——能夠創(chuàng)造更好的思維，而這種被創(chuàng)造出來的思維還可以創(chuàng)造比它更好的思維

——能夠訪問自己的源代碼，因此可以定期調整自己的流程。

——沒有感情的超級邏輯思維

——具備通用問題解決能力的思維，但卻沒有自我意識

——擁有自我意識，卻不具備通用問題解決能力的思維

——需要經(jīng)過長時間來開發(fā)，而且在成熟之前需要一套思維為其充當保護器

——分布在龐大的超慢思維之內，快速思維似乎“看不見”它

——具備快速自我復制能力的思維

——能夠自我復制，而且仍然可以跟自己的克隆體結為一體

——能夠從一個平臺遷移到另一個平臺的不朽思維

——能夠改變流程和認知特點的快速動態(tài)思維

——具備自我意識的最小（無論是尺寸還是能量）納米思維

——擅長具體場景和預測的思維

——永遠不會抹去或忘記事情，也不會搞錯任何信息的思維

——一半機器、一半動物的共生思維

——一半機器、一半人類的電子人思維

——使用量子計算的思維，它所使用的邏輯無法被我們理解

　　現(xiàn)在有些人可能會把這些東西稱作超人類人工智能，但這些思維的多樣性和特異性卻會引導我們使用新的詞匯“智能”和“聰明”，并對其產(chǎn)生新的認識。

　　其次，相信超人類人工智能的人會假設人工智能可以呈現(xiàn)指數(shù)級增長（以某些未經(jīng)確認的單一參數(shù)為標準），這很可能是因為他們認為它已經(jīng)實現(xiàn)了指數(shù)級增長。然而，目前沒有任何證據(jù)表明人工智能正在呈現(xiàn)指數(shù)級增長——無論用哪種方式衡量都不例外。

　　我所說的指數(shù)級增長指的是每過一段時間，人工智能的性能便可實現(xiàn)翻番。證據(jù)何在？我找不到。如果現(xiàn)在沒有證據(jù)，為什么認定未來會發(fā)生？唯一能以指數(shù)級增長的就是人工智能所獲得的輸入數(shù)據(jù)，也就是用于生成智能的資源。但輸出表現(xiàn)并不能像摩爾定律一樣增長。人工智能無法做到每過3年性能翻番，甚至連每過10年性能翻番都做不到。

　　我問過很多人工智能專家，有沒有證據(jù)表明人工智能的性能實現(xiàn)了指數(shù)級增長。他們都表示，目前沒有指標來衡量智能，而且他們也沒有從事這方面的工作。但當我向堅定看好人工智能飛速發(fā)展前景的雷-庫茲韋爾（Ray Kurzweil）詢問人工智能呈現(xiàn)指數(shù)級增長的證據(jù)時，他表示，人工智能并沒有實現(xiàn)爆發(fā)式增長，而是表現(xiàn)出層級式增長模式。

　　他說：“人工智能每上一個臺階，都需要計算和算法的復雜度實現(xiàn)指數(shù)級提升……所以我們可以預計線性的層級式增長，因為每上一個臺階都需要在復雜度上實現(xiàn)指數(shù)級增長，而我們這方面的能力的確實現(xiàn)了指數(shù)級進步。我們與大腦皮質之間相差的層級不多，所以我認為2029年可能實現(xiàn)?！?

　　庫茲韋爾似乎是在說，人工智能本身沒有呈現(xiàn)指數(shù)級增長，反而是開發(fā)人工智能所作的努力呈現(xiàn)這種增長態(tài)勢，而實際輸出效果僅僅是一次一個臺階地邁進。這幾乎與人工智能大爆發(fā)的前提假設完全相反。這種情況今后可能發(fā)生變化，但人工智能目前顯然沒有呈現(xiàn)爆發(fā)態(tài)勢。

　　因此，當我們設想“人工智能爆發(fā)”的情形時，不應該將其視作一種級聯(lián)式繁榮，而應該設想為新型的散發(fā)式發(fā)展。用一個更形象的比喻來說明，這更像是寒武紀物種大爆發(fā)，而不是核爆炸。幾乎可以肯定的是，技術加速發(fā)展的結果并不是催生“超級人類”，而是“超常人類”。換句話說，它會超脫于我們的經(jīng)驗范圍，但未必能“高于”我們。

　　5 認為超級人工智能將接管世界人還持有另一個前提假設：幾乎擁有無限能力的超級人工智能可以很快解決很多重大的未解難題。但這種說法卻沒有太多證據(jù)支撐。

　　很多認同人工智能將實現(xiàn)爆發(fā)式增長的人預計，這項技術將會實現(xiàn)高速進步。我把這種神話般的觀念稱作“思考主義”（thinkism）。在他們看來：思考能力或智能水平是阻礙未來進步的唯一因素。但這完全是第一種謬論。（很多喜歡思考的人也都懷有這樣一種信念：思考是一種神奇的超能力，甚至無所不能。）

　　以治愈癌癥和延長壽命為例。這些問題不是單憑思考就能解決的。光靠“思考主義”根本無法發(fā)現(xiàn)細胞的衰老方式和染色體的衰退過程。無論多么言之鑿鑿，也不可能單憑閱讀所有已知的科學文獻想清楚人體的運作模式。沒有一種超級人工智能可以簡單地思考現(xiàn)在和過去的所有核裂變實驗，然后在一天之內想出核聚變技術。

　　除了思考之外，想要從未知過渡到已知，還必須輔以很多元素。需要在現(xiàn)實世界中進行很多實驗，每次實驗都會產(chǎn)生大量相互矛盾的數(shù)據(jù)，因此需要通過進一步的實驗來確立正確的假說。單純思考潛在數(shù)據(jù)根本無法得出正確數(shù)據(jù)。

　　思考（智能）只是科學的一部分，甚至只是一小部分。例如，我們根本沒有足夠的數(shù)據(jù)來解決生老病死的問題，甚至連冰山一角都沒有揭開。具體到生物體的運作機制，多數(shù)實驗都需要用時間來慢慢醞釀。細胞新陳代謝速度很慢，無法加速進行?？赡苄枰獢?shù)年、數(shù)月，至少也要數(shù)天時間，才能看到結果。

　　如果你想知道亞原子微粒的情況，那就不可能單憑思考來獲得答案。必須要建造復雜的大型物理設施才行。就算當今最聰明的物理學家比現(xiàn)在再聰明1000倍，如果沒有對撞機，他們也無法獲取新的知識。

　　超級人工智能無疑可以加速科學進程。我們可以制作原子或細胞的計算機模擬程序，從而大幅加快速度，但有兩個因素限制了模擬器在獲取瞬間進步時的實際效果。首先，模擬器和模型之所以能比它們模擬的對象速度更快，是因為它們刪減了一些因素。這是模型或模擬器的自然屬性。同樣值得注意的是：對這些模型進行測試、審核和驗證仍然需要在正常的時間維度內進行，從而匹配它們的模擬對象。換句話說，對事實的驗證速度無法真正加快。

　　在模擬器中簡化后的運行結果對于篩選最有希望的路徑非常有用，因此可以加快進度。但在卻無法超越現(xiàn)實，所有的現(xiàn)實因素都會帶來一定的影響，這也是對“現(xiàn)實”的一種定義。隨著模型和模擬器中添加的細節(jié)信息越來越多，便會碰到局限，以至于模擬對象的實際運行速度反而比100%復制現(xiàn)實元素的模擬器速度更快。這便引出了“現(xiàn)實”的另外一個定義：在考慮了所有細節(jié)和自由度之后，速度最快的那個版本才是“現(xiàn)實”。

　　如果你能將細胞中的所有分子和人體內的所有細胞都融入模型之中，這個模擬器的速度不會超過人體。無論你怎么努力思考，仍然需要時間來完成實驗，無論是現(xiàn)實系統(tǒng)還是模擬系統(tǒng)都概莫能外。

　　為了體現(xiàn)實用性，人工智能必須應用于現(xiàn)實世界，而現(xiàn)實世界往往會制約它們的創(chuàng)新速度。如果沒有進行實驗，沒有開發(fā)原型產(chǎn)品，沒有經(jīng)歷失敗，也沒有與現(xiàn)實互動，人工智能就只能思考，無法得出結果。所謂的“比人類更聰明的”人工智能也無法在一瞬間獲得任何發(fā)現(xiàn)。雖然發(fā)現(xiàn)速度會因為人工智能的進步而大幅加快，一定程度上源自這種與眾不同的人工智能會提出人類不會提出的問題，但即便具備遠高于我們的智能，也不意味著可以立刻取得進步。想要解決問題，光靠智能是不夠的。

　　不僅治愈癌癥和延長壽命這樣的問題不能單靠智能解決，智能本身同樣不能光靠智能來解決。奇點論者有一個理論：一旦你開發(fā)出“比人類更聰明的”人工智能，它就會突然之間努力思考，并開發(fā)出“比自己更聰明的”人工智能，然后進一步開發(fā)更聰明的人工智能，直到能力爆棚，變得跟上帝一樣。

　　沒有證據(jù)表明，僅僅靠思考智能就足以開發(fā)出更高級的智能。這種“思考主義”是一種信仰。但有很多證據(jù)表明，除了大量的智能外，還需要通過實驗、數(shù)據(jù)、試錯、反復質疑，以及各種各樣智能之外的東西，才能成功發(fā)明新的思維。

　　總結來看，我對這些說法的分析可能都是錯誤的。我們還處在發(fā)展早期，今后可能會發(fā)現(xiàn)一種通用的智能衡量標準，也可能發(fā)現(xiàn)智能可以在所有維度上變得無限強大。因為我們對智能究竟是什么知之甚少（更別提“意識”了），所以人工智能奇點存在的概率大于零。我認為，所有證據(jù)都表明，它存在的概率很低，但仍然大于零。

　　因此，盡管我不認同這種可能性，但我的確認同OpenAI所秉承的宏觀目標，以及那些擔心超人類人工智能的聰明人所懷有的擔憂——我們應該開發(fā)友好的人工智能，然后搞清楚如何向其灌輸與我們相似的自我復制價值觀。

　　雖然我認為超人類人工智能在遙遠的將來可能對我們的生存構成威脅（而且值得考慮這個問題），但由于這種概率很低（根據(jù)目前的證據(jù)來看），所以不應該因此而影響我們的科學、政策和發(fā)展方向。

　　小行星撞地球必然引發(fā)災難，這種事情發(fā)生的概率大于零（所以我們才應該支持B612基金會），但卻不應該因為存在小行星撞地球的可能性而影響我們在氣候變化、太空旅行甚至城市規(guī)劃方面所做的努力。

　　類似地，目前的證據(jù)表明，人工智能最可能的結果不是成為“超級人類”，而是會出現(xiàn)成百上千的新型“超常人類”思維，這些思維多數(shù)都與人類不同，但沒有一個是通用智能，也沒有一個能夠像神一樣瞬間解決我們面臨的重大問題。

　　相反，今后將會出現(xiàn)無數(shù)種存在局限的智能技術，在我們并不熟悉的維度從事工作，在很多方面超越我們的思維，并及時與我們配合，從而解決既有問題，同時創(chuàng)造新的問題。

　　我理解超人類人工智能的巨大吸引力。我也希望能有超人出現(xiàn)，但與超人一樣，這同樣只是虛構的神話。宇宙中的某個地方或許存在超人，但概率很低。然而，神話也很有用，一旦被發(fā)明出來，就不會消失。關于超人的想法永遠不會消失。超人類人工智能奇點的想法既然已經(jīng)誕生，肯定就會永遠存在下去。

　　但我們也應該承認，這目前還只是一種類似于宗教信仰的想法，沒有科學依據(jù)。如果我們認真研究目前掌握的關于人工智能和自然智能的各種證據(jù)，就會發(fā)現(xiàn)，我們關于超人類人工智能的設想只不過是像神話一樣的錯誤觀念。

　　與世隔絕的密克羅尼西亞群島上有很多人在二戰(zhàn)期間首次得以跟外界取得聯(lián)系。外來的上帝坐在轟鳴的大鳥身體里面，飛過他們的天空，把食物和物品投放到島上，之后便一去不返。于是，島上出現(xiàn)了一種宗教，他們祈禱上帝能夠回來投放更多物資。

　　即便是在55年后的今天，那里仍有很多人在等待上帝再次投下物資。超人類人工智能可能也會成為一個與之類似的宗教。一個世紀之后，當人們回望這段歷史的時候，可能會想，此時的信仰者開始期待超人類人工智能隨時出現(xiàn)，為他們帶來不可思議的價值。年復一年，他們始終等待著超人類人工智能的出現(xiàn)，相信它很快就能載著“物資”降臨人世。

　　然而并沒有出現(xiàn)真正的超人類人工智能。我們一直在不斷重新定義這項技術，增加它面臨的困難，甚至可能在未來限制它的發(fā)展。但從異形智能——由多樣化的智能、認知、邏輯、學習和意識構成的連續(xù)統(tǒng)一體——的廣泛角度來看，人工智能已經(jīng)在這個星球上普遍存在，而且會繼續(xù)擴散、深化、變異、強化。

　　之前沒有任何一項發(fā)明能像它一樣給我們的世界帶來如此大的改變。到本世紀末，人工智能可能會滲透并改變我們生活中的一切。不過，關于超人類人工智能的神話——既有可能是人類的福祉，也有可能奴役人類（或者二者皆有）——仍將存在下去。畢竟，這種可能性太過神秘，讓人欲罷不能。