他指出，同樣可怕的還有社會的動蕩。當(dāng)大學(xué)和學(xué)院的教職員工停止學(xué)習(xí)新事物，從錯誤百出的教科書里，他們提供的教育將萎縮和退化成為教條、似是而非以及未經(jīng)測試的假設(shè)。
 
　　2076年的世界：我們修復(fù)了氣候，但是仍然面對威脅
 
　　現(xiàn)在是2076年，天空看起來確實是乳白色的。在刮著大風(fēng)的平原和海洋上，人類搭建了風(fēng)電農(nóng)場。但在這些渦輪機邊上，人們還建造了一種不同類型的塔，并從空氣中吸收二氧化碳。
 
　　于是，一大塊土地成為了森林。在發(fā)電場中種植的樹木，在生長、收獲、以及燃燒過程之中，都不會讓二氧化碳排放到大氣中。相反，排放的二氧化碳將被捕捉，并泵送到地下儲存容器中。船舶將粉狀礦物傾倒在海洋中，使其吸收二氧化碳，并減少海洋酸化。
 
　　所有這些技術(shù)都是為了扭轉(zhuǎn)長達兩個多世紀溫室氣體排放而做的絕望補救。 但他們尚未能完成這一目標，我們反而仍然在排放溫室氣體。所以，在10公里至18公里的大氣中，一層細微的粒子屏蔽了太陽向地球的照射，并使我們的環(huán)境保持涼爽。這也是為什么天空有點發(fā)白的原因。
 
　　英國南安普敦大學(xué)的約翰·謝普德說：“我認為，在60年后，我們很有可能將使用這兩種技術(shù)?！?他指的是兩種風(fēng)格截然不同的地球工程計劃：從空氣中吸收二氧化碳，并使用遮陽罩將一些太陽光線彈回宇宙中。
 
　　像許多氣候科學(xué)家一樣，謝普德認為氣候談判進展得太慢。 即使工業(yè)排放量能夠迅速下降，盡管即使這一點還要打上一個大大的問號，還有其他的方面造成的棘手問題。我們沒有飛機燃料的替代產(chǎn)品，而供養(yǎng)眾多的人類需要精耕細作的農(nóng)業(yè)，而這兩者占據(jù)了全球二氧化碳排放量的四分之一。
 
　　這就是為什么我們必須從空氣中吸收二氧化碳。因為這是一個很難實現(xiàn)的目標，我們可能還要依靠“太陽輻射管理”。
 
　　研究中最多出現(xiàn)的想法，是將硫酸鹽細顆粒噴入平流層，但人們對于其后果仍然知之甚少。電腦模型表明，最終世界上會分為贏家和輸家。雖然遮陽方案可以將全球平均氣溫降低到工業(yè)化前的水平，但這會帶來區(qū)域差異。北歐、加拿大、西伯利亞和兩極將比之前更加溫暖，而海洋上的溫度將降低。
 
　　人們預(yù)計，全球變暖將使得濕潤地區(qū)變得更潮濕，而干燥的區(qū)域更干燥。電腦模型指出，遮陽罩可能可以改善這一點，但是，這樣的改善仍然不是均勻的。仰賴這季節(jié)性降雨的熱帶區(qū)域由于季風(fēng)變干，可能會遭受的最大的影響。
 
　　謝普德?lián)?，所有這些將會引起國際爭端。他設(shè)想了一種全球性的理事會，而政府可以根據(jù)滿足本國需求的氣候而進行游說。為了旅游業(yè)或者農(nóng)業(yè)，有些人可能更加青睞溫暖的氣候。但是依賴珊瑚礁吸引游客的國家則可能需要更多的CO2吸收技術(shù)來抵御海洋酸化和漂白。
 
　　最后是一個苦澀的轉(zhuǎn)折。飛上天的東西最終都會降下來，所以人們將不得不不斷補充遮陽罩。比如說，一些國際地球工程協(xié)議的完全崩潰這樣的事情發(fā)生之后，我們停止噴灑硫酸鹽，后果將是災(zāi)難性的。
 
　　在十年到二十年的時間內(nèi)，沒有遮陽罩的地方溫度將會飆升。原來溫暖的地區(qū)會變得超級熱，誰也不知道我們將面臨的是什么臨界點。后果之嚴重，幾乎不值得我們?nèi)タ紤]。

　　2076年的世界：無論機器多聰明，人類仍將是主宰
 
　　無論你怎樣看，未來似乎都前景黯淡。在環(huán)境、經(jīng)濟和政治等方方面面，世界似乎都面臨著巨大的壓力。表面上，我們在未來面臨的威脅數(shù)不勝數(shù)：一個巨大的小行星撞擊、全球變暖、一種新型瘟疫、或者是把一切變成灰色的粘土的離經(jīng)叛道的納米機器人。實際上，我們都不太確定究竟該最害怕什么，甚至未來人類是否還存在都是一個大大的問號。
 
　　但這幾年，我們討論最多的一個潛在威脅則是人工智能。 2014 年 12 月，史蒂芬·霍金告訴英國廣播公司，“全人工智能的發(fā)展可能會導(dǎo)致人類的終結(jié)…它將自己能發(fā)展自己，并以不斷增長的速度重新設(shè)計自己。受到緩慢的生物進化限制的人類，將無法與之競爭，并最終將被取代?！比ツ辏又@一話題對媒體表示，人工智能有可能是“發(fā)生在人類頭上最好的或最壞的事” 。
 
　　其他的知名人士，包括埃隆·馬斯克、比爾·蓋茨和史蒂夫·沃茲尼亞克，對于人工智能可能對人類造成的風(fēng)險也作了類似的預(yù)測。 然而，數(shù)十億美元仍舊滾滾地流入人工智能領(lǐng)域的研究中，并且這一領(lǐng)域正在取得驚人的進步。
 
　　在今年3月份的一場堪稱里程碑的比賽之中，圍棋大師李世石以1-4的比分落敗于AlphaGo計算機。在許多其他領(lǐng)域，無論是在地面駕駛出租車還是在空中贏得格斗，計算機正逐步開始接管人類。
 
　　理論上，霍金的恐懼源自于技術(shù)奇點這一想法。在該語境中，奇點是指機器智能開始跨越式發(fā)展的時間點，同時也是一個更為智能的新型物種開始統(tǒng)治地球的起點。 技術(shù)奇點這一想法可以追溯到許多早期的思想家，其中包括計算的創(chuàng)始人之一約翰·馮·諾伊曼（John von Neumann）和科幻作家弗諾文奇（Vernor Vinge）。
 
　　有趣的是，這個想法的歷史大致與AI研究本身相近。在1958年，數(shù)學(xué)家斯坦尼斯瓦夫·烏蘭姆（Stanislaw Ulam）在悼念不久之前逝世的馮·諾伊曼的文章中，他回憶道：“（我們有過）一次對話，對話的中心是不斷加速的技術(shù)進步和人類生活方式的變化，而這些變化促成了一些奇點基礎(chǔ)觀點的雛形......我們那時候的理解是，奇點之后，人類的事務(wù)將無法繼續(xù)?！?BR> 
　　最近，技術(shù)奇點的想法受雷·庫茲韋爾（Ray Kurzweil）的推廣而廣為人知。他預(yù)測，技術(shù)奇點將在2045年左右發(fā)生，而尼克·博斯特魯姆（Nick Bostrom）已經(jīng)寫了一本介紹后果的暢銷書。
 
　　我們害怕機器超越我們的智力有如下幾個原因。人類之所以能夠成為地球上的最具有統(tǒng)治力的物種，最主要是因為我們擁有無可比擬的智力優(yōu)勢。許多動物比我們體型更大，更快或更強，但我們利用我們的智慧發(fā)明了工具，發(fā)展了農(nóng)業(yè)，并開發(fā)出許多驚人的技術(shù)，比如蒸汽機、電機和智能手機。我們的生活由此改變，并使得我們得以統(tǒng)治地球。
 
　　因此，具有思考能力的、甚至思考能力可能比人類還要強大的機器未來很有可能將篡奪人類的位置——這一想法毫不意外，就正如大象、海豚和熊貓依靠我們的善意繼續(xù)存在，而我們的命運則反過來有可能取決于這些高級思維機器的決定。
 
　　智力爆炸這一觀點，即機器能夠遞歸般提高它們的智力，從而迅速超過人類智力，其實并不是一個特別瘋狂的想法。
 
　　從許多類似的指數(shù)趨勢中，計算領(lǐng)域獲益匪淺。 摩爾定律預(yù)測集成電路上的晶體管數(shù)量每兩年將增加一倍，這是過去幾十年來的現(xiàn)實。 因此，假設(shè)AI也將經(jīng)歷指數(shù)增長并不是不合情理的。
 
　　像許多在 AI 領(lǐng)域工作的同事一樣，我們預(yù)測，距離 AI 達到甚至超越人類的智力水平僅僅只需 30 年到 40 年即可。
 
　　總之，我們認為，技術(shù)奇點是不可能實現(xiàn)的。