AI 在工廠自動化領(lǐng)域已經(jīng)出現(xiàn)了巨大飛躍，機器學(xué)習(xí)正在快速進入能源及其他企業(yè)應(yīng)用（移動、汽車等）中 。 下一次工業(yè)革命可能會是人類直接主導(dǎo)的最后一次工業(yè)革命 ，恕我直言，未來 AI 將成為協(xié)作者以及潛在的領(lǐng)導(dǎo)者。

　　一些研究人員認為，這一天的到來只是時間問題。用斯坦福大學(xué)名譽教授尼爾斯·尼爾森博士（Dr. Nils Nilsson）的話來講，“機器會唱著這樣的歌，‘你會做的任何事，我都能做得更好；任何事我都做得比你好’?！?/P>

　　針對越來越多的自治系統(tǒng)導(dǎo)致的就業(yè)市場劇變，海爾吉·赫爾加松博士（Dr. Helgi Helgason）表示，“與其說是風(fēng)險，倒不如說是必然，我們應(yīng)該將根據(jù)這一點去改變教育政策。”

　　今年 1 月在瑞士召開的 世界經(jīng)濟論壇 2016 年年會 上，AI 帶來的經(jīng)濟顛覆成為了一大議題，由此可見全球領(lǐng)導(dǎo)人正開始規(guī)劃如何有針對性地整合 AI 科技并應(yīng)用到世界經(jīng)濟中——但這是一項需要許多人來完成的艱巨任務(wù)。

　　未來二十年中另一個常被提及的風(fēng)險是對 AI 的管理不善。顯然 AI 企業(yè)已經(jīng)對此有所顧慮，一些硅谷頂級科技大師給 OpenAI——一家關(guān)注于 AI 技術(shù)對人類的正面作用的非營利研究機構(gòu)——投資了 10 億美元。

　　“機器會唱著這樣的歌，‘你會做的任何事，我都能做得更好；任何事我都做得比你好’。”

　　——斯坦福大學(xué)名譽教授尼爾斯·尼爾森博士（Dr. Nils Nilsson）

　　“很難估量人腦級別的 AI 能對社會帶來多少益處，AI 開發(fā)不當(dāng)或使用不當(dāng)給社會帶來多少損失同樣很難想象，”O(jiān)penAI 在 2015 年 12 月的 上線頁面 上寫著這樣的兩句話。我們開發(fā) AI、管理 AI 的方式存在著極為深遠的影響，并將塑造未來社會的道德和倫理準(zhǔn)則。

　　西蒙弗雷澤大學(xué)副教授菲利普·帕斯基耶爾（Philippe Pasquier）表示，“當(dāng)我們部署越來越多的人工智能并賦予更多的責(zé)任時，造成負面后果的故障風(fēng)險也在與日俱增，”不過他也指出，他不認為 AI 會對社會本身帶來高風(fēng)險。

　　能力越大，責(zé)任就越大，如何監(jiān)管這樣的能力成為了大家最為關(guān)切的問題。

　　坦普爾大學(xué)王培博士認為主要風(fēng)險存在于“忽視深度學(xué)習(xí)（deep learning）、強化學(xué)習(xí)（reinforcement learning）等熱門技術(shù)的缺陷和限制。許多領(lǐng)域都會發(fā)生這樣的事?！盨martAction 創(chuàng)始人彼得·沃斯博士（Dr. Peter Voss）表達了類似的觀點，指出他最擔(dān)心的是“無知的人類破壞 AI 的能力和智力?！?/P>

　　考慮新興 AI 技術(shù)伴隨有哪些風(fēng)險不是件容易的事，設(shè)計出可能的解決方案及保障措施更加困難，而如何全球協(xié)作對這些措施進行實施并監(jiān)控才是最最困難的工作。但考慮到所有這些任務(wù)的緊迫性和危險性，我愿意無數(shù)次打賭，這樣的努力是值得去冒險的。