當(dāng)代智能技術(shù)的集成和演化正在引發(fā)社會結(jié)構(gòu)和社會秩序的深刻變革。尤其需要重視的是，在某些技術(shù)領(lǐng)域，如移動互聯(lián)和大數(shù)據(jù)研究，我國已經(jīng)處于世界領(lǐng)先地位，這種變革可能在我國率先出現(xiàn)。

　　當(dāng)前，新的智能技術(shù)正在快速進(jìn)入我們?nèi)粘Ｉ畹拿恳粋€角落，悄然改變著人們的價值觀念、認(rèn)知架構(gòu)與生活方式，進(jìn)而直接或間接改變社會經(jīng)濟(jì)與政治秩序。

　　我們在享受新技術(shù)的同時也要警惕新風(fēng)險——智能技術(shù)進(jìn)入了新的集成階段，人類新的生活方式和需求又將進(jìn)一步促成并改變智能技術(shù)的集成和演化方向。這之中蘊(yùn)藏著巨大的不確定性，我們將由這種不確定性引發(fā)的風(fēng)險歸為社會風(fēng)險。

　　與倫理風(fēng)險相比，社會風(fēng)險的覆蓋面更大、影響更持久、長遠(yuǎn)和深刻；同時，社會風(fēng)險通常是相對具體的，可以通過包括實(shí)驗(yàn)在內(nèi)的實(shí)證手段進(jìn)行預(yù)估和防范。

信息失控 民主退化

　　目前，智能技術(shù)進(jìn)入了新的集成階段：人工智能、機(jī)器人技術(shù)、移動通訊技術(shù)、大數(shù)據(jù)和云計(jì)算技術(shù)融合取得了突破性的進(jìn)展。技術(shù)集成不是多種技術(shù)的簡單相加，集成會產(chǎn)生“突變”“涌現(xiàn)”的智能體，從而改變?nèi)斯ぶ悄苎莼穆窂健?/P>

　　智能技術(shù)集成和演化的社會風(fēng)險主要體現(xiàn)為人類主體性喪失和獨(dú)立性削弱，首先帶來信息失控和信息壟斷問題?！笆Э亍焙汀皦艛唷笨此苾蓚€相互沖突的問題，卻同時在當(dāng)前智能技術(shù)集成和演化的社會中出現(xiàn)。當(dāng)前，人類信息普遍“在線”、信息傳播普遍“在線化”。然而，在信息本身“去中心化”的同時，信息入口卻越來越“中心化”。

　　在越來越多的智能技術(shù)影響下，我們正面臨著信息失控和信息壟斷的問題；正逐漸失去對信息的控制權(quán)。主要信息入口正在被弱人工智能壟斷并將逐步移交給強(qiáng)人工智能。

　　人類正在失去面對信息的“自主”能力，具體表現(xiàn)為：各類信息獲取前所未有地便利；信息壟斷前所未有地嚴(yán)重，信息入口的馬太效應(yīng)顯著，Google、百度和部分超高頻App逐漸成為“信息入口寡頭”；虛假和惡意信息的生產(chǎn)、傳播前所未有地便捷，影響范圍前所未有地?cái)U(kuò)大；“技術(shù)焦慮與信息迷失”成為人類普遍的生存狀態(tài)。

　　另一方面，過濾泡沫和民主退化也是風(fēng)險之一。人工智能根據(jù)有限現(xiàn)有信息對人類進(jìn)行大量重復(fù)而同類型的“個性化推薦”，導(dǎo)致人類陷入“喜歡的—推薦的—喜歡的”的自反陷阱無法逃離，切斷了人類對新鮮、陌生與異質(zhì)世界的接口，導(dǎo)致人類體驗(yàn)、視野越來越狹隘，對人類思想、認(rèn)知與行為都將產(chǎn)生重大影響。其政治意義在于，這將有害于包容異見的民主的發(fā)展，因?yàn)?，我們通過網(wǎng)絡(luò)獲得的都是同質(zhì)的觀點(diǎn)，難以在現(xiàn)實(shí)中“容忍”異議。我們預(yù)測，這一負(fù)面效應(yīng)將很快顯現(xiàn)而且可以測量。

隱私喪失 決策依賴

　　智能技術(shù)集成和演化的社會風(fēng)險還包括數(shù)據(jù)和隱私風(fēng)險。通過主動推薦、被動監(jiān)視和間接收集，隨時都在產(chǎn)生數(shù)據(jù)的人類個體的碎片化信息被大數(shù)據(jù)等技術(shù)手段重新整合，人類面臨數(shù)據(jù)丟失、行動和偏好透明化等風(fēng)險。

　　這些數(shù)據(jù)被儲藏、整理、買賣交易，人類的價值和尊嚴(yán)正遭遇嚴(yán)重挑戰(zhàn)。一些“高技術(shù)”的網(wǎng)絡(luò)攻擊，如今年5月13日大范圍爆發(fā)的勒索病毒W(wǎng)anncry就造成了巨大的數(shù)據(jù)損壞和幾十億元的損失。而所謂“數(shù)據(jù)即財(cái)富”其本質(zhì)就是“隱私即財(cái)富”，只是需要通過技術(shù)調(diào)適、公眾協(xié)商實(shí)現(xiàn)數(shù)據(jù)、隱私保護(hù)與商業(yè)、社會發(fā)展的有機(jī)平衡。

　　人類生活的自主性喪失，對人工智能的依賴增強(qiáng)，則會產(chǎn)生決策依賴問題。在非常短的未來里，由于強(qiáng)人工智能的決策遠(yuǎn)遠(yuǎn)優(yōu)于人類，越來越多人類放棄自主決策而完全依賴人工智能，成為人工智能的人體“人替”（avator）。對這類風(fēng)險的宏觀警示已經(jīng)出現(xiàn)，如杰出物理學(xué)家斯蒂芬·霍金嚴(yán)肅指出，“人工智能的發(fā)展最終會導(dǎo)致人類族群的滅絕”。

　　但是無論國內(nèi)還是國外，先進(jìn)入智能集成和演化體系的內(nèi)部后跳出來考察其社會和倫理風(fēng)險的研究并未出現(xiàn)：就整體而言哲學(xué)家持一種技術(shù)批判的外在立場對待這些技術(shù)，而技術(shù)專家則對哲學(xué)家們“大而無當(dāng)”的批評置若罔聞，他們忙于推進(jìn)這些具有內(nèi)在風(fēng)險，但暫時還不會在實(shí)驗(yàn)室中爆炸的技術(shù)的具體研究。這種跨學(xué)科的相互批評和無視乃至敵視的現(xiàn)象本身也部分地與當(dāng)代技術(shù)集成所帶來的知識鴻溝有關(guān)。

風(fēng)險評估與治理

　　當(dāng)代智能技術(shù)的集成和演化正在引發(fā)社會結(jié)構(gòu)和社會秩序的深刻變革。尤其需要重視的是，在某些技術(shù)領(lǐng)域，如移動互聯(lián)和大數(shù)據(jù)研究，我國已經(jīng)處于世界的領(lǐng)先地位，這種變革可能在我國率先出現(xiàn)。

　　如果不能敏銳地認(rèn)識到這些變革，并及時有效地回應(yīng)、及時改變社會治理方式，就很可能會釀成社會危機(jī)。而且，在今后的技術(shù)集成和演化條件下這種危機(jī)往往是災(zāi)難性的。技術(shù)整體則包含了更大的風(fēng)險，新技術(shù)已經(jīng)形塑了當(dāng)代人類的生活空間，“逼迫”人類改變自己的生活方式以適應(yīng)該環(huán)境。我們計(jì)劃通過實(shí)驗(yàn)研究的途徑探討社會風(fēng)險形成的微觀機(jī)制，以及化解風(fēng)險的治理方式的產(chǎn)生過程。