信息系統工程專家、中國工程院院士沈昌祥坦言，一旦人類完全進入智能社會，機器人干活當家，沒有免疫系統的機器人被攻擊后，要么直接死掉，要么失去控制，這就很有可能給人類帶來“滅絕風險”。因此，馬斯克去年聯合400多個專家發表公告信，提醒大家要重視人工智能給社會帶來的潛在風險。

　　那么，如何預防人工智能帶來的“滅絕風險”？沈昌祥院士表示，可以借助安全可信的網絡產品和服務來構建保障體系。

　　目前，國家正在逐步健全法律法規，加強對網絡安全的監管。如，《中華人民共和國網絡安全法》第十六條規定，國務院和省、自治區、直轄市人民政府應當統籌規劃，加大投入，扶持重點網絡安全技術產業和項目，支持網絡安全技術的研究開發和應用，推廣安全可信的網絡產品和服務。《國家網絡空間安全戰略》提出，盡快突破核心技術，加快安全可信產品推廣應用。

　　“國家制度等級保護關鍵信息基礎設施是核心，國務院發布的條例里明確指出，運營者應當優先采購安全可信的產品服務，這就說明我國已經將網絡安全問題上升到國家法律戰略制度。”沈昌祥院士如是說。

　　植入主動免疫系統，實現信息安全多重保護

　　作為“可信計算”的開拓者，針對如何構建安全可信的保障體系，沈昌祥院士提出了自己的觀點。

　　首先，要解決計算原理問題，創新計算模式。用新的計算模式并行地計算，即：一邊計算一邊防護，以密碼為基因產生抗體，及時識別“自己”和“非自己”的成分，從而破壞排斥進入機體的有害物質，相當于為信息系統植入了免疫能力。

　　其次，要創新體系結構，建立雙重體系結構。這就需要有免疫器官，要有基因，也要有白細胞、紅細胞去巡查。

　　要構建有序的智能制造的社會體系。要有“警衛室”，既要管里頭出去的人，又要管外面進來的人。

　　要重視通信安全。智能化系統必須要有“保衛部門”來管理，什么級別的人能做什么事，對信息進行訪問控制。

　　同時，通過審計平臺，留下證據，可以追查，作用類似攝像頭，監控整個事情發生的過程，及時發現問題，及時處理，減少損失。

　　通過以上體系建設，達到六重防護效果：第一，攻擊者進不來；第二，進來了也拿不到東西；第三，拿到東西也沒用，東西已被加密；第四，想篡改破壞信息，“可信”免疫系統將阻止篡改行為；第五，通過制度免疫，發現病灶（故障）馬上處理，保障系統的正常運行；最后，通過“可信”審計，不打補丁、不裝殺病毒程序、不查殺，讓病毒自己滅亡。

　　沈昌祥院士表示，可信計算的安全性已經得到了證實和認可。如今，可信計算已經做到飛騰CPU和海光CPU里面，使用者不用大改現有的服務器終端，只要加上智能安全卡，通過并行總線接口，就可以實現主機工作和免疫部件并行。

　　“安全可信產業生態大有可為，完備的可信計算3.0產品鏈將形成巨大的新型產業空間，對發展新質生產力有重大的推動作用。”沈昌祥院士坦言。