每經(jīng)記者 石雨昕    每經(jīng)編輯 陳旭    

中國(guó)工程院院士沈昌祥長(zhǎng)期從事計(jì)算機(jī)信息系統(tǒng)、信息安全體系結(jié)構(gòu)、系統(tǒng)軟件安全、網(wǎng)絡(luò)安全等方面的研究工作，有豐富經(jīng)驗(yàn)和成果。目前擔(dān)任中央網(wǎng)信辦專家咨詢委顧問、國(guó)家集成電路產(chǎn)業(yè)發(fā)展專家組成員等職。

近年來(lái)，全球重大網(wǎng)絡(luò)安全事件頻發(fā)，勒索軟件、數(shù)據(jù)泄露、黑客攻擊等層出不窮，且變得更具危害性。與此同時(shí)，大數(shù)據(jù)、云計(jì)算、人工智能等信息技術(shù)廣泛應(yīng)用在隱私保護(hù)、數(shù)據(jù)安全等方面，也帶來(lái)了新的風(fēng)險(xiǎn)和挑戰(zhàn)。

2024年8月21日，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《關(guān)于完善市場(chǎng)準(zhǔn)入制度的意見》，其中明確提出要優(yōu)化新業(yè)態(tài)新領(lǐng)域市場(chǎng)準(zhǔn)入環(huán)境，聚焦人工智能、自主可信計(jì)算、信息安全等新業(yè)態(tài)新領(lǐng)域，推動(dòng)生產(chǎn)要素創(chuàng)新性配置，提高準(zhǔn)入效率。要實(shí)施前沿技術(shù)領(lǐng)域創(chuàng)新成果應(yīng)用轉(zhuǎn)化市場(chǎng)準(zhǔn)入環(huán)境建設(shè)行動(dòng)，率先推動(dòng)海陸空全空間智能無(wú)人體系應(yīng)用和標(biāo)準(zhǔn)建設(shè)，加快構(gòu)建綠色能源等領(lǐng)域準(zhǔn)入政策體系，積極擴(kuò)大數(shù)字產(chǎn)品市場(chǎng)準(zhǔn)入。

隨著數(shù)字化轉(zhuǎn)型深入推進(jìn)，如何讓更多人共享數(shù)字時(shí)代的便捷和紅利，同時(shí)解決好數(shù)據(jù)安全和隱私保護(hù)問題？在《每日經(jīng)濟(jì)新聞》創(chuàng)刊20周年之際，圍繞相關(guān)問題，沈昌祥院士接受了《每日經(jīng)濟(jì)新聞》記者（以下簡(jiǎn)稱NBD）的專訪。

人工智能應(yīng)用引發(fā)的安全風(fēng)險(xiǎn)已引起全球關(guān)注

NBD：大數(shù)據(jù)時(shí)代下，大模型應(yīng)用越來(lái)越廣泛，在提高生產(chǎn)力的同時(shí)，在安全方面帶來(lái)了哪些挑戰(zhàn)？您認(rèn)為隨著技術(shù)發(fā)展，這些問題能徹底解決嗎？對(duì)此應(yīng)該持有什么樣的態(tài)度？

沈昌祥：首先需要明確一點(diǎn)，當(dāng)前很多人對(duì)大數(shù)據(jù)的理解可能存在誤區(qū)，認(rèn)為大數(shù)據(jù)就是海量數(shù)據(jù)，這并不準(zhǔn)確。

實(shí)際上，大數(shù)據(jù)不僅是指數(shù)據(jù)的海量性，而且是指那些無(wú)法用現(xiàn)有軟件工具處理的復(fù)雜數(shù)據(jù)集。如果數(shù)據(jù)能夠被現(xiàn)有的數(shù)據(jù)庫(kù)處理，或者能夠通過軟件工具進(jìn)行挖掘、開發(fā)和模型構(gòu)建，那么這些數(shù)據(jù)并不屬于大數(shù)據(jù)的范疇。

我們可以將大數(shù)據(jù)類比為鉆石礦，本質(zhì)是礦源，礦源必須經(jīng)過開采和冶煉，才能轉(zhuǎn)變?yōu)榇竽Ｐ蛥?shù)。大模型是基于大數(shù)據(jù)的半成品，為了得到大模型，需要進(jìn)行學(xué)習(xí)模型的訓(xùn)練，最終目的是產(chǎn)生人工智能（AI）產(chǎn)品，從而促進(jìn)社會(huì)的數(shù)智化。

但是，大模型應(yīng)用帶來(lái)的風(fēng)險(xiǎn)也不可忽略。大模型本質(zhì)上屬于深度學(xué)習(xí)，但在參數(shù)的數(shù)量上要比深度學(xué)習(xí)高幾個(gè)數(shù)量級(jí)，比如GPT-4（OpenAI為聊天機(jī)器人ChatGPT發(fā)布的語(yǔ)言模型）的參數(shù)規(guī)模已經(jīng)高達(dá)1.8萬(wàn)億。因此，大模型在全面拓展深度學(xué)習(xí)算法模型能力的同時(shí)，也放大了已有的AI安全問題。

最為關(guān)鍵的是，大模型繼承了深度學(xué)習(xí)模型的“黑盒子”特性，再加上高達(dá)百億或千億的復(fù)雜參數(shù)與神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，其內(nèi)部決策與推理過程常常難以解釋，因此埋下了極大的風(fēng)險(xiǎn)隱患。

目前，常見的大模型可能引發(fā)的安全風(fēng)險(xiǎn)問題包括隱私信息泄露、侵權(quán)問題、可信與倫理問題、被用于惡意目的或攻擊等，其中，“幻覺”、偏見和違反當(dāng)?shù)胤煞ㄒ?guī)及違背風(fēng)俗習(xí)慣、價(jià)值觀等問題最難以察覺。

我們可以看到，當(dāng)前，人工智能的應(yīng)用所引發(fā)的安全風(fēng)險(xiǎn)，已經(jīng)引起全球?qū)ι墒紸I倫理和安全問題的高度關(guān)注。比如與中國(guó)《生成式人工智能服務(wù)管理辦法（征求意見稿）》征求意見幾乎同一時(shí)期，美國(guó)商務(wù)部也就相關(guān)問責(zé)措施正式公開征求意見，包括新人工智能模型在發(fā)布前是否應(yīng)經(jīng)過認(rèn)證程序、建立人工智能模型可信度、建立合法性和道德準(zhǔn)則相關(guān)審查制度等。

隨著技術(shù)的發(fā)展，我們期望能夠減少大模型出現(xiàn)“幻覺”、偏見等問題的頻次，提高可信度，但是完全消除這些風(fēng)險(xiǎn)是不太可能的，因?yàn)榘踩尚攀冀K是相對(duì)的，而不是絕對(duì)的。即便實(shí)現(xiàn)產(chǎn)品本身安全可信也還是不夠的，人在使用新技術(shù)新產(chǎn)品過程中的倫理道德也需要強(qiáng)化，因此，加強(qiáng)網(wǎng)絡(luò)社會(huì)治理極為關(guān)鍵，要制定并完善相關(guān)法律法規(guī)，做好社會(huì)層面的保障和服務(wù)，確保網(wǎng)絡(luò)空間的安全和秩序。

NBD：最新數(shù)據(jù)顯示，我國(guó)網(wǎng)民規(guī)模近11億人，互聯(lián)網(wǎng)普及率達(dá)78.0%，在數(shù)字經(jīng)濟(jì)時(shí)代，數(shù)據(jù)作為核心生產(chǎn)要素，數(shù)據(jù)泄露風(fēng)險(xiǎn)和隱私保護(hù)問題成為不容忽視的問題。您認(rèn)為如何應(yīng)對(duì)個(gè)人隱私泄露等安全問題？

沈昌祥：從技術(shù)層面來(lái)看，可信計(jì)算技術(shù)廣泛應(yīng)用于國(guó)家重要信息系統(tǒng)，例如增值稅防偽、彩票防偽、二代居民身份證安全系統(tǒng)等領(lǐng)域，在數(shù)據(jù)安全與隱私保護(hù)層面，可信計(jì)算技術(shù)可以通過實(shí)施端到端的加密策略、嚴(yán)格的完整性驗(yàn)證機(jī)制以及精細(xì)化的訪問控制體系，構(gòu)建一個(gè)全方位動(dòng)態(tài)免疫的數(shù)據(jù)防護(hù)網(wǎng)。

此外，可信計(jì)算技術(shù)通過構(gòu)建可信云環(huán)境和實(shí)施邊緣設(shè)備的安全管理，提升云計(jì)算服務(wù)的可信性，以保障用戶數(shù)據(jù)與業(yè)務(wù)的安全。

但是，隱私保護(hù)是系統(tǒng)工程，除了技術(shù)，更要從法律層面、治理層面、經(jīng)營(yíng)層面來(lái)加以解決。

首先，國(guó)家要有法律保障，科學(xué)合理制定個(gè)人隱私保護(hù)原則，從國(guó)家層面建立這樣的保護(hù)體系來(lái)解決好個(gè)人隱私泄露及個(gè)人隱私安全保護(hù)的問題。其實(shí)技術(shù)本身是沒有好壞之分的，但是使用者道德意識(shí)是有區(qū)別的，需要從法律層面來(lái)約束違法行為。

其次，現(xiàn)在很多重要的個(gè)人隱私泄露，主要是企業(yè)運(yùn)行者記錄個(gè)人身份信息所形成的，有大量個(gè)人信息存儲(chǔ)在企業(yè)端，尤其是在數(shù)據(jù)收集和使用方面，企業(yè)需要找到個(gè)人權(quán)益保護(hù)的方法。但是目前這方面我們還需要不斷探索完善，要先解決好諸如數(shù)據(jù)權(quán)利歸屬難以認(rèn)定和劃分等關(guān)鍵問題。

要構(gòu)建數(shù)字經(jīng)濟(jì)主動(dòng)免疫保障體系

NBD：近年來(lái)，我們面臨來(lái)自網(wǎng)絡(luò)空間的風(fēng)險(xiǎn)更加復(fù)雜，二維碼網(wǎng)絡(luò)釣魚攻擊、勒索軟件攻擊等持續(xù)成為威脅，在您看來(lái)，應(yīng)對(duì)網(wǎng)絡(luò)安全問題的關(guān)鍵是什么？

沈昌祥：計(jì)算機(jī)網(wǎng)絡(luò)所面臨的威脅大體可分為對(duì)網(wǎng)絡(luò)中信息受到的威脅和對(duì)網(wǎng)絡(luò)中設(shè)備受到的威脅。

舉例來(lái)說(shuō)，操作員安全配置不當(dāng)造成的安全可靠缺陷等會(huì)對(duì)網(wǎng)絡(luò)設(shè)備安全帶來(lái)威脅，但更為嚴(yán)峻的人為惡意攻擊，即蓄意破壞以謀取利益的行為，這種有針對(duì)性的攻擊遍布網(wǎng)絡(luò)每個(gè)角落，對(duì)安全構(gòu)成極大挑戰(zhàn)。此類攻擊又可以分為被動(dòng)攻擊和主動(dòng)攻擊，在討論網(wǎng)絡(luò)安全時(shí)，人們通常關(guān)注故障性安全，但往往忽略了系統(tǒng)人為攻擊的嚴(yán)重性。

事實(shí)上，真正的挑戰(zhàn)不僅僅在于黑客攻擊、病毒入侵或系統(tǒng)漏洞這些表面現(xiàn)象，根本問題在于計(jì)算科學(xué)缺少攻防理念、體系結(jié)構(gòu)缺防護(hù)部件、重大工程應(yīng)用缺乏安全服務(wù)這三大問題，本質(zhì)還是計(jì)算原理的基礎(chǔ)科學(xué)技術(shù)問題。

具體而言，圖靈計(jì)算原理在奠定現(xiàn)代計(jì)算基礎(chǔ)的同時(shí)，其設(shè)計(jì)之初并未融入攻防理念，導(dǎo)致后續(xù)構(gòu)建體系結(jié)構(gòu)的過程中，在追求計(jì)算效率與功能集成的同時(shí)，缺乏內(nèi)置的安全防護(hù)機(jī)體。

由此可以看到，一方面，傳統(tǒng)網(wǎng)絡(luò)安全系統(tǒng)主要是由防火墻、入侵監(jiān)測(cè)和病毒查殺打補(bǔ)丁等組成，這種“封堵查殺”的模式難以應(yīng)對(duì)人為攻擊，且容易被攻擊者利用。

另一方面，隨著科技的進(jìn)步，尤其是機(jī)器人技術(shù)、仿生學(xué)以及人工智能的迅猛發(fā)展，這種技術(shù)進(jìn)步的加速并未自然伴隨安全性的同步提升，反而因技術(shù)的廣泛應(yīng)用與深入滲透，使得潛在的安全風(fēng)險(xiǎn)成為滅絕風(fēng)險(xiǎn)。

基于這一背景，我認(rèn)為關(guān)鍵是要構(gòu)建數(shù)字經(jīng)濟(jì)主動(dòng)免疫保障體系，打造安全可信的產(chǎn)業(yè)生態(tài)。

一方面，信息系統(tǒng)和人體一樣，比如人患了癌癥，可能手術(shù)后沒有病癥了，但免疫系統(tǒng)仍有排異反應(yīng)，因此需要從被動(dòng)防御轉(zhuǎn)為“主動(dòng)免疫”，從而實(shí)現(xiàn)安全可控。主動(dòng)免疫的原理是在計(jì)算的同時(shí)進(jìn)行安全防護(hù)，并增加可信密碼模塊、可信控制平臺(tái)等形成免疫系統(tǒng)。

另一方面，安全可信就相當(dāng)于建立起人體免疫系統(tǒng)，能動(dòng)態(tài)實(shí)時(shí)全方位地進(jìn)行可信驗(yàn)證，使得存在的缺陷以及漏洞不至于被攻擊者所利用。因此需要按照國(guó)家網(wǎng)絡(luò)安全法規(guī)、戰(zhàn)略和等級(jí)保護(hù)制度要求，推廣安全可信產(chǎn)品和服務(wù)，要全面采用自主可信計(jì)算的網(wǎng)絡(luò)產(chǎn)品和服務(wù)。

此外，即便產(chǎn)品和服務(wù)都具備基本的免疫能力，安全可信，但充分的社會(huì)保障和服務(wù)體系對(duì)提升整體免疫力同樣不可或缺。其中，要加快健全完善適應(yīng)新形勢(shì)的法律法規(guī)體系，制定一批社會(huì)急需的條例及規(guī)章制度，例如修訂和完善網(wǎng)絡(luò)隱私保護(hù)、信息內(nèi)容安全、打擊網(wǎng)絡(luò)犯罪等法律制度。

NBD：當(dāng)前我國(guó)可信計(jì)算體系發(fā)展如何？未來(lái)要達(dá)到哪些目標(biāo)？

沈昌祥：世界可信計(jì)算演進(jìn)可以分為三個(gè)階段。

在可信1.0階段，該技術(shù)聚焦于提升主機(jī)的可靠性，主要面向計(jì)算機(jī)部件，通過冗余備份的結(jié)構(gòu)設(shè)計(jì)和容錯(cuò)算法的形態(tài)應(yīng)用，有效增強(qiáng)了系統(tǒng)的故障診查與容錯(cuò)能力。

隨后，可信計(jì)算邁入2.0時(shí)代，其關(guān)注點(diǎn)轉(zhuǎn)向PC單機(jī)節(jié)點(diǎn)的安全性，采用功能模塊化的結(jié)構(gòu)設(shè)計(jì)，以被動(dòng)度量的機(jī)理為核心，通過可信平臺(tái)模塊（TPM）與可信軟件棧（TSS）的結(jié)合，實(shí)現(xiàn)安全性的初步提升，但串行掛接TPM仍面臨側(cè)信道攻擊的威脅，曾發(fā)生的事件影響了全球數(shù)十億節(jié)點(diǎn)的安全。

而目前是以中國(guó)為代表的自主可信計(jì)算即可信計(jì)算3.0時(shí)代。相較于國(guó)外可信計(jì)算被動(dòng)調(diào)用的外掛式體系結(jié)構(gòu)，我國(guó)可信計(jì)算革命性地開創(chuàng)了自主密碼為基礎(chǔ)、控制芯片為支柱、雙融主板為平臺(tái)、可信軟件為核心、可信連接為紐帶、策略管控成體系、安全可信保應(yīng)用的全新的可信計(jì)算體系結(jié)構(gòu)框架。

可信計(jì)算3.0經(jīng)過長(zhǎng)期攻關(guān)、滾動(dòng)發(fā)展，已經(jīng)形成了安全可信的系列產(chǎn)品和服務(wù)，比如具備可信計(jì)算功能的國(guó)產(chǎn)CPU（中央處理器）、可信BMC（基板管理控制器,）和智能安全卡，具備可信計(jì)算3.0技術(shù)的設(shè)備等，為構(gòu)建高等級(jí)防護(hù)的關(guān)鍵信息基礎(chǔ)設(shè)施防護(hù)打下了物質(zhì)基礎(chǔ)。

需要注意的是，在整個(gè)過程中，一定要對(duì)最終的系統(tǒng)擁有自主知識(shí)產(chǎn)權(quán)，保護(hù)好自主創(chuàng)新的知識(shí)產(chǎn)權(quán)及其安全。

我認(rèn)為未來(lái)構(gòu)建安全可信保障體系要達(dá)到“六不”效果的生態(tài)：第一是攻擊者進(jìn)不去；第二是即使混入了，也無(wú)法獲取信息；第三是拿到了信息也看不懂，因?yàn)樾畔⑹羌用艿?，無(wú)法理解其內(nèi)容；第四是無(wú)法進(jìn)行篡改，勒索無(wú)效；第五是即使出現(xiàn)了故障問題，也能及時(shí)發(fā)現(xiàn)并處理，防止系統(tǒng)崩潰；第六是行為都審計(jì)記錄在案，即具有不可抵賴性。