文│ 北京交通大學計算機與信息技術學院副院長 李浥東；中國科學院復雜系統管理與控制國家重點實驗室主任 王飛躍
互聯網的出現，讓虛擬空間不再虛擬，就像十五世紀開始的“地理大發現”，網絡世界讓波普爾僅在哲學上討論的第三世界“人工世界”成了活生生的新天地。人工智能的興起，加上互聯網產業二十余年的迅猛發展，更使“人工智能”成為人類生存和發展的新邊疆。大數據成了這里的“石油”“礦藏”，IT也從開發物理第一世界的工業技術“老”IT，開發心理第二世界的信息技術“舊”IT，一躍變為開發人工第三世界的智能技術“新”IT。更為重要的是，人類在經歷了以戰爭侵略為特征的“負和”全球化和自由貿易為特征的“零和”全球化之后，開始了以智力開源大發展為特征的“正和”全球化。
“新基建”恰逢這一歷史轉折時刻，正是推動這第三波智慧的全球化之開路先鋒。“新基建”是建設智慧社會基礎設施的開始，在確保新舊動能轉換、新舊產業升級的同時，為構建新型智能化基礎設施打下堅實基石。為此，“新基建”下人工智能面臨的安全態勢與對策，成為全球各國關注的核心問題。
一、“新基建”中的安全挑戰
1. “新算力”挑戰：人工智能安全
在“新基建”的發展進程中，一方面，人工智能、異構計算處理器等先進計算機軟硬件技術將極大提升算法效率和計算能力；另一方面，5G、云計算等新型信息基礎設施的建設使高算力變得人人可及，對網絡空間安全提出了新的挑戰。首先，人工智能的關鍵任務對安全防護的及時性提出了更高要求。從銀行業務到自動駕駛，從家庭自動化到機器人輔助手術，這些應用通常都具有高動態、強實時等特征，要求系統快速適應新環境并學習新技能。例如，汽車自動駕駛技術通過實時學習其他成功駕駛案例，可以快速適應意外和危險的道路條件。同時，此類關鍵任務型的人工智能系統也必須具備快速檢測入侵事件、識別攻擊模式并采取抵御措施的實時防護能力，從而處理噪聲輸入、抵御惡意攻擊。其次，人工智能的個性化服務需求對敏感信息保護提出了更高要求。人工智能應用的場景越來越廣泛，根據用戶行為的特征（例如，適用于用戶口音的虛擬助理）和用戶偏好（例如，學習用戶駕駛習慣的自動駕駛系統）提供定制化的智能決策服務已成為人工智能應用的主要方向之一。然而，在為用戶提供更精準服務的同時，系統需要收集大量的用戶個人信息（包括個人敏感信息）。盡管歐盟已發布GDRP，但目前關于隱私保護的政策法規和技術手段尚不完善，使得保護用戶個人隱私信息和利用這些數據獲取巨大商業利益之間的矛盾日益突出。再次，人工智能跨組織融合對數據安全共享提出了更高要求。在“新基建”趨勢下，各類系統和業務的融合速度加快，跨組織、跨地域的數據共享需求越來越高。例如，醫院共享數據以預防流行病爆發，金融機構共享數據以提高其欺詐檢測能力擴散等。這些智能應用有時需要使用不同機構（甚至是有競爭關系的實體）擁有的數據進行聯合訓練，一方面可能造成數據所有者敏感信息（如商業秘密等）泄露，另一方面也為惡意攻擊提供了更高價值的攻擊目標和更多源的攻擊渠道。最后，基于機器學習的安全算法與軟件漏洞問題日益突出。近年來，越來越多的網絡安全解決方案正在應用機器學習方法來提高安全效率和能力。然而，機器學習系統引入了特定的漏洞，熟練的攻擊者可以利用這些漏洞來危害整個系統。因此，基于機器學習的算法和軟件本身可能成為安全鏈中最薄弱的環節。此外，在開放互聯的數字世界中，學習系統經常被部署在對抗性的環境中處理“未知”的未知信息。由于建模攻擊通常依賴于“已知”的未知信息，而“未知”的未知信息是不可預測的，這使得對機器學習系統的大量潛在攻擊也成為不可預測的。5G網絡變革將帶來技術和產業的顛覆式發展，是數字經濟的全面實踐和完整體現。雖然在網絡安全方面5G技術進一步加強了認證授權、隱私保護、網絡架構與互通安全等保障力度，但實際應用中的5G生態極為復雜，傳統的在遠端集中部署的安全保護模式已經不能滿足5G時代行業數字化、業務邊緣化的安全防護需求。首先，5G的“萬物互聯”模式打通了物理世界和數字世界，數字資產的價值和意義日益突出。隨著工業互聯網、車聯網等發展，社會場景數字化、人工智能算法化、工業數據模型化、工業知識軟件化等趨勢越來越明顯，使得數字資產的范圍不斷擴大，其價值已逐步接近物理世界資產，未來甚至會超越物理世界資產。目前，由于數字資產的內涵和邊界尚不清晰，使得建立以數字資產保護為核心的數據保護體系面臨巨大挑戰。其次，5G 網絡提供網絡切片機制來服務于不同的應用業務，靈活的整體端到端切片管理編排和資源管理，使得網絡邊界變得十分模糊，對傳統依賴物理網絡邊界保護網絡空間安全的方法帶來極大挑戰。原則上，每個網絡切片是一個相對獨立的網絡域，配置各自不同的安全機制。但如果切片間出現信息泄露，攻擊者就可能從一個低安全等級的切片進入另一個高安全等級切片，竊取、干擾目標切片通信內容。此外，由于是在同一物理網絡上共存多個切片，因此很容易受到側信道攻擊等。最后，5G利用邊緣計算模式將業務決策能力下沉到終端，從而提升用戶體驗。但由于邊緣節點所處的用戶側環境復雜，容易受到非授權訪問、惡意數據篡改等攻擊，一旦用戶側5G業務被攻擊，如果沒有配套的安全監測手段，很容易對整個安全生產和基礎設施產生巨大影響。另外，由于5G網絡支持多樣化終端，使其面臨著終端軟件和硬件設計漏洞導致的安全風險。隨著我國城市化進程的快速推進，“新基建”將新型交通網絡（尤其是軌道交通）和新型能源網絡建設作為傳統基礎設施升級的典型示范領域，進而帶動國民經濟各行業的生產基礎設施向網絡化、數字化、智能化轉型，有效推動各行業在技術、產業和商業模式的融合創新。隨著這些基礎設施智能化和自動化程度的提高，其面臨的安全問題日益突出。以近年來發展迅猛的軌道交通為例，我國即將進入以全自動駕駛、智能調度、智能維修、多模態生物信息識別等新技術為代表的智能運營時代。然而，針對軌道交通系統的信息安全防護還集中在對傳統網絡和信息系統的各類主機及關鍵節點的資產管理、威脅預警和應急響應等，無法滿足未來智能交通系統的安全保障需求。首先，交通關鍵信息基礎設施安全防護體系尚不完善。隨著交通系統的自動化和智能化程度越來越高，其關鍵信息基礎設施（如軌道交通中列車運行控制系統、調度指揮系統、運輸調度管理信息系統、客票發售與預訂系統等）之間的耦合關系愈發緊密。而針對這類緊耦合復雜系統的安全防護體系目前還處于理論自洽階段，還遠不能滿足以調度控制一體化、軌道交通公交化、旅客出行個性化等為代表的實際運營需求。其次，交通外場設備成為網絡安全保障盲點。我國交通網絡規模急速增長，各類交通外場設施、載運工具和移動終端等數量大幅度增長且分布極為廣泛。而針對交通外場設施的安全保障方法受限于接口種類、通信協議等尚沒有實現統一管理，無法實時了解各類交通外場設施的運行狀態和正在面臨的網絡安全威脅等內容，更不能對這些設施實現遠程防護和應急響應等功能，遠未達到智能化安全管理的應用需求。最后，交通網絡未知威脅感知能力尚顯不足。針對交通運輸網絡中特有的交調設備、氣象設備、監控設備、邊坡設備等，業內尚缺乏對攻擊特征的積累，一旦遭受攻擊就可能是毫無防御能力的未知攻擊。另外，以高級持續攻擊(APT) 攻擊為代表的網絡攻擊往往采用多種綜合的攻擊手法，能夠繞開傳統基于規則的安全產品的檢測，使得傳統的基于脆弱性、反應性、邊界性的周界安全模型很難應對全球化、規模化、快速演變的網絡攻擊。這些都極大限制了軌道交通系統應對突發網絡安全事件的應急響應技術能力。
二、“新基建”給安全帶來的新機遇
1. 人工智能為安全防護賦能
人工智能技術為網絡空間安全防護智能化提供了新的發展機遇，可以為網絡空間安全防護在預測、檢測、防御和響應等各環節全面提升安全性能提供技術支撐。在網絡攻擊預測方面，人工智能系統可以利用機器學習預判網絡攻擊，并結合專家系統給出智能決策，以抵御攻擊并且評估風險；在安全檢測方面，可以實時監控網絡系統，無需人工監視，感知網絡安全態勢；在網絡防御方面，可以利用已有的攻擊樣本判斷攻擊類型，實現安全防御自動化；在攻擊響應方面，可以實現安全響應自動化，并允許人工干預，快速形成攻擊案件分析，為專家系統的決策支持提供基礎數據。區塊鏈作為一種基于密碼學原理、共識機制和數據存儲結構等關鍵機制的分布式數據庫技術，使傳統上難以流通和商品化的“注意力”與“信用度”成為可以批量化生產的流通商品，革命性地擴展了經濟活動的范圍與提高效率的途徑。2020年4月20日，國家發改委首次明確新型基礎設施的范圍，基于區塊鏈的新技術基礎設施是其中重要組成部分。區塊鏈的兩個核心性質“去中心化”和“不可篡改”，保證了區塊鏈的高度透明化和可追溯性，在高度開放的動態計算環境中創造了可信任基礎，有助于在“新基建”中建設數字社會可信體系。另外，通過將區塊鏈技術與人工智能、物聯網和5G等新興信息技術進行深度融合，可以自底向上地與互聯網基礎架構融合，實現可信、可靠、可用、高效的集成化應用，從而促進數據共享、優化業務流程、提升協同效率、降低運營成本。
三、“新基建”下的安全新范式
“新基建”將極大促進物理世界、人工世界和心理世界的融合進程，為社會物理信息系統（Cyber-Physical-Social Systems, CPSS）的構建提供重要支撐。“新基建”時代的網絡空間安全內涵也需要不斷發展和進化，安全防護理念、技術思想、產業思維和人才培養等都需要全面升級。其核心就是要求安全防護體系從傳統“打補丁”式的被動檢測防護向“增強免疫力”為目標的預測引導防護演進。
目前，我國已經在大數據、人工智能、云計算等領域建立了較完善的技術體系和較深厚產業積累，在5G、智能交通、新能源等方面甚至取得了先發技術和產業優勢，這使得在“新基建”發展過程中，同步建立新型網絡安全標準體系的技術條件和時機日漸成熟，從而促進網絡空間安全領域從安全觀和安全策略等方面實現進一步升級。在安全觀方面，傳統的安全觀主要強調物理系統（如工業設備）或者網絡空間（如互聯網）的單一世界安全，而在安全邊界延展過程中，基于波普爾的“三個世界”理論將成為新安全觀演化的基礎，即未來的安全應該是能夠同時保障物理世界、心理世界和人工世界均安全的“大安全”。整體的、動態的、開放的、相對的和共同的安全觀已經成為網絡信息安全領域的普遍共識。在安全策略方面，傳統的安全策略還停留在描述性安全為主、預測性安全為輔的“打補丁”式被動檢測防護模式，這種“兵來將擋水來土掩”的安全策略在面對系統復雜性不斷提升而帶來的安全威脅時顯得力不從心。因此，需要將攻防雙方的心理和社會因素納入到安全策略的建設體系中，利用生成式對抗模型產生的安全大數據填補認知鴻溝，建立以引導安全為主、預測性安全和描述性安全為輔的主動式安全防護體系，不斷增強系統的免疫力。此外，隨著我國“一帶一路”“高鐵走出去”等的推進，在更大范圍內建立并完善具有共識性的網絡空間安全標準體系，可以有效延展網絡空間安全邊界，為建立網絡空間縱深防御體系提供基礎支撐。通過深入分析CPSS系統的安全特征，融合人工智能、區塊鏈等新技術和心理學、社會學等人因要素，建立以平行智能理論為基礎，集描述性安全、預測性安全和引導性安全為一體的平行安全理論與技術體系，就成為“新基建”時代保護各類CPSS系統的一種有效解決方案。其核心思想是利用人工系統來模擬和表示復雜的實際安全系統，通過計算實驗進行各種安全模型的訓練分析和評估，借助虛實互動的平行執行來在線優化安全模型，形成虛實空間的反饋與閉環，從而提升對復雜系統的智能安全防護與免疫能力。平行安全系統的基本框架如圖1所示。首先，通過綜合考慮CPSS系統中的各種復雜因素，結合理論建模、經驗建模和數據建模方法，建立與實際安全系統“伴生”的一個或多個人工安全系統。其次，在人工安全系統中，利用生成式對抗學習等智能方法與人工參與相結合的方式對系統攻防雙方特征與行為進行精確建模，以自底向上的涌現方式實施海量計算實驗，并在實驗過程中模擬、記錄系統實時狀態及演化特性，輔助推理和預測實際安全系統各核心要素在不同情況下的耦合關系與演化規律。
最終，通過特定的平行交互機制與協議將人工安全系統和實際安全系統連接，實時同步數據、模型、場景和決策等要素，并通過人工系統中場景推演，實現對系統未來狀態的預測，并相應地調節各自的管理與控制方式。
3. 培養網絡空間安全優秀人才
現階段我國網絡空間安全人才培養遠遠不能滿足網絡大國向網絡強國轉變的需求。因此，網絡空間安全優秀人才的培養已成為當務之急。首先，打造“國家政策護航、高校教育為主，產業實踐支撐”的人才培養新格局。從國家層面提高網絡空間安全的政治站位，從保障國家安全的戰略高度，支持網絡空間安全人才的培養；從高校、科研機構層面，加強理論知識和實際應用的結合，提升網絡空間安全人才的整體水平；從產業應用方面，加強與科研院校的實踐合作，交換信息，分享經驗，從而共同建設一支國際高水平的網絡空間安全優秀人才隊伍。其次，建立以網絡空間安全為基礎的跨學科人才培養體系。由于網絡空間安全具有技術尖端、對抗激烈、覆蓋面廣等顯著特點，不僅需要相關從業人員具有扎實的計算機、信息安全等方面的基礎能力，還需要建立對攻擊防護對象（如工業控制系統、交通系統、電力系統等）的綜合知識體系。最后，構建以平行安全系統為核心的人才培養實踐平臺。構建可以表示各種安全知識和攻擊行為的人工安全系統，提供“真實攻防”實驗環境，使學生可以系統地進行攻防測試，從而掌握不同的安全策略和管理規則，加強了學生的網絡攻防觀念和攻防實戰能力。
來源：中國信息安全
