人工智能（AI）產業競技式發展，引發全球政產學研用各界關注。近半年，歐美大舉出臺相關戰略、法規和標準措施，以保持和鞏固其在人工智能領域的領導地位。歐盟標準化工作主要圍繞《人工智能法案》的出臺和人工智能技術的實際應用，而美國標準化工作則基于聯邦法和州法的制定及NIST的研究成果。
一、 背景情況
（一）歐盟保持“強”監管模式，強調個人權利保障。歐盟在人工智能法律監管方面率先布局，有意復制GDPR經驗，推進人工智能全球統一立法，在對人工智能系統進行分類監管的基礎上，針對可能對個人基本權利和安全產生重大影響的人工智能系統建立全面的風險預防體系。該預防體系是在政府立法主導和監督下，推動企業建設內部風險管理機制。此外，歐盟將標準化作為市場監管的重要手段。2023年5月歐盟委員會發布M/593號標準化請求，向歐洲標準化委員會和歐洲電工標準化委員會（CEN/CENELEC）提出10項標準需求。
（二）美國采取“軟”治理模式，側重產業發展創新。自2023年5月以來，美國白宮發布《國家人工智能研發戰略計劃（2023年版）》，在技術層面新增“開展可擴展的通用目的人工智能系統研究”等優先事項；美國國會參眾兩院兩黨議員共同提出《國家人工智能委員會法案》，擬建立“國家人工智能委員會”，負責對人工智能監管立法的迫切度進行分級并引導相關立法；美國商務部成立生成式人工智能的工作組，由美國國家標準與技術研究院（NIST）負責，探索使用人工智能風險管理框架以指導應對快速發展的生成式人工智能所產生的風險，并逐步開展生成式人工智能相關的測試和評估。
二、 主要內容
（一） 近期歐盟人工智能網絡安全標準化工作情況
1. 歐委會要求CEN/CENELEC制定人工智能領域標準
2023年5月22日，歐委會發布M/593號標準化請求，向歐洲標準化委員會和歐洲電工標準化委員會（CEN/CENELEC）提出10項擬完成的人工智能標準化成果物（詳見表1），以促進風險管理、數據質量、透明度、人工監督、準確性、魯棒性、網絡安全、系統存儲能力、供應商質量管理體系和符合性評估等人工智能標準研制。同時，歐委會要求CEN/CENELEC編制一份工作計劃，說明表1中所有標準化成果的負責技術機構以及推進時間安排。
2. ENISA發布4份人工智能網絡安全報告
2023年7月，歐盟網絡安全局（ENISA）舉行“人工智能網絡安全會議”，會上ENISA執行主任朱漢·勒帕薩爾（Juhan Lepassaar）表示：“ENISA正在研究人工智能技術的復雜性，以最大限度地降低網絡安全風險，加強隱私保護。ENISA也嘗試在人工智能技術的安全性和系統性能之間取得最佳平衡，為政策制定者提供支持。”本次會議ENISA發布了4份關于人工智能安全的報告，分別是：《人工智能良好網絡安全實踐的多層框架》《人工智能和網絡安全研究》《人工智能中的網絡安全和隱私：醫學影像診斷》《人工智能中的網絡安全和隱私：預測電網需求》。
（1）《人工智能良好網絡安全實踐的多層框架》
此前，ENISA已經發表了兩份關于人工智能網絡安全的報告，即《人工智能網絡安全挑戰》和《保護機器學習算法》，為人工智能機器學習（ML）生命周期內的網絡安全提供了指導。然而，上述報告并未完全涵蓋整個人工智能生命周期和人工智能供應鏈涉及的全部要素。為此ENISA發布《人工智能良好網絡安全實踐的多層框架》，提出了人工智能最佳網絡安全實踐框架（framework for AI good cybersecurity practices，FAICP），以增強基于人工智能的產品的彈性和安全性。
FAICP是一個可擴展的三層框架，為人工智能服務提供者、利益相關方和研究界如何使用現有的網絡安全實踐提供指導，以及為衛生、能源、電信等需要額外特殊實踐的行業提供建議。FAICP具體包括以下內容：
層級1——網絡安全基礎，包含在各種標準、方法和最佳實踐中需要AI利益相關方應用的網絡安全基本原則和規程。這一層的關鍵內容為對承載人工智能系統的ICT基礎設施的安全保護、風險管理、網絡安全認證、影響人工智能系統的網絡安全立法和政策。
層級2——人工智能基礎和網絡安全，包括針對人工智能系統的特定網絡安全實踐，如對抗攻擊、假數據攻擊、惡意攻擊等。這一層的關鍵內容為人工智能立法、人工智能類型、人工智能資產和過程、人工智能威脅評估、人工智能安全管理、人工智能相關標準、倫理和可信人工智能、人工智能相關生態和行動。
層級3——行業特定的網絡安全良好實踐，包括針對不同行業的人工智能系統的特定網絡安全最佳實踐。本報告給出了能源、健康、汽車和通信行業的網絡安全指南。
此外，本報告基于FAICP框架內容，對歐盟成員國的主管部門現階段采用或制定的網絡安全要求進行調研分析，建議后續歐盟應在數據污染、技術偏見、缺乏公平性等方面進行可衡量且持續性的評估和管理。同時，本報告強調了國家主管部門和人工智能相關方之間合作的重要性。這種合作可以通過共享最佳實踐、經驗和資源來實現，以及通過建立跨部門和跨行業的合作關系來實現。
（2）《人工智能和網絡安全研究》
人工智能是一種典型的雙重用途技術，惡意行為者通過不斷引入和更新自身技術能力，延長甚至擴大已經存在的網絡安全威脅。《人工智能和網絡安全研究》首先介紹了人工智能和網絡安全的相關概念、特征和數據集，以及人工智能在網絡安全中的應用和挑戰。應用包括入侵檢測、威脅情報、漏洞分析、惡意代碼檢測和響應等方面；挑戰包括數據隱私、對抗性攻擊、可解釋性和可審計性等方面。
該報告通過分析下一代電信網、物聯網（IoT）、網絡物理系統（CPS）和生物網絡安全等場景中人工智能可能存在的潛力和風險，提出了5個關鍵研究方向，以進一步研究人工智能用于網絡安全，具體研究方向包括：1）建立測試平臺，研究和優化基于機器學習用于網絡安全的工具和技術的性能；2）鼓勵開發基于人工智能和機器學習的滲透測試工具以發現安全脆弱性并評估攻擊者的行為；3）制定標準化框架，用以評估信息流以及所設計系統的隱私保護和保密性；4）為使用真實場景的實踐者開發人工智能培訓；5）建立人工智能和網絡安全威脅觀察站。
此外，該報告為未來的歐盟政策發展和資助計劃提供建議，旨在加強跨部門、跨國家和跨學科的合作和協調，促進人工智能技術的可持續發展和社會責任，制定標準、規范、指南和最佳實踐，提高公眾對人工智能和網絡安全的認知和理解，以及加強政策制定和監管等。
（3）《人工智能中的網絡安全和隱私：醫學影像診斷》
近年來，人工智能技術在醫學影像診斷領域得到了廣泛應用，這種技術可以幫助醫生更快速、準確地診斷疾病，提高醫療效率和準確性。然而，隨著AI技術的不斷發展，網絡安全和隱私問題也日益凸顯。為了保護患者的隱私和醫療數據的安全，ENISA發布了《人工智能中的網絡安全和隱私：醫學影像診斷》。
該報告分析了在醫學影像診斷中使用人工智能的網絡安全和隱私要求及措施，描述了場景的基本原理，識別了由此帶來的安全和隱私風險及應對的控制措施。該報告還提供了一些實用的指南和最佳實踐，以幫助醫療機構實施相應的安全和隱私控制措施。包括實施訪問權限管理流程、確保所有系統和設備符合身份驗證和訪問控制策略、監控模型的性能、減少模型可用信息、為醫療數據處理確定數據控制器、對來自歷史患者的數據進行匿名化處理、生成日志并進行內部審計等。
（4）《人工智能中的網絡安全和隱私：預測電網需求》
人工智能在電力行業中的應用具有廣闊的前景，可以幫助電力公司更準確地預測電力需求，提高電力網絡的效率和可靠性。然而，人工智能技術的應用也帶來了一系列的網絡安全和隱私問題，如數據泄露、惡意攻擊等。為此，ENISA發布了《人工智能中的網絡安全和隱私：預測電網需求》。
該報告分析了在預測電網需求中使用人工智能的網絡安全和隱私要求及措施，描述了場景的基本原理，識別了由此帶來的安全和隱私風險及應對的控制措施，如數據加密、訪問控制等。同時，報告也強調了這些措施的局限性，指出這些措施只是一種應對網絡安全和隱私問題的手段，而不是解決問題的根本方法。
此外，報告還提到了一些應對網絡安全和隱私問題的挑戰，如算法選擇、數據收集和處理等。這些挑戰需要電力公司和相關機構共同努力，才能更好地應對網絡安全和隱私問題。
3. CEN發布人工智能和信息通信技術白皮書
2023年6月30日，CEN/TC 428“ICT專業化與數字能力”發布《可信賴且穩健的AI的基礎》（Foundation for trustworthy and robust AI）白皮書，討論了ICT專業化標準如何支持歐洲人工智能政策，以及如何將ICT專業化納入人工智能開發中的問題。
CEN/TC 428指出，在歐洲議會人工智能立法出臺與“歐洲技能年”政策的背景下，關于如何負責任地使用人工智能以及如何解決歐洲目前面臨的技術與技能差距有許多討論。CEN/TC 428基于先前制定ICT專業化標準的經驗，在白皮書中總結了這些重要討論結果，并全面審視了人工智能領域ICT專業化的作用以及如何利用歐洲標準化工作提供支持，并提出了如下建議：
（1）制定與ICT專業標準化相一致的人工智能標準化路線圖，以構建新的人工智能特定標準，并修訂現有的ICT標準，支持人工智能特定的標準；
（2）確保新的人工智能標準與ICT標準保持一致，加強其在ICT行業和相關組織結構中的可持續性和適用性。
（二） 近期美國人工智能網絡安全標準化工作情況
1. NAIAC發布首份人工智能研究報告
2022年5月，美國商務部（DOC）下設的美國國家人工智能咨詢委員會（National AI Advisory Committee，NAIAC）正式啟動運作，該委員會主要就美國的人工智能競爭力、勞動力公平、資金、研究和開發、國際合作和法律問題向總統或其他聯邦機構提供咨詢意見。NAIAC由來自學術界、工業界、非營利組織和聯邦實驗室的共26位成員組成。根據國會指示，NAIAC需要在成立一年后向總統和國會提交一份報告，此后每三年提交一份關于《2020年國家人工智能倡議法案》履行情況和相關建議的報告。
2023年5月，NAIAC發布《國家人工智能咨詢委員會第一年度報告》，包括四大主題：1）可信人工智能的領導力；2）人工智能研發的領導地位；3）支持人才培養并提供機會；4）國際合作。圍繞四大主題，NAIAC提出了14項目標，以及在14項目標的基礎上提出了24項行動建議。此處主要就人工智能網絡安全相關的4項行動建議進行介紹。
行動建議1：NAIAC建議美國白宮鼓勵聯邦機構實施NIST AI 100-1《AI風險管理框架（AI RMF）1.0》或與之類似的政策，以有效解決人工智能生命周期所有階段的風險，并對人工智能系統進行適當的評估和迭代。同時，采用AI RMF不應局限于公共部門，政府還應通過現有機制鼓勵私營部門采用這一框架。
行動建議9：NAIAC建立一個包含美國小企業管理局（SBA）、NIST、美國總務管理局（GSA）等多機構工作組，為中小型企業采用可信人工智能制定框架。
行動建議11：NAIAC建議對人工智能開發和部署的問責制及標準制定方法進行持續研究，識別人工智能對公民權利、公民隱私以及社會可能造成的潛在威脅。
行動建議21：NAIAC建議通過正式翻譯、戰略多邊合作以及對外國技術援助等方式，使NIST AI 100-1《AI風險管理框架（AI RMF）1.0》國際化。隨著各國政府越來越多地從基于風險的視角看待人工智能治理，人工智能風險管理的通用方法可以推動跨境監管合作，包括美國和歐盟之間的合作。
報告的最后，NAIAC表示擬于近期完成工作組的調整，未來重點研究領域包括：下一代人工智能的持續創新；工作和勞動力中的人工智能；人工智能監管和行政行動；參與、教育和包容；生成式和下一代人工智能的安全與保證；尊重人權的人工智能；人工智能政策和人工智能解決方案的國際合作；人工智能系統采購；人工智能與經濟等。
2. 美國白宮公布《國家人工智能研發戰略計劃》
2023年5月23日，美國白宮更新發布《國家人工智能研發戰略計劃》（National AI R&D Strategic Plan）。該計劃是對2016、2019年版《計劃》的再次更新，其中2項戰略與人工智能網絡安全標準工作相關。
戰略6：通過標準和基準衡量和評估人工智能技術。該戰略包含五個優先事項：制定廣泛的人工智能標準；建立人工智能技術基準；增加人工智能測試平臺的可用性；讓人工智能社區參與標準和基準制定；制定人工智能系統審計和監控標準。對比2019年版“戰略6”優先事項，2023年版新增了“制定人工智能系統審計和監控標準”優先事項。
戰略9：為人工智能研究的國際合作建立有原則和可協調的方法。美國國家科學委員會2022年的研究報告表明沒有一個國家在當今世界科學和工程的所有方面都處于領先地位。人工智能領域研究成果的地理分布也越來越分散。因此，需要優先開展人工智能研發方面的國際合作，以應對全球挑戰。戰略性國際伙伴關系將有助于支持負責任的人工智能研發以及人工智能國際標準的制定和實施，確保美國仍然是人工智能研發生態系統的中心樞紐。戰略9是2023年版本中新增的戰略，其反映了國際合作對人工智能研發日益重要的地位。該戰略包含四個優先事項：為開發和使用可信賴人工智能培育全球文化，發展全球伙伴關系；支持全球人工智能系統、標準和框架的發展；促進思想和專業知識的國際交流；鼓勵人工智能朝著造福全球目的發展。
3. NIST宣布成立新的人工智能（AI）公共工作組
2023年6月22日，美國商務部宣布，NIST將設立一個新的AI公共工作組，以應對生成式AI技術的風險和挑戰。該工作組將協助NIST制定AI領域指南，解決生成式AI技術的特殊風險問題。
該工作組的短期目標是收集有關的指導意見，就如何使用NIST人工智能風險管理框架（AI RMF）來支持生成式AI技術的發展形成“概要文件”。該概要文件應支持和鼓勵使用AI RMF解決相關風險。同時，工作組將協助NIST進行測試、評估和測量工作，解決與生成式AI相關的問題。
該工作組的長期目標是探索如何有效利用生成式AI技術應對健康、環境和氣候變化等重大挑戰。此外，工作組將幫助組織規避和管理生成式AI技術在應用、開發和使用過程中可能造成的風險。
三、小結
本文回顧了近期歐美國際人工智能網絡安全標準化工作情況，對其人工智能系統的安全框架、關鍵研究需求以及特定應用場景的安全和隱私威脅進行了全面的分析和總結。我國可以借鑒歐美在人工智能網絡安全標準化工作中的研究思路，加強人工智能安全標準的統籌規劃，加快生成式人工智能服務安全、訓練數據安全、人工標注安全等急需標準的研制，進一步開展特定行業人工智能安全標準研究工作。
來源：安全內參
