觀點 ｜ 網路軍備競賽即將開始，如何制定人工智慧的國際準則

隨著人工智慧技術發展，網路空間的安全風險正在變得越來越大。但是，各個國家在紛紛制定人工智慧發展戰略的同時，卻也在忽視「國際法」的建立——而網路世界已經和陸海空一樣成爲了很多組織，甚至國家之間對抗的「戰場」。來自牛津大學的 Mariarosaria Taddeo 與 Luciano Floridi 近日發出呼籲，希望國際社會能夠重視並儘快建立 AI 時代網路安全的行爲準則和相關法律。

2018 於東京舉辦的人工智慧展會暨大會（Artificial Intelligence Exhibition & Conference）上展出的目標識別和追蹤技術。

網路攻擊日益頻繁、複雜，破壞性也與日俱增。2017 年，美國平均每天經歷 4000 次勒索軟體攻擊，這些網路攻擊將計算機檔案加密鎖住，直到使用者付錢才解鎖。2015 年，日均網路攻擊次數是 1000。去年五月，WannaCry 病毒導致英國國家健康服務中心（NHS）中數百個 IT 系統癱瘓，超過 19000 個預約被取消。一個月後，NotPetya 勒索軟體導致製藥巨頭 Merck、船運公司 Maersk 和物流公司 FedEx 各損失約 3 億美元。2017 年，全球因網路攻擊導致的損失高達 50 億美元，2021 年該數字可能達到 6 萬億美元（詳見 go.nature.com/2gncsyg (http://go.nature.com/2gncsyg)）。

在網路攻擊的發展背後是一個個國家。它們使用網路攻擊進行進攻和防守。例如，朝鮮和 WannaCry 有關聯，俄國和 NotPetya 有關聯。

隨著網路攻擊的威脅不斷升級，防守戰略也在不斷髮展。2012 年，美國開始使用「積極」的網路防禦策略，計算機專家利用誘餌目標壓制或轉移病毒，或者入侵黑客的計算機刪除資料或摧毀系統。2016 年，英國宣佈了一項 19 億英鎊（約 27 億美元）的五年計劃，來對抗網路威脅。北約（NATO）也開始擬定積極的網路防禦原則（將於 2019 年通過）。美國和英國領導了這一行動，丹麥、德國、荷蘭、挪威和西班牙也參與其中（詳見 go.nature.com/2hebxnt）。

人工智慧可能會改變該活動的形態。網路攻擊和防禦正在變得更快、更精準，破壞力也更大。網路威脅可以在數小時內解決，而不再是幾天或幾周。人工智慧已經被用於驗證程式碼、找出 bug 和漏洞。例如，2017 年 4 月，英國軟體公司 DarkTrace 推出一款網路防禦產品 Antigena，使用機器學習發現 IT 網路的異常行為，關閉問題系統元件的通訊，併發布警報。2016 年，人工智慧在網路安全領域中的價值是 10 億美元，預計 2023 年其價值可達到 180 億美元。

很多國家計劃在 2020 年底前部署 AI 進行國家網路防禦，如美國已經在評估自動防禦系統的使用，並將在下個月釋出關於該策略的報告。AI 可以產生威懾力，因為網路攻擊會遭到懲罰。演算法可以識別源頭並解決，無需找到背後的角色。目前，一些國家仍在猶豫，因為它們不確定誰應對此負責，因為網路攻擊很可能通過第三方計算機、常用軟體發動。

風險在於網路軍備競賽。隨著國家使用越來越激進的 AI 策略，對手可能會更暴力地進行反擊。這樣的惡性循環可能最終導致物理層面上的攻擊。

網路空間是新的戰場，AI 是新的防禦能力。因此，我們應該出臺國家使用 AI 的相關規定，正如其他戰場的規定一樣（空氣、海洋、陸地和空間）。需要設定適度反應和對非法行為進行適當懲罰的標準。在任何情況下，單方措施都是無效的。必須設立針對國家網路空間行為的國際準則。令人擔憂的是，國際制約網路衝突的努力目前正處於停滯狀態。

我們號召區域性組織，如北約和歐盟重新努力，為聯合國所領導的網路安全計劃做好準備。同時，計算機專家必須使利用 AI 進行網路防禦的問題、侷限性和缺點透明化。研究者必須和策略制定者和終端使用者一道設計該技術的測試和監管機制。

規則缺失

目前，聯合國方面的程序已經擱淺。2004 年，聯合國設立了資訊保安政府專家組，商定國家如何在網路空間中行動的自願性規則。2017 年，其第五次會議以僵局告終。聯合國資訊保安政府專家組無法就國際人道主義法和現有正當防衛、國家責任的相關法律是否應當應用於網路空間達成一致。美國認為網路防禦法規應該基於這些法律，而其他國家（包括古巴、俄羅斯和中國）持否定意見。它們認為這會「軍事化」網路空間，並表明關於和平解決衝突的態度。該組沒有釋出最終報告。目前尚不清楚報告的釋出是否能夠成功，或者下一步會發生什麼。

國際對話和行動必須繼續。北約可能通過其即將釋出的準則為這件事鋪平道路，儘管目前尚不清楚其範圍。

法國里爾一次會議上的軍事網路防禦專家。過去十年間關注網路策略的國家增長很快。

同時，使用 AI 進行網路防禦的研究發展很快。美國在技術方面是處於領先地位。其目標是在 2019 年將 AI 納入其網路防禦系統。美國國防部（DOD）已花費 1.5 億美元用於這方面的研究。美國國防部高階研究計劃局（DARPA）正在開發相關的技術和策略。DARPA 2016 網路超級挑戰賽（Cyber Grand Challenge）中，由來自美國和瑞士的團隊開發的 7 個 AI 系統參與了競爭。這些系統找出並定位對手的漏洞，同時找出並修補自己的漏洞。

美國國防部將於今年五月釋出首份美國國家防禦 AI 策略報告。目前，我們尚不清楚其提出的方法。之前的檔案，如 2015 年的《The DoD Cyber Strategy》和 2016 年的《The National Cyber Incident Response Plan》都沒有涉及自動防禦系統，機器學習或 AI。2012 年美國國防部關於「自主武器系統」的方向主要聚焦於部署 AI 的內部程式，而對美國何時在國際舞臺上執行此項舉措則保持沉默。

人工智慧是中國的優先國策，中國希望成為機器學習技術的世界領導者。2017 年 7 月，中國國務院印發了《新一代人工智慧發展規劃》。在戰場和網路中應用人工智慧技術是該戰略的重要組成部分。但目前尚不清楚中國會以何種程度將人工智慧部署到網路防禦中。

俄羅斯尚未釋出任何有關其 AI 防禦策略的公開檔案。然而，在 2017 年的一次公開視訊中，總統普京提到了人工智慧，並表示：「在這一領域領先的國家將會成為世界的領導者。」有專家認為，俄羅斯正開發人工智慧工具，並致力於使其成為常規防禦力量。事實上，自 2014 年起，俄羅斯國家防禦管理中心（NDCC）就一直在使用機器學習演算法檢測網路威脅。有報道稱，俄羅斯曾率先使用人工智慧技術傳播假情報，並介入其他國家的公開辯論，包括 2016 年美國總統選舉和英國脫歐公投。儘管這些行動不屬於國防戰略的一部分，但它們表明俄羅斯具備先進的人工智慧技術。

朝鮮有著網路攻擊的歷史。它被懷疑參與 2016 年的 WannaCry 事件和 2014 年的索尼影業網路攻擊事件。目前普遍認為朝鮮在人工智慧領域處於落後狀態，但它有望在未來趕上其他競爭對手。

歐盟也在加緊步伐。2017 年，歐盟重新評估了網路安全和防禦政策，並在芬蘭赫爾辛基設立了複雜威脅應對中心（European Centre of Excellence for Countering Hybrid Threats）。迄今為止，歐盟擁有最為全面的國家級網路行為監管框架。然而目前的行動還遠遠不夠。歐盟將網路防禦視為網路安全的一個案例，僅僅被動地通過提高其成員國信息系統的穩固性來提升安全。這樣的機制缺乏積極的網路防禦行動，也不包含人工智慧技術。

這是一個正被錯過的機會。歐盟可能已經在其最近的反思中開始界定紅線，並制定相應的策略了。例如，在 2016 年，歐盟關於「網路和信息系統安全」的指令為識別對國家關鍵基礎設施（如醫療系統、能源設施和供水系統）的潛在威脅提供了標準。同樣的標準也可以用來定義國家操縱的非法網路攻擊。

作者認為，北約和歐盟等區域協作組織必須採取以下三個步驟，以避免對國家基礎設施的嚴重侵害，並維護國際穩定。

三大步驟

界定法律。國際社會迫切需要界定合法與非法的紅線，還需要定義網路防禦策略的相應反應機制。最終需要形成聯合國級別的國際共識。在此之前，北約、歐盟這樣的區域共同體公佈的準則必須先處理這些問題，以身作則。

與盟友共同驗證策略的實用性。友好國家之間應該組織 AI 防禦戰略的對抗性測試。在部署任何系統之前，這樣的測試都應該是必須進行的。它可能是 DARPA 的 Grand Challenge，或者是北約、歐盟常規範疇內的模擬訓練。因為人工智慧會通過經驗學習，這些測試也會提升聯盟的戰略水平，同時找到並消除漏洞。關鍵系統和重要基礎設施的毀滅性漏洞應該在盟友間分享——政策框架應該要求公開這些內容。具有類似共享和公開要求的協議包括歐盟的電子識別、認證和信託服務條例，以及北約的行業合作協議。

監控並執行規則。國際社會需要就如何稽覈與監督基於 AI 的國家網路防禦活動達成一致。「預警與糾正」機制會被用來解決問題和無法預見的結果。具有強制力的第三方機構，如聯合國安理會應該被授權裁決出現的事件是否越過了紅線，相應地，它們也有執行和公開規範的責任。對於違反規則的國家，我們需要對其實施經濟和政治制裁。北約和歐盟也需要在其影響範圍內執行這些準則。

目前看來，我們距離解決問題還有很長的一段路要走。但我們已經沒有多少時間了。