【CNAS】人工智慧時代的戰略競爭

人工智慧時代的戰略競爭

前言（略）

人工智慧國家權力

的基本要素

從歷史的角度我們需要回答一個問題，即人工智慧時代，國家權力的關鍵要素會是什麼樣子。如前所述AI是一種通用技術，更類似於內燃機或電力而不是核武器。電力幾乎為軍事技術的各個方面提供了能力和改進。其中一些是革命性的，例如無線電和雷達，有些僅僅是改良性的，例如用電子引信代替燃燒的保險絲。與電力一樣，狹義人工智慧技術的採用將提供影響經濟和軍事力量的各種能力。內燃機的發明及其在全球軍隊中的使用，使得安全的石油供給能力成為國家力量的關鍵要素。人工智慧時代國家權力的關鍵要素是什麼？目前也許很難給出確切回答，但可能包含以下有幾種：

1.擁有大量正確型別的資料。目前最強大的機器學習技術（如深度學習）需要大型資料集才能實現。因此掌握較大資料集的組織在開發優質應用程式方面具有優勢。出於這個原因2017年5月經濟學家封面故事指出，資料已經取代石油作為「世界上最寶貴的資源。」 但AI和石油之間的類比並不完美。煉油技術或多或少使所有石油的價值等同，但資料不是這樣。資料型別的正確性取決於應用程式的需求，如果人們試圖開發一種狹義人工智慧系統來識別衛星影象中的物體，那麼擁有大量手機用戶數據的人就沒有價值。人工智慧將增強那些能夠識別，獲取和應用具有高經濟和軍事價值的大型資料集的國家力量，以開發高效能的AI系統。

2.培訓，維持和啟用人工智慧人才庫。高階人工智慧系統開發所需的人力資本技能目前比較稀缺。現有AI技術的應用遠比熟練的程式設計師要多得多。因此最近AI博士學位的起薪已經達到每年30萬至50萬美元甚至更多。制定教育，培訓和移民政策，以招募和培訓來自本國和其他國家的頂尖人才的國家將具有優勢。

3.計算資源。機器學習需要大量計算資源來訓練機器。這很昂貴且需高科技支援。但資源較少的國家和地區可以利用訓練成熟的系統，這意味著一些人工智慧技術可能會更容易向弱者擴散。然而擁有更多計算資源的組織將在構建原始的，尖端的AI系統方面具有優勢。

4.激勵和協調有效採用人工智慧的組織。僅僅開發最先進的人工智慧系統並不足以確保國家權力的持久優勢。如果公司和政府組織缺乏可以使用它的人，沒有使用它的有效策略，不善於培訓，那麼技術本身的效用就很有限。美國頂尖的科技公司都已宣稱「用人工智慧重塑企業」，歷史表明組織變革對於轉型成功至關重要。

5.公私合作。目前為止人工智慧的主要參與者是私營部門公司，而不是政府。爲了政府有效利用人工智慧技術以確保國家安全，需要能夠利用私營公司的創新。中國在公私合作方面相比美國具有重要優勢，中國的軍民融合模式與五角大樓和硅谷之間的文化鴻溝形成了鮮明對比。

6.行動的意願：各國選擇監管，限制在特定領域使用人工智慧，優先考慮隱私或其他價值而不是效率優先。例如一些國家正在制定複雜的法規，限制以隱私為由使用健康資料，雖然這樣做可能會使這些國家在保護公民權利方面受益，但在限制使用人工智慧應用程式方面可能需要權衡。如何發揮其作用以及對國家力量的影響（經濟和軍事的）都是懸而未決的問題。

AI是軟體還是硬體？

技術如何傳播通常取決於他人在複製該技術時的易用性。軟體通常比硬體更容易擴散，這既是因為商業激勵可以推動軟體建立，也因為建立新軟體所需的人才庫甚至可以存在於非主要軍事生產國，例如亞洲的發達經濟體。

當前機器學習AI的大部分革命都是大量資料集的可用性和足夠強大的計算硬體來處理它們的結果。

人工智慧國家權力的關鍵要素，與將其視為軟體還是硬體息息相關。在某些方面，AI代表軟體，它不是航空母艦或機動車，它不是一件物理裝置。特別是在訓練演算法之後，AI也被實現為一個軟體。但將AI僅僅視為軟體就太簡單了。

近幾十年來，計算硬體已經變得越來越商品化，使得具有多種不同資料型別的資料中心具有相對類似的硬體。人工智慧技術是一個值得注意的例外，目前使用的大多數最流行和最強大的機器學習技術（例如深度學習）是非常計算密集的。實際上機器學習當前的大部分革命，都是足夠強大的計算硬體來處理大量可用資料集的結果。

此外，AI演算法傾向於支援相對較窄的數學計算集。因此其可以從使用更專業的計算機晶片（如圖形處理單元）中獲益，甚至可以從定製設計的晶片中執行AI演算法。許多領先的軟件技術公司已經致力於此類晶片設計，以便從這種定製設計的AI硬體中獲益。

目前AI硬體有三個方面至關重要：

首先，給定AI演算法的機器學習訓練時間可以通過先進的硬體顯著縮短。訓練時間可能會從幾周或幾天縮短到幾小時或幾分鐘。因此開發人員可以更快地執行實驗和開發原型。

其次，改進的硬體還可以降低功耗。機器學習培訓階段需要大量電力，電費通常可能是總成本的重要因素。

第三，一些尖端的機器學習應用程式是高度依賴算力，以至於它們目前無法離開重要的計算資源。

最後，計算速度的增加和功率的降低在終端使用者應用程式上具有明顯收益。例如許多智慧手機現在擁有一個定製晶片，該晶片經過優化用以執行面部識別的機器學習演算法。如果沒有這樣的定製晶片，這些應用會過快地耗盡電池。對於飛機或無人機上的物體識別AI系統也是如此。

這創造了一個有趣的潛在情況，即人工智慧的重大進步需要硬體，而一旦完成演算法的訓練，人工智慧就成了容易擴散的軟體。人工智慧的這一特性與人工智慧技術社羣的開放文化相結合，導致各種研究廣泛釋出，並且可以線上免費下載經過培訓的人工智慧模型。這種情況下AI是硬體還是軟體就會更加複雜，如果使用演算法比訓練演算法需要的硬體門檻低很多，那麼全世界人工智慧演算法玩家的能力就取決於誰建立了這些演算法，以及他們如何建立它。

人工智慧國際競爭

美國只是人工智慧領域的眾多參與者之一，許多國家正在採取措施確保其在人工智慧方面的競爭力。前國防部副部長羅伯特·沃克和前英特爾執行長埃裡克·施密特將這場人工智慧世界領導者的比賽，與美蘇之間冷戰時的比賽進行了對比。

但人工智慧開發與太空競賽之間的一個關鍵區別是，人工智慧領域的競爭可能會更激烈。太空競賽從根本上說是兩極競爭，美國和蘇聯是世界上最強大的國家，也是唯一能夠抵近世界空間技術領導者的國家。而人工智慧的競爭可能會更激烈，因為它將更加多極化和多元化。世界各國都希望成為人工智慧的領導者，並在某些方面利用先進的資訊經濟來獲得優勢，雖然美國和中國是人工智慧的全球領導者，但許多其他國家正在大力投資。

以色列為軍事和商業目的大力投資人工智慧。作為人口相對較少但資本豐富國家，以色列將從人工智慧技術中取得事半功倍的效果。

俄羅斯正在投資人工智慧和機器人技術，儘管在軍事領域比其他任何地方更集中。這些舉動表明，俄羅斯的投資正在遵循弗拉基米爾普京2017年的宣告，即「人工智慧是未來，不僅是對俄羅斯，對全人類而言。它帶來了巨大的機會，但也有難以預測的威脅。無論誰成為這個領域的領導者，都將成為世界的統治者。」

新加坡在人工智慧投資方面處於領先地位，利用其作為技術中心的作用來吸引投資。

韓國不僅投資於人工智慧的商業應用，而且還使用基於演算法的系統來幫助監控非軍事區。

這些投資模式表明，人工智慧在資本密集型國家特別能夠獲得受益。考慮到AI允許公司或政府用資本替代勞動力，已經擁有領先技術部門的國家已準備好受益。因此人工智慧系統可能為以色列和新加坡等國家提供最大的相對優勢，這些國家可以從技術變革中受益最多，這些變革可能會帶來更加低勞動力依賴的經濟。

美國只是人工智慧領域的眾多參與者之一，許多國家正在採取措施確保其在人工智慧方面的競爭力。

公平地說，美國和中國都有一些可以實現領先的優勢。美國擁有世界上最好的大學系統和學術界最先進的AI研究人員。儘管商業和軍事領域的溢位效應可能很慢，但這有助於保證美國技術領先地位。像谷歌這樣的美國公司也已經擁有大量的資料，這使得他們比競爭對手從頭開始生成機器學習演算法更容易。中國同樣可以獲得大量資料，特別是因為國家對網際網路的控制意味著中國可以以比美國更系統為訓練演算法收集資料。

教育政策日益成為人工智慧時代的國家安全焦點。中學和大學趨勢是支援科學，技術，工程和數學（STEM）而不是人文科學，這種趨勢可能在人工智慧時代加速。擁有強大科學家，數學家和工程師隊伍的國家，將更好地準備在全球舞臺上競爭，推進人工智慧的前沿和設計新的人工智慧應用程式。

人工智慧領先地位的競爭將對國際政治產生重大影響。從軍事角度來看，在人工智慧技術競爭中處於領先，對於建立和部署有效的軍事力量可能越來越重要。而競爭越激烈，人們就越需要重視人工智慧在安全方面的問題。隨著國家和公司認為成為先行者將具有很大的優勢，他們渴望成為第一梯隊，各國可能會捨棄安全性和可靠性問題，競相降低安全門檻的競爭將增大人工智慧引發事故的可能性。

美國人工智慧戰略

與中國不同，美國目前沒有針對如何處理人工智慧的國家戰略。在奧巴馬執政的最後一年，白宮釋出了幾篇旨在使美國走向更加連續的人工智慧政策的論文。這些報告涵蓋了從監管到創新再到偏見的各種問題，推動了科學家與政府官員之間的一系列對話。我們認為現在採用這些關鍵原則的恰恰是中國而非美國，中國的人工智慧戰略體現了奧巴馬政府報告中的關鍵原則。

與中國不同，美國目前沒有針對如何處理人工智慧的國家戰略。

特朗普政府已開始考慮如何處理人工智慧問題。美國國防部在國防創新諮詢委員會和國防科學委員會的警告下，似乎有興趣更系統地確定如何整合人工智慧。在國家政府層面，特朗普政府最初認為他們正在利用幕後資源來支援美國在人工智慧方面的創新。然而最近特朗普召開的AI峰會指定了研發重點，並宣佈將致力於確保美國在人工智慧的世界領導地位。正式的國家人工智慧戰略雖然不是靈丹妙藥，但可以倡導政策導向變化，以更好地利用人工智慧提供的機會。至少國家戰略可以成為美國對人工智慧創新承諾的象徵，確保美國仍然是人工智慧的領導者。

最近眾議院議員Elise Stefanik提出了旨在實現更加協調一致的美國國家人工智慧戰略的立法。正如本報告所示，美國政府的問題不僅僅是軍事或經濟挑戰。任何成功的人工智慧戰略都必須涉及多個政策領域，包括：

• 培育最初的人工智慧投資

• 為未來的AI技術開發建立人才庫

• 建立行業領導地位

• 確定下崗工人的經濟政策選擇

• 考慮政府在軍隊內外使用

• 評估使用AI的道德和道德問題

• 應對演算法偏見的挑戰

任何成功的人工智慧政策都會與一些列政策領域產生交叉。包括貿易，教育，福利，軍事等。技術創新與政府內外對其使用的差距，是國家人工智慧政策的最佳切入點。美國的市場力量足以產生可以使企業處於最前沿的技術創新。但創造尖端技術並不能保證政府能有效地實施這些技術，或者政府會制定法規來確保安全使用。

對權力平衡的影響

預測總是很困難，特別考慮到全球經濟和國際體系等複雜和互動的環境時。國家權力在很多方面來自經濟權力與軍事力量的交叉，儘管隨著時間的推移，強大的經濟基礎對於維持軍事優勢是必要的。

作為未來經濟成功的關鍵推動因素，人工智慧的領先地位可能對巨集觀的權力平衡和國際競爭至關重要。這意味著幾件事：

首先，那些擁有AI特定用途公司的國家將具有顯著的經濟優勢，特別是對於其他人難以複製的大型演算法。先發優勢很大程度上取決於AI創新被複制的難易程度。換句話說這將取決於商業AI應用和軍事AI應用之間的相似程度。人工智慧在軍事領域的應用越具有明顯商業適用性（如影象識別），世界各地的公司發明類似技術的動機就越高，能力傳播的速度也就越快。人工智慧在軍事領域的應用越廣泛，越容易使其在更長時間內不受競爭對手影響，從而產生更可持續的先發優勢。

其次，人工智慧對國家經濟和軍事力量的影響，可能在很大程度上取決於政府如何對待狹義人工智慧。很少有國家能在基礎技術類別中獲得可持續優勢，也很少有國家能從技術本身中獲取決定性勝利。隱身飛機技術是第二次抵消戰略的產物，它可能是為數不多的例子，這種技術被其他技術「孤立在外」，以至於美國獲得了幾代人的長期優勢。而與特定的軍事技術相比，大規模使能技術則不是這樣，這一點在諸如內燃機或電力等技術創新中尤其明顯。

因此，最有可能在人工智慧革命中取得長期優勢的國家將是那些因此獲得經濟成功的國家，並且能夠以將AI能力應用於優化其軍隊戰鬥和贏得戰爭，哪怕是這些應用對組織和官僚主義上具有破壞性。而人工智慧的領先國家不僅要利用人工智慧的優勢，還應具備應對它造成的社會破壞的能力。

國別案例

（介紹了中國、印度、俄羅斯的現狀，篇幅關係略）

結論

本報告建議美國政府與私營部門合作，採取一系列廣泛的行動，為應對人工智慧所帶來的挑戰做好準備。

戰略：爲了應對未來的挑戰，美國需要一項國家人工智慧戰略，以利用人工智慧的優勢，同時減輕其破壞性影響。

研發（R＆D）：美國應以現有的國家AI研發計劃為基礎，根據AI的技術發展更新計劃，建立有效執行的指標和流程，並專門投資制定國家安全AI研發計劃。

資金：美國政府應該通過不可能由私營部門資助的獨特國家安全應用來增加對人工智慧研究的投資。為支援這一努力，管理和預算辦公室應制定跨領域指標，以評估各機構的人工智慧資金水平以及該資金的有效性。

收購：美國應擴大政府不同部門的新努力，如國防部的Project Maven，並建立一整套政府計劃，以便在政府機構快速整合人工智慧工具。這應包括打破創新障礙，使政府更容易快速整合新興技術。

安全：美國政府應增加對人工智慧安全的投資，以改善在國家安全環境中建立強大，可靠和可解釋的人工智慧系統的前景。由於許多當前的人工智慧方法存在嚴重漏洞，美國應將對抗操縱的安全性和穩健性作為其納入人工智慧技術的關鍵要素，並在部署之前使用「紅隊」來測試人工智慧工具。

指標：美國政府應制定一項綜合計劃，以衡量，評估和跟蹤國際人工智慧能力的進展，以及人工智慧在國際體系中向各種行為者的傳播。這將降低戰略意外的風險，並幫助政策制定者為國家和非國家行為者對AI的潛在惡意使用做好準備。

教育：在人工智慧時代，發展適當的人力資本對於經濟和軍事領導至關重要。投資STEM教育將繼續成為美國國家安全的首要任務。投資商科學校和在美國境內培養程式設計人員和專業人員，可以幫助確保美國仍然是全球人工智慧領導者。政策制定者必須幫助工人為向人工智慧經濟過渡做準備，應將教育目標重新定位為與自動化相輔相成。

移民：美國政府應該採取移民政策，鼓勵全球頂級人工智慧人才來到美國並留下來，為美國人工智慧人才庫提供支援，並提升美國整體經濟競爭力。

資料：美國應制定適當的法規來管理用於人工智慧目的的資料的收集，儲存和使用。資料是有助於為先進的狹義AI系統供電的燃料。資料法規必須平衡一系列相互競爭的利益：個人隱私和保護，經濟競爭力，激勵創新和國家優勢。

競爭：美國應採取適當的改革措施，以保護人工智慧的重要國家優勢，包括保護智慧財產權免遭盜竊，限制敏感技術的出口，以及對美國外國投資委員會進行立法改革。