酷播亮新聞
我今天要講的中心思想就是：我們現在離真正的人工智慧還有一段很長的路。為了講清這個思想，我必須回答下面三個問題：第一，什麼叫做真正的人工智慧？我們的目標是什麼？第二，為什麼我們需要真正的人工智慧？第三，我們如何走向真正的人工智慧？我現在回答這三個問題。
首先我們如何評價目前人工智慧取得的成果，我們的評價很簡單，針對這 5 件事：
第一是深藍打敗人類國際象棋冠軍；第二是 IBM 在電視知識競賽中打敗了美國的前兩個冠軍，這兩件事是一個類型，後面的三件事屬於另外一個類型，即 2015 年微軟在 ImageNet 上做圖象識別，它的誤識率略低於人類；百度、訊飛也都宣布在單句的中文語音識別上，它的誤識率也略低於人類；還有一個是大家非常熟悉的 AlphaGo 打敗了李世石。這 5 件事情都是機器在一定的範圍內超過了人類，我們如何來評價這 5 件事？
大家一致認為這 5 件事之所以成功，是由於前面三個因素，一是大數據，二是計算能力提高，第三是有非常好的人工智慧演算法。這三個因素大家都討論得非常多了，沒必要我再來說，我現在要說的最後一個因素是被大家所忽略的，這個因素是說，這所有的成果必須建立在一個合適的應用場景下。這 5 件事雖然領域很不一樣，但是它們都滿足完全一樣的條件，或滿足下面的 5 個限制，首先你必須有豐富的數據或者豐富的知識，如果這兩件東西沒有，或者很少，你不用來談人工智慧，因為你無法實現無米之炊。人工智慧僅有的兩個資源，一個是數據，一個是知識。還有確定性信息、完全信息、靜態的、單任務和有限領域。這 5 個條件裡面任何一個條件不滿足，現在的人工智慧做起來就非常困難了。
大家想想這 5 個限制條件下的應用場景是什麼樣的應用場景？就是照章辦事，不需要任何靈活性，這顯然不是智能的核心。
我們現在分析一下上述 5 個場景。下象棋是完全信息博弈，信息完全和確定，沒有問題。其次，它遵循著完全確定的遊戲規則演化，我們把這種情況也叫做靜態。Watson 機器人也是這樣，Watson 是什麼樣的對話問題呢？它為什麼選擇知識競賽呢？我們知道知識競賽提的問題都沒有二義性，都是明確的，它的答案總是唯一性的。所以這樣的問答對機器人來講是非常容易的。它涉及的領域雖然比較寬，但也是有限的，包括大家覺得很玄乎的圍棋，也完全符合上面 5 個條件，所以對計算機來說也是很容易的。目前計算機打麻將就不行，因為牌類是不完全信息博弈，所以比棋類要難。總之，我們對目前人工智慧取得的成果要有一個正確的評價。
目前的人工智慧技術在以下領域都可以找到它的應用，它們是交通、服務、教育、娛樂等等，但我要強調是這些領域裡面只有滿足上述 5 個條件的事情，計算機做起來才會容易，如果不滿足這些條件，計算機就做起來就困難了。大家常常關心什麼樣的工作會被機器所替代，我可以明確告訴大家，滿足這 5 個條件的工作，總有一天會被計算機取代，就是那些照章辦事，不需要任何靈活性的工作，比如說出納員、收銀員等等。在座的所有工作都不可能被計算機完全代替，但不排斥你的工作中有一部分會被計算機取代，老師、企業家等的工作不可能被計算機完全代替。
為什麼有這 5 個限制？原因在於我們現在的人工智慧是沒有理解的人工智慧。
我們先看符號模型，理性行為的模型，舉 Watson 的例子，它是個對話系統，我們現在所有做的對話系統都跟這個差不多，但是 Watson 做得更好些，它裡面有知識庫，有推理機制。沃森除了專家知識之外，還有大量互聯網上大眾的知識，還運用了多推理機制。請看，這就是 Watson 系統的體系結構。它裡面有哪些知識呢？有很多，包括百科全書、有線新聞、文學作品等等。所有的知識用紙質來表示有 2 億頁，用存儲量表示達到了 4TB。它能回答什麼問題呢？用它的例子來說明。第一個問題，1974 年 9 月 8 日誰被總統赦免？這對美國人來講很好回答，同樣對計算機來講也很好回答，你用這幾個關鍵字「1974 年 9 月 8 日」、「被總統赦免」，就能在文獻裡頭查出來是誰，他就是尼克松。也就是說根據問題中的關鍵字，可以在已有的文獻裡頭直接找到答案，這就是一般的網路檢索方法。
第二個問題，熒光粉受到電子撞擊以後，它的電磁能以什麼方式釋放出來？我們用「熒光粉」、「電子撞擊」、「釋放電磁能」等關鍵詞，也可以找到答案：「光或者光子」。這種方法就是平時網路搜索的原理，應該說沒有什麼智能。
回答下面的問題就需要「智能」了，跟智利陸地邊界最長的是哪個國家？跟智利有陸地邊界的國家可以檢索到，它們是阿根廷和玻利維亞，但是誰的邊境長？通常查不到。Watson 具備一定的推理能力，它從邊界間發生的事件、邊界的地理位置等等，經過分析推理以後就可以找出答案，它就是阿根廷。下一個問題也屬於這種性質，跟美國沒有外交關係的國家中哪個最靠北，跟美國沒有外交關係的國家有 4 個，只要檢索就行了，但是哪個國家最靠北，沒有直接答案，但可以從其它信息中推導出來，比如各個國家所處的緯度、氣候寒冷的程度等等分析出來，答案是北朝鮮。
智能體現在推理能力上。但是很不幸，現在的對話系統推理能力都很差。Watson 系統好一些，但也很有限。換句話說，我們現在的對話系統離真正的智能還很遠。
我們通過索菲亞機器人就可以看出來，索菲亞的對話是面向開放領域，你可以隨便提問，問題就暴露出來了。大家在電視上看到索菲亞侃侃而談，問什麼問題都能答得很好，這裡面有玄機，如果你的問題是預先提出來的，因為裡頭有答案，因此回答得非常好，在電視上給大家演示的都是這種情況。
如果我們臨時提問題，問題就出來了。這是一個中國記者給索菲亞提的 4 個問題，它只答對了一個。「你幾歲了」，這個問題很簡單，它答不上來，它的回答是「你好，你看起來不錯」，答非所問，因為它不理解你所問的問題。只有第二個問題它是有準備的，裡面有答案，所以答得很好。「你的老闆是誰」，這個肯定它有準備。第三個問題，「你能回答多少問題呢」？它說「請繼續」，沒聽懂！。再問第四個問題，「你希望我問你什麼問題呢」？它說「你經常在北京做戶外活動嗎」？這就告訴我們說，現代的問答系統基本上沒有理解，只有少數有少量的理解，像 Watson 這樣算是比較好的。
為什麼會這樣？也就是說我們現在的人工智慧基本方法有缺陷，我們必須走向具有理解的 AI，這才是真正的人工智慧。我這裡提出的概念跟強人工智慧有什麼區別？首先我們說它在這點上是相同的，我們都試圖去準確地描述人類的智能行為，希望人工智慧跟人類的智能相近，這也是強人工智慧的一個目標，但是強人工智慧只是從概念上提出來，並沒有從方法上提出怎麼解決。大家知道強人工智慧提出了一個最主要的概念，就是通用人工智慧。怎麼個通用法？它沒有回答。我們現在提出來的有理解的人工智慧是可操作的，不只是概念，這是我們跟強人工智慧的區別。
人機對話的時候，機器為什麼不能理解人們提的問題？我們看一個例子就知道了，我們在知識庫里把「特朗普是美國總統」這個事實，用「特朗普-總統-美國」這三元組存在計算機裡面，如果你提的問題是「誰是美國總統」？機器馬上回答出來：「特朗普」。但是你如果問其它有關的問題，如「特朗普是一個人嗎」？「特朗普是一個美國人嗎」？「美國有沒有總統」？它都回答不了。它太傻了，任何一個小學生，你只要告訴他特朗普是美國總統，後面這幾個問題他們絕對回答得出來。機器為什麼回答不了後面的三個問題呢？就是這個系統太笨了，沒有常識，也沒有常識推理。既然特朗普是美國的總統，美國當然有總統，但是它連這一點常識的推理能力都沒有。所以要解決這個問題，必須在系統中加上常識庫、常識推理，沒有做到這一步，人機對話系統中機器不可能具有理解能力。但是大家知道，建立常識庫是一項「AI 的曼哈頓工程」。大家想想常識庫多麼不好建，怎麼告訴計算機，什麼叫吃飯，怎麼告訴計算機，什麼叫睡覺，什麼叫做睡不著覺，什麼叫做夢，這些對人工智慧來說都非常難，美國在 1984 年就搞了這樣一個常識庫的工程，做到現在還沒完全做出來。可見，要走向真正的人工智慧，有理解的人工智慧，是一條很漫長的路。
張鈸院士在CCF-GAIR大會現場
這裡介紹一點我們現在做的工作，加入常識以後，對話的性能會不會有所改善。我們的基本做法是建立一個常識圖譜，用這個圖譜幫助理解提出的「問題」，同時利用常識圖譜幫助產生合適的答案。
下面就涉及到具體怎麼做了，我不詳細說了，我就說結果，結果是有了常識以後，性能有了顯著的改善，對話的質量提高了。這篇文章已經發表，有興趣可以去閱讀。
另外是准符號模型，深度學習、神經網路主要用來模擬感性行為，感性行為是一般很難採用符號模型，因為感性（感覺）沒法精確描述。比如「馬」，怎麼告訴計算機什麼叫做馬？你說馬有四條腿，什麼叫做腿？你說細長的叫做腿，什麼叫細？什麼叫做長？沒法告訴機器，因此不能用符號模型。目前用的辦法就是我們現在說的神經網路或者准符號模型，也就是用人類同樣的辦法，學習、訓練。我不告訴機器什麼叫做馬，只是給不同的馬的圖片給它看，進行訓練。訓練完以後，然後再用沒見過的馬的圖片給它看，說對了，就是識別正確了，說不對就是識別不正確，如果 90% 是對的，就說明它的識別率是 90%。後來從淺層的神經網路又發展到多層的神經網路，從淺層發展到多層有兩個本質性的變化，一個本質性的變化就是輸入，深層網路一般不用人工選擇的特徵，用原始數據就行。所以深度學習的應用門檻降低了，你不要有專業知識，把原始數據輸進去就行了。第二個是它的性能提高很多，所以現在深度學慣用得很多，原因就在這個地方。
通過數據驅動建立的系統能不能算是有智能呢？必須打一個很大的問號，就是說你做出來的人臉識別系統甚至識別率會比人還高，但是我們還不能說它有智能，為什麼呢？這種通過數據驅動做出來的系統，它的性能跟人類差別非常大，魯棒性很差，很容易受干擾，會發生重大的錯誤，需要大量的訓練樣本。我們剛才已經說過，給定一個圖像庫我們可以做到機器的識別率比人還要高，也就是說它可以識別各種各樣的物體，但是這樣的系統，我如果用這個雜訊輸給它，我可以讓它識別成為知更鳥，我用另外的雜訊輸給它，可以讓它識別成為獵豹。換句話講，這樣的系統只是一個機械的分類器，根本不是感知系統。也就是說它儘管把各種各樣動物分得很清楚，但是它不認識這個動物，它儘管可以把獵豹跟知更鳥分開，但是它本質上不認識知更鳥和獵豹，它只到達了感覺的水平，並沒有達到感知的水平，它只是「感」，沒有上升到「知」。我們的結論是，只依靠深度學習很難到達真正的智能。這是很嚴峻的結論，因為如果有這樣的問題，在決策系統裡頭是不能用這樣的系統，因為它會犯大錯。我在很多場合講過，人類的最大的優點是「小錯不斷、大錯不犯」，機器最大的缺點是「小錯不犯，一犯就犯大錯」。這在決策系統裡頭是不允許的，這就顯示人跟機器的截然不同，人非常聰明，所以他做什麼事都很靈活，這就使得他很容易犯各種各樣的小錯。但是他很理性，很難發生大錯。計算機很笨，但是很認真，小錯誤絕對不會犯，但是它一犯就是天大的錯誤。剛才把那個把雜訊看成知更鳥，這不是大錯嗎？你把敵人的大炮看成一匹馬，不是大錯嗎？但是人類不會發生這種錯誤，人類只會把騾看成驢，但是計算機的識別系統會把驢看成一塊石頭。原因在哪兒？原因還是 AI 的理解能力問題。
我們看這個自動駕駛，過去講得很多，而且講得很樂觀，我們看看問題在什麼地方。我們現在是這樣做，我們通過數據驅動的學習方法，學習不同場景下的圖象分割，並判別是車輛還是行人、道路等，然後建立三維模型，在三維模型上規划行駛路徑。現在用硬體已經可以做到實時，請問大家，這樣能不能解決問題？如果路況比較簡單，行人、車輛很少，勉強可以用。複雜的路況就用不了。什麼原因？非常簡單，好多人總結出這個經驗，行人或者司機都會有意無意破壞交通規則，包括外國人也一樣，中國人更嚴重一點。這就使得數據驅動方法失效，比如說我們可以用數據驅動方法來了解各種各樣行人的行為，我們可以通過大量進行訓練，都訓練完以後，如果出現新的情況呢？計算機能理解這是人從底下鑽過來，很危險嗎？所以你不可能把所有情況都訓練到。自動駕駛不可能對付突發事件，如果這個突發事件它沒見過，它就解決不了。
怎麼來解決這個問題呢？實際上就是要解決從「Without」到「With」理解的問題。人工智慧現在有兩種基本方法，一種是用符號模型來模擬理性行為，符號模型可以表達信息的內容，所以它是在一個語義的符號空間裡頭，但是非常不幸，這個離散的符號表示，數學工具很難用，很多數學工具用不上去，所以它發展很慢。在模擬感性行為的時候，我們用的是特徵空間的向量，向量就是數，可以把所有的數學工具都用上，優化的工具、概率統計的工具全部用上。所以數據驅動方法這幾年發展非常快，再難的問題，下圍棋非常難吧，計算機也可以「算」出來。但是它有一個非常大的缺陷，它是在特徵空間里，缺乏語義。我們用數據去訓練一個模型，所謂「黑箱學習法」，加上你的數據質量不高，很難學出有用的東西。什麼叫概率統計？重複多了就是真理。如果數據質量差，充滿了「謊言」。謊言重複多了，就變成真理了。
我們現在想出的解決辦法是這樣的，就是把這兩個空間投射到一個空間去，這個空間叫做語義的向量空間。也就是說我們把符號變成向量，同時把特徵空間的向量變成語義空間的向量。怎麼做？一是通過 Embedding（嵌入）把符號變成向量，盡量保持語義不變，可惜現在的方法都會引起語義的丟失，我們只能在投射的過程中讓語義丟失得少。第二方面做的工作比較少，就是 Raising（提升），把特徵空間提升到語義空間去，這主要靠學科交叉，靠跟神經科學的結合。只有這些問題解決以後，我們才能夠建立一個統一的理論，因為過去的感知和認知是不同的處理方法，大家說不到一塊，如果我們能夠投射到同一空間去，我們就可以建立一個統一的理論框架，這是我們的目標。在語義空間處理就可以解決理解問題，但是這項工作是非常艱巨的。
介紹一項我們現在做的工作。人工神經網路為什麼不能得到語義信息呢？人腦的神經網路為什麼可以呢？差別就在這裡，我們現在用的人工神經網路太簡單了，我們正想辦法把腦神經網路的許多結構與功能加進去，我們這裡只用了「稀疏發電」這一性質，就可以看出一些效果，人臉、大象或者鳥的輪廓，神經網路可以把它提取出來。
還有一個辦法就是把數據驅動跟知識驅動結合起來。剛才講了，人的智能沒法通過單純的大數據學習把它學出來，那怎麼辦？很簡單，加上知識，讓它有推理的能力，做決策的能力，這樣就能解決突發事件。我們現在做的工作就是把這些結合起來，這是我們的基本思路，知識也好，數據也好，都投射到同一空間，然後都用同樣的數學方法進行處理，這方面我們已經做了不少工作。
最後做一個總結，我們從這個坐標看人工智慧，橫軸代表領域的寬窄，從單領域到多領域、到開放領域。縱軸代表信息的確定性與完全性，從完全到不完全、從確定到不確定。在左下角代表最容易的，就是剛才講的符合 5 個條件的，現在人工智慧在這部分解決得非常好，我們用白色來表示它，AlphaGo 在這裡，深藍在這裡，工業機器人在這裡。現在我們正在向灰色地區去走，打牌，信息不完全，現在打德州撲克，一人對一人，計算機能戰勝人類，多人對弈，計算機還不行，這是灰色地帶，我們還可以做，為什麼可以做？儘管打牌是不確定的，但是它在概率意義下是確定的，你拿的這副牌的概率，可以算出來，同花的概率是多少，排成順的概率是多少，既然概率能算出來，最終人類肯定會被計算機打敗。Watson 在右邊，它的領域比較寬，但是它是確定性的，所以是在灰色的區域。往右上方去就比較難了，自動駕駛、服務機器人、大數據分析，它是一個大框，有的簡單，有的困難，就自動駕駛來講，專用道、行車很少，路況簡單等，在白色或者灰色區，如果路況複雜就到了黃色區域，黃色區現在計算機還解決不好。最遠的在哪兒呢？右上角，圖靈測試。大家對圖靈測試有很多誤解，其實圖靈測試是開領域問答，很難！索菲亞做得怎麼樣？很糟糕。自然語言理解也在這裡，複雜環境下的決策在偏左一點的地方，這也是很難的。所以我們人工智慧現在是從左下角往右上角走，我們現在處在出發點附近。有的人想把它用一些名詞來區分人工智慧的不同發展階段，有專家問我，你的看法怎麼樣？我建議不要用新詞，用新詞往往說不清，很麻煩，有的人說現在是弱人工智慧，以後是強人工智慧，也有人說現在叫增強智能（Augmented Intelligence）也是 AI……概念太多說不清，還是簡單一點，「我們正在通往真正 AI 的路上」，現在走得並不遠，在出發點附近，人工智慧永遠在路上，大家要有思想準備，這就是人工智慧的魅力。大家為什麼這麼重視人工智慧？因為我們永遠在路上，這就吸引我們去解決這些問題，這些問題一旦解決了，人類的社會進步、人類的生活就會發生本質上的改變。
最後我用一段古文作為總結：
周穆王西巡狩，路遇匠人名偃師。翌日偃師謁見王，偕來一個假人。「趨步俯仰，信人也」。「領其顱，則歌合律；捧其手，則舞應節。千變萬化，惟意所適。王以為實人也，與盛姫內御並觀之，技將終，倡者瞬其目而招王之左右侍妾。王大怒，要殺這個偃師。偃師大懾，立剖其倡者以示王，皆傅會革、木、膠、漆、白 、黑、丹、青之所為。穆王始悅，詔貳車載之以歸。
這是 3000 年前我們古人對機器人的想像，看看現在的人工智慧做得怎麼樣呢？索菲亞是我們現在達到的水平，可是她不會唱歌、不會跳舞，只會說英文，周王也聽不懂，肯定沒有印象。現在我們假設索菲亞「瞬其目而招王之左右侍妾」，向周王的姨太太們送去秋波，王會如何呢？我認為沒反應，因為索菲亞是女的，他用不著吃醋。但是我們假設索菲亞「瞬其目而招王」，向大王送去秋波，王會大悅，立即神魂顛倒，墜入愛河？我認為不會，因為索菲亞根本不像人，它最近才剛剛安上手腳，走路都不利索，怎麼行呢？所以我的結論是，「索菲亞通不過穆王的測試，當然它更通不過圖靈測試」。
我們的結論是什麼？人工智慧剛剛起步，離真正的 AI 還很遙遠，大家共同努力吧，我們任重道遠。
本文轉載自「環球科學ScientificAmerican」（ID:huanqiukexue）。
