深度神經網絡已經掌握了解決各種問題的方法——從識別、推理圖像中的物體，到成為“圍棋上帝”。隨著這些任務變得越來越復雜，神經網絡摸索出來的解決方法也變得越來越繁瑣。

因為這個系統太復雜了，即使是設計該系統的工程師可能也無法分析出它發出某一指令的原因。當然，你也不能強求這個神經網絡能夠給出它下達每一個指令的原因：目前為止還沒有一套能夠讓 AI 自己解釋自己行為的系統。

實際上，這就是人工智能領域著名的“黑盒子”問題，隨著神經網絡在現實世界中的應用越來越廣泛，對這一問題的研究也開始變得無比重要。對此，《麻省理工科技評論》曾以“人工智能核心地帶的黑暗秘密”為題刊發專題文章，來深入探討神經網絡的不可解釋性問題。

圖丨《麻省理工科技評論》關于人工智能的“黑盒子”問題的封面文章

作為人工智能研究領域的先鋒，DeepMind對“黑盒子”問題也在持續關注——目前，該團隊正著手開發更多的工具，用于解釋人工智能系統。6 月 26 日，在最新發布的一篇論文中，DeepMind提出了一種基于認知心理學來研究深度神經網絡的新方法。

那么，什么是認知心理學？一般而言，該學科通過評估行為來推測認知機制，并涵蓋了大量與認知機制相關的細節，同時還設計了很多實驗來證明這些機制。隨著神經網絡在解決某些具體問題上的能力已經達到或超越人類水平，認知心理學的研究方法將與人工智能的黑盒子問題愈發相關。

為了證明這一點，DeepMind設計了一個實驗來解釋人類認知，從而幫助人類進一步了解深度神經網絡是如何解決圖像分類問題。

實驗結果顯示，認知心理學家觀察到的人類行為，在深度網絡中也有類似的體現。總體上說，實驗的成功也證明，認知心理學完全可以用來幫助人們更好地理解深度學習系統。

在 DeepMind 的案例研究中，甚至考慮到了孩子們是如何辨識物體的，這是認知心理學的一大研究領域。

通常而言，孩子們從單個例子中猜測詞語意思的能力，被稱為“單次語義學習”（one-shot word learning）——這種認知能力看起來非常自然，會讓人們覺得，這一過程其實沒什么太復雜的機制。

然而，美國著名哲學家威拉德·奧曼·奎因多年前設計的一個經典思想實驗，卻向人們展示了這一過程到底有多復雜：

一個語言學家要去一個地方，但那里的語言和這個語言學家所使用的完全不一樣。于是，這位語言學家想找一位當地人來學習一些本地語言中的詞匯。這時，正巧有一只兔子從他們身邊跑過，當地人脫口而出“gavagai”，于是語言學家就開始推測這個詞的意思。

圖丨“gavagai”到底指的是什么？

當然，這個詞可能表示很多意思，可以是“兔子”、“白色的東西”，甚至指兔子身上的某一部位。

那么，面對這么多的可能性，人類如何去選擇哪個正確的意思？

時至今日，我們在使用深度神經網絡進行單次語義學習時也會遇到了同樣的問題，而 DeepMind 團隊所開發的名為“匹配網絡”（Matching Network）的新型神經網絡模型或許可以解決這些問題。

實際上，匹配網絡憑借著在關注度和記憶方面的進步，完全可以做到僅憑一個案例就對ImageNet圖像識別數據庫中的海量數據進行分類篩選，而且表現絕對是無可爭辯的。

圖丨“匹配網絡”的結構

為了闡明這一點，研究團隊參照了認知心理學家的研究結果——他們發現，孩子們往往是通過歸納出偏好來消除許多錯誤推論，從而得出正確推論。這些典型的偏好包括：

整體偏好（whole object bias）：孩子們會更傾向于認為一個詞指代的是整個物體，而不是它的組成部分（兔子未被關注的部分）；

類別偏好（taxonomic bias）：將一類物體歸于類別中的某一種物體（所有動物都可能被當做“兔子”）；

形狀偏好（shape bias）：孩子們往往會根據事物的形狀，而不是顏色或條紋來描述一個物體。（所有白色的東西都可能被歸類為“兔子”）。

在上面三種偏好中，DeepMind的研究團隊選擇了“形狀偏好”作為檢測神經網絡的切入點，這是因為“形狀偏好”在人類偏好研究中占據了很大的比重。

圖丨從左至右：原物體、形狀匹配物體、顏色匹配物體

更為關鍵的是，在接下來的試驗中，DeepMind 研究團隊向深度神經網絡展示三個物體的圖像——原物體、形狀匹配物體（形狀相似但顏色不同的參照物體）以及顏色匹配物體（顏色相似但形狀不同的參照物體）。同時，研究團隊記錄了原物體和形狀匹配物體被歸為一類的次數，以及原物體和顏色匹配物體被歸到一類的次數。

在對上述歸類次數進行比對后，研究人員發現，正如人類一樣，該網絡對形狀的感知有著超過對顏色和材質的偏好——也就是說，神經網絡也有著“形狀偏好”。

圖 | DeepMind在匹配網絡中進行的認知心理學實驗。A為形狀匹配物體，B為顏色匹配物體。由于匹配網絡對形狀的偏好，會傾向于將原物體于A相匹配。

然而，除了觀察到深度網絡的形狀偏好外，還有一些值得注意的結果：

首先，形狀偏好在對網絡訓練的早期就開始出現。這很容易令人聯想到了人類思維方式對于形狀的偏好。心理學家表示，兒童所展示的形狀偏好比青少年要少，而成年人的形狀偏好最為明顯；

其次，取決于不同的組合和訓練模式，深度網絡對形狀偏好的程度也不一樣。所以當研究團隊對深度學習系統進行測試時，必須使用大量的訓練模型來得到可靠的結果，就像心理學家對不同對象的測試一樣；

最后，即使形狀偏好程度不同，每個網絡在同種單次語義學習測試上的表現是一樣的。這說明不同的網絡可以針對同一個復雜問題找到同樣有效的解決辦法。

總之，DeepMind團隊認為，此次實驗的重大成功就在于證明了認知心理學在解釋和推測神經網絡行為方面的潛力。而由于人類在認知心理學研究領域具備豐富的知識儲備，這將為解決人工智能“黑盒子”問題提供全新的思路，讓人類更深刻的理解深度神經網絡的行為。