AI也需要做夢嗎？

編者按：本文來自微信公眾號「騰訊研究院」（ID：cyberlawrc），作者 楊振瀚，王健飛，36氪經授權發佈。

所有人都會做夢。人在睡眠的時候，腦細胞同樣也進入了休息和放鬆的狀態，但有一部分腦細胞並沒有完全休息，一些微弱的刺激就會引發它們的活動，從而讓人們進入夢境。

在大多數情況下，夢是使人愉快的。當我們睡覺時，我們記憶中的視覺和音頻碎片結合成無意義的片段和全新的故事。鬆散的回憶瞬間融合了生動、形象的場景，在夢中我們會與已知人物形成的角色進行互動。

做夢並不是睡眠的副產品，而是我們大腦工作的必要過程之一。做夢時，我們的大腦過濾了清醒時收集的信息，然後神經系統開始發揮作用——拋棄不相關的東西，鞏固重要的東西，以及形成和儲存記憶，這些機制在整個哺乳動物界幾乎都是相同的並且非常行之有效。

那麼問題來了：人工智能也需要同樣的機制來過濾、處理信息嗎？

意大利的一組科研人員在數學模型上模擬了這個過程，並將其輸入了一個人工智能系統，結果得出了一種算法，即通過強制它們進入離線睡眠狀態來擴展人工智能網絡的存儲容量，在此期間它們強化有用的存儲信息並刪除了不相關的信息。

Adriano Barra是意大利薩蘭託大學的理論物理學家。Barra與他的同事Elena Agliari和Alberto Fachechi正在研究大腦這樣複雜的系統，並為人類大腦製作了神經生物學的數學模型。

「我們的理論物理學家比工程師有著一些優勢，」Barra說。「由於數學模型是相同的，所以我們可以將我們的結果應用於人工智能。我們是神經生物學和工程學之間的橋樑。」

在搞清楚「做夢模型」能為人工智能帶來什麼之前，我們先要瞭解一下現在的人工智能神經網絡的一些問題。

人工智能神經網絡的經典藍圖之一是Hopfield模型。它由John Hopfield於1982年開發，這個模型描述了人工智能神經網絡如何模仿真實大腦的模式識別等機制來學習和檢索信息。這個模型雖然發明於30多年前，但是一直沿用至今，並且在機器學習、聯想記憶、模式識別、優化計算等方面依然存在著廣泛的應用，是現今人工智能進行深度學習的重要理論基礎之一。

Hopfield神經網絡是一種單層互相全連接的反饋型神經網絡，網絡中的每一個神經元都將自己的輸出通過連接權傳送給所有其他神經元，同時又接收著其他神經元傳遞過來的信息。

Hopfield神經網絡最受歡迎的學習規則是赫布學習法，它提出了在學習過程中如何加強神經元之間的突觸（一個神經元的衝動傳到另一個神經元或傳到另一細胞間的相互接觸的結構）。赫布學習法對全球的人腦研究做出了巨大的貢獻，對現今的神經科學、認知科學、計算機科學、行為科學等研究產生著深遠的影響。

然而，這個經典藍圖存在一個缺點，通常情況下它只能存儲有限數量的信息。以數學的方式表示，即該對稱網絡的最大存儲容量為 α~0.14。但是，理論極限是1，或α= 1。

處於「清醒」或在線狀態的人工智能神經網絡總是在學習新的信息模式。然而，除了理想的模式，他們還收集不相關的，甚至是假的模式。神經網絡可以通過網絡儲存重要的模式，但存儲錯誤不可避免地會出現，導致不相關的假模式同樣被儲存。

舉一個例子，在飲料中可口可樂是紅色包裝，雪碧是綠色包裝，在人工智能神經網絡儲存有關這些飲料的詳細信息同時，也會收集到一些冗餘的信息例如，紅色罐子包裝的茶葉，綠色瓶裝的花露水等等。最終達到最大容量0.14 。

事實上我們可以將人類的大腦視作為一台精密的人工智能儀器，處於清醒狀態的我們接收外部的信息並將其儲存於大腦（硬盤）於是形成了記憶。我們也會接觸到一些「無用「（與我們的生活不相關的）信息，這些信息同樣會被儲存於我們的大腦。我們大腦的容量同樣有限。但這大多不會影響我們的決策（大腦依據有用信息運算出來的結果）。

同樣，在人工智能神經網絡中，有限的容量並不能阻止人工智能執行特定的任務，但是這些無用的數據會堵塞寶貴的空間，這是浪費和低效的。意大利團隊的解決方案是，利用一種算法，它會迫使網絡進入離線階段，與哺乳動物睡眠相呼應，用於強化重要記憶並消除不相關記憶。

如果不能及時擺脫虛假錯誤的信息，短時間內影響不大，但隨時時間的推移，錯誤信息越來越多，神經網絡或許就不再能區分可樂和雪碧。

哺乳動物的大腦也在不斷收集新的信息模式。但就像一艘不分青紅皂白拖著海床生物的漁船一樣，他們的大腦也汲取了不重要的細節。

「當你醒著時，你會被動地存儲大量信息，你真的不需要它而且真的不想存儲它，「Barra說，「所以，我們需要通過睡眠來擺脫清醒時收集的虛假或者無用信息。」

在快速眼動（REM）睡眠期間，即做夢的睡眠階段，我們的大腦正忙著擦除無關的記憶。這也為存儲新的信息提供了空間。在慢波（SW）睡眠中，重要的記憶得到加強。雖然大多數夢境發生在REM期間，但我們也可能會遇到在SW睡眠期間難以回憶的模糊夢境。

難以回憶的信息，其實就是我們大腦在睡眠的時候為我們刪除的無用信息。哺乳動物的大腦使用睡眠和做夢的高效機制來清理大腦的存儲空間，研究小組對這一事實的分析就是他們研究算法的起點。他們通過神經生物學論文分析大腦在睡眠時的現象，並嘗試用數學方式對其進行建模。「如果我們將這個數學模型應用於Hopfield模型，會發生什麼呢？」Barra問道。

他們的回答以論文的形式發表於四月的《Neural Networks》 （《神經網絡》）上。在新框架下，人工網絡於在線或清醒會話期間，會學習和存儲信息。

但是，當存儲容量達到0.14時，網絡將被強制進入離線或休眠狀態。這個睡眠狀態用於刪除不相關的信息並整合重要的東西，或者更專業地，用於「虛假模式去除和純模式（對於執行任務有用的信息模式）增強」。通過實施新的離線方案，團隊能夠釋放存儲空間並將容量增加到1。

進化以及自然選擇，已經為現代哺乳動物提供了大腦在睡眠狀態下識別信息的標準，但人工智能神經網絡則需要人類來承擔這項任務。「所以我們必須對神經網絡說，這些信息很重要，要注意它，那些並不重要，要把它們刪掉，」巴拉說，「他們沒有重要性的概念。」

所以，我們的答案是，人工智能同樣需要睡眠。隨著數學模型基本構建完成，Barra的工作已經告一段落，進入了軟件工程師實施算法的階段。或許，Barra也可以小睡一會了。

本文經授權發布，不代表36氪立場。
如若轉載請註明出處。來源出處：36氪