摘要:所以這也是人工神經網絡的“睡眠”狀態所做的事情,循環並釋放不必要的信息,然後鞏固記憶剩下的重要的信息。他們在論文中寫道:“受哺乳動物大腦中睡眠和做夢機制的啓發,我們提出了這個模型的擴展,展示了標準的在線(喚醒)學習機制(允許按照模式存儲外部信息)和離線(睡眠)釋放和鞏固機制。

睡眠是一件很舒適的事情。對人類而言,有證據表明它有一系列好處,包括:它通過讓神經元剪掉我們白天所做的不必要的突觸連接來保持大腦健康。

這個過程被稱爲突觸內穩態,防止大腦被無用的記憶所覆蓋。它可能有助於提高我們的認知能力,而夢使我們能夠處理我們的記憶。

事實證明,當人工神經網絡被設計爲可以睡覺和做夢時,可能會發生類似的事情。

試驗證明,的確是這樣。它的工作原理和人們認爲睡眠在人類身上起作用的方式非常相似。

當然,人工神經網絡(anns)——一種基於生物神經網絡的人工智能——但是這種神經網絡不會自動、本能地進入夢鄉。這就是爲什麼意大利的數學家們設計了一種叫做Hopfield網絡的人工神經網絡,使之能夠入睡。

他們在論文中寫道:“受哺乳動物大腦中睡眠和做夢機制的啓發,我們提出了這個模型的擴展,展示了標準的在線(喚醒)學習機制(允許按照模式存儲外部信息)和離線(睡眠)釋放和鞏固機制。”

換句話說,當人工神經網絡“清醒”時,它是處於學習和存儲模式。但是它的存儲容量是有限的。

因此,研究小組想出了一種數學方法來實現人類的睡眠模式——快速眼球運動睡眠和慢波睡眠,前者被認爲可以消除不必要的記憶,後者被認爲可以鞏固重要的記憶。

所以這也是人工神經網絡的“睡眠”狀態所做的事情,循環並釋放不必要的信息,然後鞏固記憶剩下的重要的信息。

結果是非常顯著的。在沒有睡眠狀態的情況下,最大容量是α=0.14,其中α代表每個突觸存儲的比特數。當一個睡眠週期被納入神經網絡時,神經網絡達到了這種類型的網絡容量的理論極限-α=1。

大量的模擬測試驗證了這一結果——表明允許人工神經網絡偶爾打盹(使用正確的打盹算法)可以提高人工智能的性能。

Salento大學的數學家Adriano Barra說:“我們相信,在認知進步過程中——當然是學習和檢索一直在扮演着的關鍵的角色——睡眠對人工智能也是非常有必要的,就像對生物智能起作用的方式一樣。”

不管他們的夢中是什麼,我們還是希望他們的夢境是美好的。

相關文章