、

「在已知的宇宙中，人類的大腦是最復雜的東西，它復雜得讓試圖解釋它的簡單模型可笑，讓精致的模型無用。」

這是杜克大學認知神經(jīng)科學中心的斯科特 · 胡特爾被廣為引用的一句名言。

在馮諾依曼架構(gòu)觸頂、摩爾定律不再適用的當下，工程師們愈發(fā)意識到，模擬人腦神經(jīng)網(wǎng)絡或許才是人工智能的未來。近 10 多年來受人腦啟發(fā)逐漸發(fā)展的神經(jīng)擬態(tài)計算，到底是怎么一回事？

模糊學習與神經(jīng)復刻

首先，要了解神經(jīng)形態(tài)技術(shù)，有必要快速了解一下大腦的工作原理。

信息以電信號的方式，通過神經(jīng)元突觸在大腦中傳遞。和傳統(tǒng)計算機通過晶體管的開關(guān)來傳達信息相同，神經(jīng)中電信號的傳遞也只有 0 和 1 兩種狀態(tài)。

但不同于傳統(tǒng)計算機的一點是，雖然單個神經(jīng)元只有放電 / 非放電兩種狀態(tài)，但神經(jīng)元集群能夠以集體放電的方式來調(diào)控信號的強弱。同時，神經(jīng)元放電具有強關(guān)聯(lián)性，經(jīng)常同時放電的神經(jīng)元能夠建立更密集的連接。

簡單來說，大腦的神經(jīng)網(wǎng)絡能夠從強度、時效等方面更豐富地表達信息。因此在缺少明確定義、語義模糊的現(xiàn)實場景中，神經(jīng)形態(tài)模擬計算無疑具有更高的靈活性和分析能力。

圖：同時放電的神經(jīng)元 | Medical Xpress

除了更細膩、豐富的信息傳導以外，神經(jīng)擬態(tài)計算對硬件層面的要求十分高。傳統(tǒng)的馮諾依曼架構(gòu)下，信息的處理和儲存在物理上是分開的。而神經(jīng)元之所以擁有極高的信息傳導效率，很大一部分原因是因為信息的處理和存儲一體化。

這種設置讓信息不用在處理器和存儲之間來回穿梭，節(jié)省了大量的時間和能耗。而在目前的神經(jīng)擬態(tài)領(lǐng)域中，硬件的模擬距離真實的大腦還十分遙遠。因此，現(xiàn)實中的神經(jīng)形態(tài)模擬更多地停留在程序和功能層面上。

現(xiàn)實中的神經(jīng)形態(tài)模擬

一些學者、初創(chuàng)公司和科技巨頭已經(jīng)在制造和使用神經(jīng)形態(tài)系統(tǒng)。

英特爾有一個名為 Loihi 的神經(jīng)形態(tài)芯片，已經(jīng)開發(fā)了一個名為 Pohoiki Beach 的突觸系統(tǒng)，其中包含 800 萬個神經(jīng)元（預計在不久的將來會達到 1 億個神經(jīng)元）。

Loihi 的微代碼（其芯片級指令）于 2017 年 9 月首次宣布，并于次年 1 月在 CES 2018 上正式首發(fā)，其中包括專門為訓練神經(jīng)網(wǎng)絡而設計的語句。設計組明確將其描述為對神經(jīng)形態(tài)過程的模擬，而不是真正的功能實現(xiàn)。

圖：Loihi | Tim Herman for Intel Corp.

Loihi 的設計被稱為「受大腦啟發(fā)」。這可能有點像說，「靈感來自一個真實的故事」，因為這些指令是微編碼的，而不是實體的連接。

如上圖所示，由 64 個 Loihi 芯片組成的集群形成了一個神經(jīng)形態(tài)加速器。該加速器于 2019 年 7 月向研究界提供。目前，研究人員正在使用 Loihi 芯片制造人造皮膚和開發(fā)動力假肢。

IBM 也擁有自己的神經(jīng)形態(tài)系統(tǒng) TrueNorth，該系統(tǒng)于 2014 年推出，擁有 6400 萬個神經(jīng)元和 160 億個突觸。雖然 IBM 后來沒有太多曝光 TrueNorth 的進展，但它于 2020 年宣布與美國空軍研究實驗室合作創(chuàng)建名為 Blue Raven 的「神經(jīng)擬態(tài)超級計算機」 。該實驗室仍在探索這項技術(shù)的用途，初步選擇制造更智能、更輕、能耗更低的無人機。

與 Loihi 一樣，TrueNorth 與其說是物理上的神經(jīng)形態(tài)，不如說是神經(jīng)形態(tài)原理的模擬器。

「這些神經(jīng)網(wǎng)絡最吸引人的屬性是它們可以移植到神經(jīng)形態(tài)的硬件中，」 2018 年 9 月 IBM 神經(jīng)形態(tài)專利申請中寫道，「它可以部署在移動設備和本機傳感器中，可以實現(xiàn)實時的低功耗。神經(jīng)形態(tài)計算展示了一種前所未有的低功耗計算基板，可用于許多應用程序?！?/p>

神經(jīng)形態(tài)計算始于加州理工學院的 Carver Mead 實驗室。目前，世界上最著名的神經(jīng)形態(tài)計算實驗室仍然在學術(shù)機構(gòu)中。例如，歐盟資助的人腦計劃項目 ( HBP ) ，自 2013 年開始運行，預計為期 10 年，旨在研究包括神經(jīng)形態(tài)計算在內(nèi)的六個領(lǐng)域以促進對大腦的理解。

HBP 促成了兩項主要的神經(jīng)形態(tài)計劃，SpiNNaker 和 BrainScaleS。

2018 年，一個百萬核的 SpiNNaker 系統(tǒng)上線，這是當時最大的神經(jīng)形態(tài)超級計算機，是由德國工程師與 Jülich 神經(jīng)科學和醫(yī)學研究中心、英國曼徹斯特大學合作研發(fā)的百萬核計算系統(tǒng)。該項目希望最終將其擴大到對 100 萬個神經(jīng)元進行建模。

SpiNNaker 模擬哺乳動物大腦中神經(jīng)元的連接方式，來實現(xiàn)大腦皮層細微的神經(jīng)電路功能。

圖：SpinNNaker | zdnet.com

正如 SpiNNaker 名字中的大寫「NN」所強調(diào)的那樣，系統(tǒng)希望實現(xiàn)脈沖神經(jīng)網(wǎng)絡 ( SNN ) 的作用。該系統(tǒng)特別適用于神經(jīng)形態(tài)架構(gòu)，因為它直接作用于人造突觸的可塑性。正如曼徹斯特大學研究員 Andrew Rowley 在 2019 年 11 月的一次會議上解釋的那樣，「我們想要制造的是一臺擁有一百萬個類似手機處理器的百萬核機器，和 1% 人腦或 10 只老鼠大腦的處理水平相當?！?/p>

和 SpiNNaker 一樣，BrainScaleS 喜歡把大寫字母混在一起，也得到了歐盟人腦計劃的資助。但與 SpiNNaker 不同的是，BrainScaleS 是一項長期運行的、位于德國海德堡的項目，旨在把 SpiNNaker 進行數(shù)字模擬的模型部署到物理建模的仿生平臺。該平臺的基礎(chǔ)自己研發(fā)的集成電路芯片。

圖：BrainScaleS 芯片 | zdnet.com

根據(jù) 2020 年 5 月提交給歐盟的文件，完全組裝后的 BrainScaleS 由五個 19 英寸機架組成，總共支持 20 個晶圓模塊（服務器）加上電源和冷卻器。每個晶片模塊包括 384 個處理器，每個處理器代表 512 個神經(jīng)元的 114,688 個突觸。神經(jīng)元一般會自動「放置」在晶片上，但也可以使用 Python 的 morocco 插件手動指定神經(jīng)元的放置位置。

神經(jīng)形態(tài)系統(tǒng)有哪些挑戰(zhàn)？

從馮諾依曼架構(gòu)轉(zhuǎn)向神經(jīng)形態(tài)計算并非沒有重大挑戰(zhàn)。

現(xiàn)行的計算規(guī)范，例如數(shù)據(jù)的編碼和處理方式，都是圍繞馮諾依曼模型發(fā)展起來的。因此，想要搭建切實可行的神經(jīng)形態(tài)系統(tǒng)需要對大量數(shù)據(jù)進行重新設計。例如，傳統(tǒng)系統(tǒng)處理視覺輸入時，會將數(shù)據(jù)理解為一系列單獨的幀，而神經(jīng)形態(tài)處理器會將此類信息編碼為隨時間變化的視場（ VF, visual field ） 。

編程語言也需要從頭開始重寫。由于硬件方面存在的挑戰(zhàn)，需要能夠更好地適應神經(jīng)形態(tài)設備的新一代的內(nèi)存、存儲和傳感器。

神經(jīng)形態(tài)技術(shù)甚至可能需要從根本上改變硬件和軟件的開發(fā)方式。神經(jīng)形態(tài)硬件中不同元件的集成方式都和傳統(tǒng)芯片不同，例如內(nèi)存和處理器的集成等，都需要重新設計。

我們準備好制造類腦計算機了嗎？

神經(jīng)形態(tài)計算可能會帶來神經(jīng)科學的進步。隨著研究人員開始嘗試在電子設備中重建神經(jīng)元，他們可能會更多地了解大腦的內(nèi)部運作，從而幫助神經(jīng)學家更多地了解大腦。

同樣，隨著我們對人類大腦的了解越多，神經(jīng)形態(tài)計算也可能會開辟更多的途徑。例如，神經(jīng)膠質(zhì)細胞 ( glia neurons ) —— 大腦的支持細胞 —— 在大多數(shù)神經(jīng)形態(tài)設計中的重要性并不高，但隨著這些細胞在信息處理過程中的作用逐漸被發(fā)現(xiàn)，計算機科學家開始研究它們是否也應該被加入到神經(jīng)形態(tài)系統(tǒng)中。

當然，關(guān)于在硅中模擬人腦的日益復雜的工作，更有趣的問題之一是研究人員最終是否可能最終在機器中重新創(chuàng)造意識。對于這個問題，HyperTech 之前也進行過探討。在這篇文章里，我們從意識的定義、人腦的認知等方面討論了能夠打乒乓球的「缸中之腦」是否可被稱作具有意識。單就目前神經(jīng)形態(tài)模擬和類腦培育方面的成就而言，談論機器是否具有意識還為時尚早。但在未來，真正的「創(chuàng)造」或許已經(jīng)在路上。