本文為中國科學院院士、廣東省智能科學與技術研究院院長張旭受邀撰寫并刊發在《中國科學院院刊》2024年第39卷第5期上的文章。全文轉載如下:
智能時代的腦科學與類腦智能研究
20世紀90年代末,隨著互聯網的出現,人類社會步入智能時代,其標志是計算機科學和信息技術迅速 發展、互聯網普及、大數據興起、人工智能 (AI) 技術進步。智能時代是以智能科技為核心技術、智能計 算力①為代表性生產力的時代。近年來,隨著計算機 算力的增加,AI技術得到了快速發展和應用,人們推 測當計算機的智能算力超過人腦的算力時,可能引發 智能科技的變革。理解人腦如何能夠低能耗地進行大 規模智能計算的原理是開發下一代智能算力的源泉。 腦科學(brain science)是研究人、動物和機器的認知與智能的本質和規律的科學。人類大腦是最為復雜的 信息和智能系統,對腦感知、認知功能神經網絡的解析會啟迪類腦智能理論和類腦智能技術②。腦科學研 究將如何貢獻于智能時代的社會發展?在智能時代, 腦科學研究正凸顯它的多學科交叉研究的特征,以及學術研究與工程技術并舉的特征,腦科學由此新納入了腦機接口、類腦智能計算等研究領域[1,2] 。解析腦認知功能網絡是發展類腦智能的基礎。2023年,研究者 繪制了小鼠大腦的完整細胞圖譜,以及較為全面的人腦和非人靈長類動物大腦圖譜,腦機接口進入人體臨床試驗。類腦智能研究與開發是腦科學新的前沿領域。新近出現的類腦處理器單元③使構建大規模類腦智能計算系統成為可能,未來類腦超級算力極可能超過人類大腦算力,促進智能科技變革和影響人類社會發展。
1 智能時代腦科學的新領域——類腦智能
1.1 智能時代的科技內涵
智能時代的內涵是通過機器智能的發展和應用, 推動一場以大數據為基礎的技術革命,智能計算系統 能夠模擬和擴展人類的智能,具備感知、理解、學習 和決策等能力。目前,計算機機器智能在語音識別、 機器翻譯、文本摘要或創作及自動回答問題等領域逐 漸超越人類智能,能夠處理原本只有人類才能處理的 復雜問題。人機環境系統之間的緊密協作和優勢互 補,人機交互不僅僅依賴于計算機知識和數學算法, 還融合了哲學、神經科學、心理學、語言學、社會學 等學科,實現全面和綜合性智能化應用,通過物聯 網、大數據分析和AI等技術的融合,設備、系統和環 境更加智能互聯和協同。智能技術幫助人類創新和創 造,模擬、延伸和擴展人類智能,拓展人類認知的疆 界,深刻地改變人類社會結構、生活方式和社交 模式。 智能時代的核心科技是智能科技。智能時代生產 力的特征是智能算力,超級智能計算系統 (super intelligent computer)、智能芯片 (intelligent chip) 等 智能計算設施和器件是制造智能算力的關鍵技術。腦 科學及神經科學 (neuroscience)、計算機科學、數學、 普適智能計算系統、無線傳感器網絡、智能物聯網和 區塊鏈等智能技術,推動著新的科技革命與產業變 革。智能化設備和系統的大規模、綜合性運用,構建 大型綜合性智能互聯和智能化管理系統,形成智能經 濟和智能社會,使人類的生產和生活方式發生根本性 的改變,推動人類社會的高效和可持續發展。
1.2 類腦智能科技的內涵
腦科學已經成為世界科技戰略制高點,人類開始 描繪“智力藍圖”(intelligence blueprint),其目的是 理解認知等大腦高級功能的物質及結構基礎,在防治 認知障礙性疾病的同時,建立一套腦科學的智能理論 和類腦智能科技。
狹義的類腦智能(brain-inspired intelligence)是借 鑒生物腦的感知認知行為機制和信息傳遞機制,構建相關類腦智能算法、模型和系統,并通過軟硬件協同 實現的機器智能。狹義的類腦智能與傳統的AI有較大 的區別,后者是一門結合了數學、計算機科學、心理 學等多學科理論發展起來的新技術。類腦智能計算④ 的計算速度快、能耗少、邏輯分析和推理能力更強, 類腦智能計算機體積小。類腦智能有望對計算系統架 構、智能芯片、智能計算機、智能機器人進行顛覆性 創新,在智能時代有著廣泛的應用前景。
廣義的類腦智能包括類腦血管系統等生物腦的非 神經元及神經網絡系統。大腦是能量消耗和熱量產生 最顯著的器官,大腦消耗人體20%—25%的能量,安 靜時大腦產熱為人體產熱量的16%,大腦思考時消耗 人體30%—50%的能量,產熱也增加。大腦血管豐富、 血流量大,思考時腦血流加快、散熱增加,人體皮膚 血液循環是主要散熱途徑。類腦血管散熱系統有助于 設計更加節能、更小體積、更為安靜、更快速度和更 加智慧的類腦智能計算機系統。廣義的類腦智能還包 括 正 在 興 起 的 類 腦 組 織 工 程 (brain-like tissue engineering),其應用多能干細胞誘導分化的方法,獲 取具有大腦細胞類型及結構的類腦器官,模擬和重現 大腦的結構和功能及疾病發生過程,并探索類腦器官 的潛在醫學應用,以期恢復、維持或改善損傷大腦的 功能。 因此,類腦智能的科技目標是分別在硅基和碳基 上構造類似生物腦的結構和功能/智能,并在智能芯 片、計算機、機器人、腦醫學等方面加以應用。類腦 智能研究領域已成為腦科學的一部分[1] ,使傳統的腦 科學研究成為從發現步入創造的一門學科,其科研成 果也呈現多種形式和類型。類腦智能也寫入了《神經 科學》教科書[2] 。中國神經科學學會成立了腦機接口 與交互分會和類腦智能分會,發表了《類腦智能產業 與技術發展路線圖》[3] 。2022年Nature發文,認為類 腦計算急需一幅宏大藍圖[4] 。
2 解析腦認知功能網絡
解析腦認知功能網絡是最終闡明智力起源的必由 之路,同時可揭示人腦的工作原理,提升和擴展人的 智力和創造性,啟發類腦智能理論和類腦智能技術。 人腦認知神經網絡的功能依賴于860億個神經元互相 聯結的物理模式,大量神經元通過復雜的聯結以模塊 化的多層次結構來實現感知和認知功能。神經元在微 納米尺度上通過突觸連接的構架與信號傳遞,在百微 米尺度表現為大腦皮質功能柱等局域神經環路與信息 編碼,而在宏觀尺度上實現不同腦區的神經網絡聯結 與認知功能。值得注意的是長期以來缺乏對人腦左右 半球的推理、演繹、邏輯、數理、情感、語言、社會 認知、藝術、創造等高級功能的深入解析,以及其深 層次的信息處理機制。
對腦感知認知神經網絡結構的研究主要通過對神 經元類型和神經結構連接進行系統性的普查,繪制多 尺度 (從突觸到腦區到整個大腦)、多分辨率的腦圖 譜 (brain atlas)。對人腦感知認知神經網絡功能及機 理的研究主要通過腦形態和分子成像、腦機接口等技 術檢測神經元及神經環路活動,記錄大腦腦區一定時 期內較為完整的神經元動態活動,各類神經遞質的存 儲、釋放、調制等活動過程,解析腦功能的編碼與解 碼機制。腦機接口正在發展生物相容性好的柔性腦機 接口系統,以及高集成度和高分辨率的腦電、腦磁信 號采集和智能化分析技術平臺。通過對神經系統結構 和功能聯結規律進行全面解析將最終繪制成腦功能聯 結圖譜(brain connectivity map)。
2023年,在美國“腦計劃”和中國“腦計劃”分 別支持下,小鼠大腦的完整細胞圖譜,以及迄今最全 面的人腦和非人靈長類動物大腦的遺傳、細胞和結構組成圖譜得以繪制[5,6] 。中國科學院腦科學與智能技術 卓越創新中心及合作者開發了高精度大視場時空組學 測序技術,繪制了獼猴皮層的細胞類型、分子特征及 其空間分布圖譜[7] 。北京大學開發了一系列神經肽熒 光探針,實現了對特定神經肽生物活性的實時、在 體、高效和特異性的檢測,為研究神經肽在生理和病 理狀態下的釋放過程、調控和功能提供了重要工具[8] 。 Musall 等[9] 發現了大腦皮層錐體細胞類型在決策過程 中驅動不同功能的皮質活動模式,揭示了神經元類型 特異性的皮層動力學塑造了感知決策。Stine等[10] 報道 了上丘在終止積累證據、進行選擇決策中起著重要作 用。Gordon 等[11] 在大腦運動皮層發現了“軀體感覺- 認知活動網絡”。廣東省智能科學與技術研究院 (以 下簡稱“廣東省智能院”) 揭示了一條新的且不通過 丘腦的脊髓-皮層直接通路 (圖1),并闡明了此通路 在痛覺調控中起重要作用,突破了軀體感覺信息必須 經由丘腦傳遞至大腦皮層的傳統觀點,建立了皮層神 經元直接接受脊髓投射神經元調控的新概念[12] 。
近期腦機接口技術取得了重要的進展。美國加州 大學舊金山分校通過語言腦機接口使一位18年前因腦 干中風造成的失語癥患者重獲語言溝通能力,實時文 本合成速率在 78 個詞/分鐘,錯誤率 25%[13] 。中國科 學院微系統與信息技術研究所、復旦大學附屬華山醫 院和上海腦虎科技有限公司以蠶絲蛋白材料、微機電系統 (MEMS) 等技術研制出的高通量、高密度、超 柔性的記錄電極,針對柔性腦機接口植入過程中的創 傷問題,開發了一種類蚊口器仿生柔性神經探針 (圖 2),能夠穿透硬腦膜實現多腦區微創植入,可感知植 入過程中顱內血管的存在并提供損傷預警,并可實現 大腦神經信號的術后即時采集和長期穩定跟蹤[14] 。他 們開展了單神經元記錄、運動功能重建和漢語合成相 關的柔性腦機接口人體臨床試驗34例,在國際上率先 通過柔性腦機接口實現了癲癇患者實時多通道單神經 元放電脈沖信號記錄,實現了患者實時運動解碼通過 意念完成打乒乓球的電子游戲(延遲小于50毫秒,準 確率大于90%),實現了臨床漢語語音語調解碼與合成 (在無語言模型輔助下語音合成成功率高于90%)。
解析認知功能神經網絡,將為基于神經環路的干 預措施、中樞神經系統的功能調節、神經精神疾病的 治療提供靈感與思路。應用遺傳學、分子生物學、物 理化學技術、腦機接口與交互技術研究感知與認知神 經元的發育、病變和衰老過程,以及認知障礙性疾病 病因和治療,將引領新的診斷和治療技術的發展和應 用,提高人類的生活質量。2023年,浙江大學發現新 型抗抑郁藥物氯胺酮與其靶點 N-甲基-D-天冬氨酸 (NMDA) 受體相互作用中獨特的生物物理特性可能 是其發揮長效作用的關鍵因素,為改造氯胺酮和開發 更安全有效的新型抗抑郁藥物提供了方向[15] 。中國科 學院深圳先進技術研究院提出了一種用于治療帕金森 病的新型神經調控技術,在不影響大腦其他神經環路 的情況下對帕金森病累及的關鍵神經環路進行精準靶 向干預,為臨床治療提供了新策略[16] 。廈門大學發現了游離的主要組織相容性復合體I組成亞基β2-微球蛋 白是介導淀粉樣蛋白毒性的關鍵致病因子,修正和豐 富了阿爾茨海默病(AD)淀粉樣蛋白學說[17] 。我國企 業界也開始從事腦疾病基礎研究和藥靶研究,上海魁 特迪生物科技有限公司在 2023 年報道了人類 DNA 損 傷誘導性轉錄物 4 樣轉錄物 (DDIT4L) 內含子保留 (DIR) 與 AD 樣認知障礙和淀粉樣斑塊形成有關[18] 。 未來,可以期待我國更多的企業研發機構會投入腦疾 病機理研究和診療技術開發。
3 開發類腦智能
人類大腦是最為復雜的信息和智能系統,對腦認 知功能網絡的理解會啟迪類腦智能理論和類腦智能技 術。類腦智能研究要發展類腦智能算法、感知認知模 型和技術,目前主要體現在借助人腦信息處理機制, 用脈沖信號表示時序信息的脈沖神經網絡 (SNN) ⑤ 計算,有效地處理大量的非結構化數據,如圖像、聲 音和文本等。類腦智能將從“腦結構啟發”向“兼顧 腦結構啟發和腦功能啟發”邁進,“感知”和“認知” 智能協同發展,由“專用智能”向“通用智能”轉 變。目前的研究方向有:① 借鑒人腦存儲和計算合二 為一的特點,研發存算一體計算框架和算法模型,突 破“存算墻”的限制;② 實現類腦器件的三維高度集 成,研制出規模化、可擴展的通用存算一體芯片和包 含多種類腦器件的融合類腦芯片;③ 發展適用于類腦 計算的編程語言、工具和編譯器;④ 借鑒人腦自主學 習、推理演繹、涌現等高級功能機制,逐步實現機器 的感知智能、自主記憶、推理與抉擇、自然語言、多 模態協同感知與社會認知等功能。在智能傳感器、便 攜式智能信息工具、低能耗高速度和高存儲的類腦智 能芯片和計算機等智能系統支撐下,構建類腦智能物 聯網,實現智能交通、智能醫療、無疆界全方位個性 化服務、智能社會管理和決策體系等新社會形態和 模式。
3.1 綠色類腦智能計算
國際上類腦智能算法及計算系統研究得到持續進 展。2023 年,Kim 等[19] 提出了一種將卷積神經網絡 (CNN) ⑥和 SNN 相結合的互補深度神經網絡 (CDNN) 處理器,通過異構的SNN和CNN處理核,利 用各自優點實現高精度低功耗的推理和訓練,實現了 超高能效的類腦異構融合計算。Frenkel等[20] 比較了模 擬生物神經處理系統的自下而上設計方法和為解決實 際AI應用問題而設計的自上而下方法,并提出了實現 類腦系統的競爭優勢所需的方法和框架。Rathi等[21] 探 討了基于SNN的類腦計算,通過跨學科的方法,對設 備、電路和算法進行多層優化,提供了一種端到端的 實現方式,以實現高能效的類腦計算處理。美國IBM 報道了一種大規模并行、高效能的神經推理架構—— Northpole,具有存算一體、主動存儲和空間計算的特 點,以及協同優化、高利用率的編程模型[22] 。
近年來,我國在類腦計算方面不僅在基礎理論上 而且在產業技術上,都走在世界前列。2023年,清華 大學報道了類腦多模態混合神經網絡及通用位置識別 系統[23] ,以及一種新型的基于憶阻器神經形態芯片的 邊緣學習技術[24] 。廣東省智能院發布了首個以 BPU “天琴芯”和類腦晶圓芯片“天琴芯·海”為技術支 撐的類腦智能計算系統(圖3)。BPU是更接近生物腦 信息處理特性的智能處理器,采用類似神經脈沖發放 傳遞的通信機制,支持事件驅動的大規模異步并行計 算 。 相 對 于 同 樣 擅 長 并 行 計 算 的 圖 形 處 理 器 (GPU) 、張量處理器(TPU)和和神經網絡處理器 (NPU),BPU對于非結構化、隨機排布、稀疏的數據運算具有更高的處理效率。因此:① 在算力能效上, “天琴芯”通過借鑒人腦存算一體和脈沖傳導的運作 模式,突破馮·諾依曼瓶頸,消除“內存墻”和“功 耗墻”的制約,實現類腦計算“速度更快、功耗更 低”的算力突破。② 在集成技術上,“天琴芯·海” 突破了晶圓級芯片互聯、封裝、供電、散熱等多種關 鍵技術,單顆晶圓芯片可支持 2 億神經元擬態計算。 ③ 在節能減噪上,“天琴芯”系統使用無源散熱系統, 借鑒人腦血管散熱模式,不需要電力支持可實現計算 熱量的長距離傳導,為數據中心減少40%的能耗。北 京大學和廣東省智能院還推出了 BrainPy 腦動力學仿 真與類腦計算通用編程框架 (圖 4)[25] 。它是一個功 能強大、靈活且可擴展的通用編程框架,支持腦動力 學的模擬、訓練、分析等多種應用場景,實現高效的 代碼執行,為類腦智能計算領域提供了一個統一的編 程框架。
3.2 類腦智能超級計算系統
類比于動物進化的規律,隨著算力的增加,智能 會加速發展。在過去數十年,摩爾定律與并行計算使 計算能力提升了百萬倍,現在可能到了智能飛躍的拐 點。2017年,美國微軟公司向OpenAI公司投資10億 美元,雙方在Azure云計算服務平臺上構建AI超級計 算機,擬使用強大的GPU算力以實現算法上的創新, 研發通用人工智能 (AGI),2022 年發布了著名的 ChatGPT——AI技術驅動的自然語言處理工具。2023 年,AI 芯片公司美國 Cerebras Systems 和總部位于阿 聯酋的技術控股集團G42宣布,將攜手打造一個由9 臺互聯的超級計算機組成的網絡,該網絡上的第一臺 超級計算機“Condor Galaxy 1”(CG-1) 已經上線, 算力高達4 exaFLOPS。CG-1與已知的GPU集群不同, 由64臺CS-2計算機組成,每臺CS-2由一個WSE-2晶 圓芯片驅動,是目前性能最強的 AI 超級計算機。然 而,傳統計算機與AI超級計算機的信號-數據轉換和 高精度計算在能源和時間上產生高成本,復雜的深度 學習模型耗費驚人的高訓練成本。高能耗在很大程度 上是由于馮·諾依曼架構的數字計算系統處理數據和 儲存數據是在不同的地方,處理器的大部分時間和精 力都消耗在數據傳輸上。高能耗的現有超算系統不是 可持續發展的AI應用平臺。
人腦有860億個神經元形成神經環路和網絡,能 耗約20瓦,而相同大小的人工神經網絡數字模擬的能 耗約8兆瓦。類腦智能計算技術極有可能突破傳統的 超級計算機和現在的AI超級計算機所遇到的智能演化 環境天花板和高能耗天花板。2024年,澳大利亞的國際神經形態系統中心聯合英特爾公司和戴爾公司將制 造一臺“深南”(DeepSouth) 神經形態超級計算機, 預計在投入使用。“深南”采用高度并行化的架構, 每秒能進行228萬億次突觸操作,通過計算機軟件程 序和硬件設備來全面模擬人腦突觸,從而對突觸處理 大腦信息的方式進行建模,研究大腦工作原理。 Nature發布的“2024九大科技變革預測”中包括了歐 洲第一臺超過10億次計算的超算Jupiter、美國國家實 驗室的Aurora和Capitan,用于創建人類心臟和大腦數 字孿生模型、地球氣候高分辨率模擬等。2024年,廣 東省智能院基于創制的天琴芯系列BPU,將構建類腦 異構融合智能計算機,類腦智能算力達到全人腦神經 元規模,將是智能算力高和能效頂尖的類腦計算科研 設備。
4 結論與展望
腦科學是智能時代的科技前沿。在一系列研究技 術促進下,人類大腦功能聯結圖譜終將被成功繪制, 腦機接口、類腦智能理論和類腦智能技術在未來數年 內將成為腦科學和腦醫學研究和拓展的重要方向。我 們還可以期待類腦智能超級計算機的算力超過人類大 腦算力,類腦智能算力作為智能時代的新生產力會給 智能科技乃至人類社會帶來重大變革。
在這一具有時代特征的腦科技發展歷程中,我們 需要更有效地強化跨學科合作。通過國家和地方設立 的腦科學和類腦智能研究計劃,開展學科交叉研究, 促進學術機構的科研人員和產業界合作研究;建立以 任務為導向的類腦智能研究機構,以及國際合作研究 網絡,匯集相關學科及研究領域優秀科技人員,整合 相關的各類技術方法,進行系統性設計和集成,讓集 成電路、計算機科學家和工程師、數學家、物理學 家、材料學家、分子細胞生物學家等與神經科學家有 共同的語言,在整個研究和開發過程中通力合作,將 腦啟發的科學原理應用于智能計算的軟件硬件設計和 制造;建立跨機構的類腦智能人才培訓體系,設立相 應的碩士和博士培訓計劃,與相關產業密切互動合作培訓高技能的技術人員。
在這一征途中我們面臨著系統性挑戰和發展機 遇。目前,AI算法和應用技術研究與開發已經持續了 數十年,現在各AI賦能的行業依賴于傳統的大規模數 字數據分析和處理,現有的AI算力的高能耗與低效率 將阻礙智能技術的廣泛應用。類腦智能研究與開發可 以提供下一代顛覆性的低碳產業技術和一系列新的智 能產業,然而,類腦智能技術及產業提升和演變還需 要長期努力,建立其發展生態。為了實現類腦智能研 究的快速發展和社會價值,我們需要建立學術研究界 與產業界密切合作的有效機制,引入政府科研經費和 商業資金,以支持腦及類腦智能科學研究,支持初創 腦科技企業、新的衍生企業和轉型企業的發展。我國 將會有更多的科研機構、大學、科技企業參與腦科學 及類腦智能研究,多學科交叉和產學研合作機制正促 成我國在腦醫學、類腦智能研究和開發以及相關產業 走向世界前列。
致謝
感謝鮑嵐、時穎超、環宇翔、鐘帥和蔡冰提供 論文素材、參與論文內容討論;感謝蔡冰(圖 1)、陶虎 (圖 2)、環宇翔/馬寧/林士峰(圖 3)、吳思(圖 4)提供 圖片。
公眾號