類腦計算旨在模擬和實現(xiàn)大腦的信息處理和學習能力,以解決復雜的計算問題,其關鍵思想之一是模擬生物神經(jīng)元和突觸行為來實現(xiàn)信息傳輸、處理和存儲.自旋電子學器件的非易失性、高速低功耗、幾乎無限的耐用性及固有非線性等特點,使其在類腦計算上已有廣泛嘗試和出色表現(xiàn).基于對自旋電子學中的各類磁電阻效應、自旋轉移力矩和自旋軌道力矩效應、電壓調控磁各向異性效應以及磁化動力學的非線性效應進行介紹和總結,以各類自旋器件在儲備池計算、伊辛機、脈沖神經(jīng)網(wǎng)絡以及真隨機數(shù)生成器上的應用為實例,展望自旋類腦神經(jīng)形態(tài)計算硬件在未來人工智能芯片領域的發(fā)展前景與趨勢.
自旋電子學; 神經(jīng)網(wǎng)絡; 神經(jīng)形態(tài)計算; 類腦人工智能芯片
O469 A 0176-16 02.004
0 引言
近半個世紀以來,伴隨著生產力需求的轉變與計算能力的提升,人工智能(artificial intelligence,AI)走進了大眾的視野,逐步發(fā)展成為新一代的通用技術.AI技術的發(fā)展已經(jīng)帶來了許多重大的進展和變革,利用人工智能技術,可以完成圖像識別[1-2]、自動駕駛[3-4]、自然語言處理[5-6]、大數(shù)據(jù)分析[7]等認知任務.人工智能的進步主要歸功于受生物神經(jīng)網(wǎng)絡啟發(fā)的傳統(tǒng)計算硬件和軟件技術的進步[8],隨著圖形處理單元 (GPU) 中低功耗和高度并行計算以及用于監(jiān)督訓練的標記數(shù)據(jù)的出現(xiàn),訓練和運行人工實現(xiàn)的神經(jīng)網(wǎng)絡的能力隨之而來.然而,傳統(tǒng)計算機硬件采用的是馮·諾依曼體系結構,其計算方式與AI神經(jīng)網(wǎng)絡模型存在較大差異,在處理復雜的人工智能任務時存在局限性,如計算速度慢、能耗大等問題.為了解決這些問題,類腦計算作為一種新興的計算模型被提出.類腦計算使用新穎的算法、硬件和架構來模擬計算機層次結構不同級別的神經(jīng)生物學活動[9-14].類腦計算是一種以生物大腦神經(jīng)網(wǎng)絡為模型的計算模型,需要新的硬件架構和算法,其核心計算單元為神經(jīng)元,它們之間通過突觸連接進行信息傳遞,從而形成復雜的神經(jīng)網(wǎng)絡,實現(xiàn)更加高效的計算能力,為人工智能的發(fā)展提供了新的途徑和思路.
近年來,已有諸多使用自旋電子學器件來實現(xiàn)類腦計算的案例[15-26].自旋電子學是一種利用電子自旋自由度來實現(xiàn)信息存儲、傳輸和處理的新型電子信息技術.電子自旋被用作信息的基本單位,通過磁場電場方式實現(xiàn)信息的讀寫和處理,與以電荷為載體的傳統(tǒng)微電子相比,具有許多獨特的性能和優(yōu)勢.自旋電子器件具有非易失性、高速、幾乎無限的耐用性、CMOS兼容性和非線性,可以為類腦神經(jīng)形態(tài)計算提供一個有前途的平臺[27].本綜述首先詳細介紹自旋電子獨具的各類自旋效應和它們的調控方式;隨后介紹其能夠實現(xiàn)存儲、非線性特性和短期記憶效應等能應用于類腦計算的性質;最后以儲備池計算、伊辛機、脈沖神經(jīng)網(wǎng)絡和真隨機數(shù)生成器4類應用場景具體介紹自旋電子器件在類腦神經(jīng)形態(tài)計算方向上的應用案例.
1 各類磁電效應及其相關非線性效應
1.1 磁性材料三類主要的磁電阻效應 磁電阻效應(magnetoresistance,MR)是指材料或器件單元的電阻隨著外加磁場的變化而改變的效應.對非磁性導體而言,傳導電子在磁場下受到垂直于其路徑方向的洛倫茲力作用進而發(fā)生偏折,使其行進路徑長度增加,受碰撞概率增大,電阻變大.而在磁性材料體系中,其磁電阻大小主要由其磁化方向依賴的散射率和自旋軌道耦合效應決定.例如,鐵磁金屬薄膜的電阻率隨自身磁化強度和電流方向夾角的改變而變化的現(xiàn)象,稱為各向異性磁電阻效應(anisotropic magnetoresistance,AMR).如圖1(a)所示的AMR,由Thomson[28]于1857年首次發(fā)現(xiàn),是磁性材料中的一種基本自旋相關輸運性質,在自旋電子學領域有諸多應用,如磁傳感.但是,單層鐵磁金屬薄膜體現(xiàn)的AMR效應一般都比較小,例如坡莫合金的AMR為2% ~3%.1988年Albert Fert等[29]和1989年Peter Grünberg等[30]在鐵磁金屬(ferromagnetic metal,F(xiàn)M)和非磁金屬(nonmagnetic metal,NM)相間的多層結構(FM/NM/FM)中觀察到室溫MR是AMR十余倍的巨磁阻效應(giant magnetoresistance,GMR),如圖1(b)所示.由于GMR效應使得小型高密度硬盤得到廣泛應用,并促進了自旋電子學的飛速發(fā)展,Albert Fert和Peter Grünberg分享了2007年諾貝爾物理學獎.如果把自旋閥結構中的間隔層從非磁金屬置換為非磁絕緣勢壘層(insulating barrier,IB)后,這類“三明治”結構就變成了所熟知的磁性隧道結(magnetic tunnel junction,MTJ) ,如圖1(c)所示.其實,Julliere[31]在1975年就首次在低溫下觀測得到14%的隧道磁電阻效應(tunnel magnetoresistance,TMR),但最初并沒有引起學界的廣泛關注.目前,Ikeda等[32]在MgO-MTJ中已經(jīng)實現(xiàn)了室溫604%的TMR,垂直磁化的MTJ已被發(fā)展成一種低功耗、高速度、高密度、非易失性、抗輻射能力強的存儲器——磁隨機存儲器(magnetoresistive random-access memory,MRAM).MRAM是基于MTJ中雙層鐵磁層的磁矩平行(P,低阻態(tài))和反平行(AP,高阻態(tài))態(tài)來進行“0”和“1”信息儲存編碼,并利用TMR讀取信息.因此,相比于AMR和GMR,MJT擁有更高的TMR,更適合用于高靈敏磁傳感器和MRAM.早期的MRAM數(shù)據(jù)寫入是利用2條相互垂直的通電導線——位線(bit line)和數(shù)字線(digit line),產生的奧斯特場實現(xiàn)自由層的反轉,也被稱為Toggle-MRAM.但當存儲單元的尺度縮減到100 nm以下時,Toggle-MRAM存在長時間存儲方面和高能耗問題.
1.2 自旋轉移力矩和自旋軌道力矩效應 自旋轉移力矩(spin transfer torque,STT)(圖2(a))最早于1996年,由Slonczewski[33]和Berger[34]從理論上預測并提出.在MTJ或自旋閥(spin valve,SV)這類三明治結構中,自旋轉移力矩過程是利用固定磁性層產生自旋極化電子傳輸?shù)阶杂纱判詫诱{控其磁矩方向,這是由于傳導電子與局域磁矩之間的交換作用,導致傳導電子從固定磁性層中獲得自旋極化(純動量矩),再轉移給自由磁性層.STT效應可以實現(xiàn)電流誘導磁化翻轉、磁矩進動以及疇壁位移.基于MTJ中的STT效應,實現(xiàn)電流驅動MTJ的高、低阻態(tài)切換,進而設計出高密度、高穩(wěn)定性、低功耗的STT-MRAM器件.但是,在這類STT-MRAM的讀寫過程中由于使用了相同的路徑,可能會導致意外的寫入.
近十幾年發(fā)展的自旋軌道力矩(spin orbit torque,SOT)(圖2(b)),其原理是基于自旋軌道耦合(spin orbit coupling,SOC),利用自旋霍爾效應(spin hall effect,SHE)、Rashba效應或軌道霍爾效應(orbit hall effect,OHE)等,用電荷流誘導的自旋流來產生STT[35],使得在具有強自旋軌道耦合的非磁層或界面中流動的電流轉化為自旋流,自旋流向鐵磁層中擴散,對鐵磁層的磁矩施加力矩使之翻轉,基于此可以設計SOT-MRAM.這類三端口的SOT型MTJ元件可以分隔寫入和讀取路徑,減少讀取操作期間發(fā)生誤翻轉的可能性,從而提高了讀取穩(wěn)定性和寫入速度[36].
但是隨著存儲面密度提高,MRAM同時保持高熱穩(wěn)定性和寫入效率面臨挑戰(zhàn).因為隨著MTJ單元尺寸減小,需要增大磁各向異性常數(shù)Ku以維持熱穩(wěn)定性Eb/kBTgt;60來保證數(shù)據(jù)的可靠存儲.Eb=KuV為MTJ平行態(tài)和反平行態(tài)的能量勢壘,而Ku的增加同樣會導致更高的臨界翻轉電流密度.為了解決MRAM的熱穩(wěn)定與寫入效率之間的矛盾難題,科研人員提出電壓控磁各向異性、能量輔助或STT與SOT結合的三端MTJ單元等方案.
1.3 電壓調控磁各向異性效應 電壓調控磁各向異性(voltage-controlled magnetic anisotropy,VCMA)效應是由電場引起電荷在FM/IB界面的積累,誘導界面原子軌道占據(jù)的變化,再結合自旋軌道相互作用,最終導致磁各向異性常數(shù)Ku的變化[37-39],從而實現(xiàn)高/低阻態(tài)之間的切換.圖3給出了VCMA-MTJ操作結構和平行態(tài)(P)與反平行態(tài)(AP)之間能壘Eb=KuV隨電壓變化的示意圖.VCMA-MTJ最小的臨界電壓Vc[40]可由下式給出:
Vc=Δ(0)kBTtoxξA,
(1)
其中,ξ是衡量Vb下垂直磁各向異性變化(perpendicular magnetic anisotropy,PMA)的VCMA系數(shù),A是MTJ的截面積,Δ(0)是零電壓下的熱穩(wěn)系數(shù),kB是玻爾茲曼常數(shù),T是溫度,tox是MTJ氧化物層厚度.
根據(jù)MTJ能壘Eb高低,其物理特性不同,發(fā)展的應用器件也不同.例如,前面所介紹的MRAM,其能壘Eb一般需要大于60kBT(圖4(a))[41],才能保證數(shù)據(jù)寫入、存儲的可靠性和非易失性.MRAM中數(shù)據(jù)寫入對應的自由層磁矩翻轉為確定性翻轉(determinant switching).如圖4(b)[42]所示,正向電流導致自由層磁矩從AP態(tài)到P態(tài)的翻轉,而負向電流導致相反操作.
然而對于能壘Eb~15kBT較低的情形,如圖5(a)所示,AP與P態(tài)之間轉換需要克服的勢壘比較低,其狀態(tài)極易受外界熱噪聲干擾,其翻轉也稱為隨機翻轉(stochastic switching).利用垂直磁各向異性系數(shù)很小(Kult;15kBT/V)的磁性層作為MTJ的自由層,該MTJ的高、低組態(tài)具有很強的隨機統(tǒng)計特性.如圖5(b)所示,在驅動電壓Vin=1.95 V下,MTJ的輸出Vout在高、低組態(tài)之間隨時間進行隨機翻轉[41].這類MTJ體現(xiàn)的高低組態(tài)完全隨機特性可以作為真隨機數(shù)生成器(true random number generator,TRNG).目前,計算程序用到的隨機數(shù)都是由偽隨機數(shù)生成器(pseudo random number generator,PRNG)產生的.PRNG是利用確定的算法來生成看似隨機的數(shù)字序列,它們依賴于隨機數(shù)的種子,并且總是由相同的種子生成相同的隨機數(shù)序列,故而實際上是可以被預測的,并非真正的隨機.除此之外,利用磁矩的隨機翻轉特性,這類隨機MTJ還能用來模擬神經(jīng)元活動,使得其應用在遞歸神經(jīng)網(wǎng)絡(recurrent neural networks,RNN)、隨機神經(jīng)網(wǎng)絡(stochastic neural networks,SNN)等類腦計算方面.
如圖6(a)所示,生物尖峰神經(jīng)元在接受外來脈沖刺激時的反應是非線性的,且在受到脈沖刺激后,其膜電位急劇升高,隨后緩慢下降,又具有一定時間的暫留效果.因此,在時間間隔不長的一系列脈沖序列刺激下,其膜電位會呈非線性的、類階梯式的上升,直到達到觸發(fā)神經(jīng)反應的臨界膜電位,觸發(fā)神經(jīng)元做出相應的反應.隨機翻轉MTJ的磁矩翻轉概率(即電導率)對輸入的時序脈沖電流或電壓(STT,SOT,VCMA及熱漲落效應)呈類階梯式的上升和暫留效果,其反應與生物神經(jīng)元接受刺激的反應極其相似,即具有非線性和短時記憶特性,如圖6(b)所示[43].因此,隨機翻轉的MTJ可作為一類低功耗的人工神經(jīng)元,用于構建RNN和SNN等類腦計算硬件.
1.4 磁化動力學的非線性效應
1.4.1 自旋納米振蕩器的非線性響應 自旋極化電流(STT)和自旋流(SOT)效應不僅可以實現(xiàn)電流調控MTJ中自由層磁矩翻轉,實現(xiàn)STT-MRAM或SOT-MRAM或真隨機數(shù)生成器,而且可以驅動磁矩進行相干高頻進動和鐵磁或反鐵磁疇壁高速移動.自旋力矩納米振蕩器(STO)是利用STT或SOT產生負阻尼力矩補償磁性材料本征的阻尼損耗項,實現(xiàn)磁矩自發(fā)相干進動.該過程可以通過朗道-利夫希茨-吉爾伯特(Landau-Lifshitz-Gilbert,LLG)方程進行描述[44]:
dMdt=-γM×Heff+αM0M×dMdt+βM20M×(M×S)+τFL,
(2)
式中,Heff為有效場,包括外加磁場Happ、退磁場Hd、各向異性場Hk以及電流感生的奧斯特場HOe;γ為旋磁比因子,α為吉爾伯特阻尼因子,β是自旋力矩的強度因子,S為電子自旋單位矢量;τFL是電流誘導的垂直于阻尼項的自旋矩,與磁場對磁矩產生的力矩相類似,也稱為類磁場矩(filed-like torque), 如圖7(a)所示[45].τFL與吉爾伯特阻尼和類阻尼力矩τDL方向垂直,對磁矩進動的動力學影響較小,僅對其振蕩頻率有微弱影響.根據(jù)式(2)可以看出τDL與吉爾伯特阻尼項的方向存在平行或者反平行關系,主要取決于施加電流的方向.圖7(b)[46]給出了磁化矢量M在低電流(較小τDL)情況下的阻尼運動和高電流穩(wěn)定進動,以及高電流翻轉運動的空間軌跡示意圖.因此,只要通過調節(jié)電流的大小和方向,就可以利用STT或SOT產生的類阻尼項補償固有阻尼項導致的能量損耗,實現(xiàn)穩(wěn)定的磁矩進動,即磁矩的自發(fā)振蕩;或實現(xiàn)磁矩翻轉,獲得高低2種阻態(tài),實現(xiàn)數(shù)據(jù)磁存儲目的.
根據(jù)式(2)表達的LLG微分方程,磁矩進動同樣具有非線性和暫時效應.如圖8(a)所示,在幅值0.2 mA和脈寬50 ns的脈沖電流方波驅動下,MTJ中自由層磁矩振蕩隨時間演化的依賴關系表明磁矩振蕩在電流切換過程中表現(xiàn)出明顯的弛豫過程,且磁矩振幅隨驅動電流大小呈現(xiàn)非線性依賴,如圖8(b)所示[47].自旋納米振蕩器具備的這種高速的非線性響應和弛豫過程,為其構建非馮諾依曼架構的類腦計算奠定了基礎,基于此自旋器件有望開發(fā)出高效的神經(jīng)形態(tài)計算硬件系統(tǒng).
1.4.2 自旋波模式的非線性耦合 在磁有序材料中,自旋擾動以自旋集體運動(即自旋波)的形式發(fā)生的.自旋納米振蕩器激發(fā)的相干自旋波,其模式大致可以分為圖9所示的三大類:1) 線性或準線性傳播型自旋波,也稱為斯隆切夫斯基(Slonczewski)線性模,其振蕩頻率fauto通常高于均勻鐵磁共振頻率fFMR,隨驅動電流的增加呈現(xiàn)出藍移趨勢,且是通過發(fā)射自旋波向周圍傳播或耗散能量,其傳播方向可以通過外加磁場進行調控,如圖9(a)所示[48];2) 非線性局域自旋波,也稱為耗散磁孤子(例如,自局域子彈模式、磁滴或氣泡模式),其fauto通常低于fFMR,不會向外發(fā)射自旋波進一步耗散能量,因此局域模式的臨界電流Ith比線性傳播模式低[49],如圖9(b)所示[50];3) 磁渦旋旋進模,這是由電流誘導的自旋力矩驅動磁渦旋的渦核進行軌道旋進運動,如圖9(c)所示[51],其頻率遠低于均勻鐵磁共振頻率fFMR,但其相干性和品質因子通常高于前兩者.
激發(fā)傳播型自旋波模的自旋納米振蕩器,它們之間可以通過所發(fā)射的自旋波進行模式的非線性耦合.例如,在2個相互間隔r的STO器件中,當其中一個STO的頻率f1接近另一個STO頻率f2~f1時,以自旋波為媒介磁相互作用會導致這2個STO同步鎖定到一起[52],如圖10(a)所示.目前,
實驗已證明具有非線性特征的STO不僅可以實現(xiàn)多個STO之間的同步鎖定,而且可以與外部微波電流或磁場進行同頻或分數(shù)鎖定[53](即注入鎖定),如圖10(b)所示,其鎖相范圍由其非線性系數(shù)和耦合強度決定[54].
1.4.3 磁疇移動的非線性 磁性材料通常會自發(fā)地形成許多具有不同磁化矢量方向的小區(qū)域,該區(qū)域稱為磁疇,每個磁疇內的磁化矢量指向同一方向,相鄰磁疇之間的磁化矢量方向不同,而分隔磁疇的區(qū)域稱為磁疇壁,如圖11(a)所示.磁疇壁是一個過渡區(qū),由于磁交換作用,疇壁內的原子磁矩磁化方向是逐步漸變的,因此具有一定的厚度.根據(jù)其漸變方向,磁疇壁可分為布洛赫型和奈爾型.另外,在一些具有手性磁交換相互作用(如DMI)體系中,其磁疇壁還具有手性特性.目前研究發(fā)現(xiàn),外加磁場以及電流誘導的STT和SOT效應都可以驅動鐵磁或反鐵體系中磁疇壁的高速移動.如圖11(b)所示,磁疇壁的移動(由反?;魻栯妷篤(t)測量)隨驅動磁場的幅度HAC和作用時間t呈很強的非線性變化關系,甚至出現(xiàn)變號[55].
圖12描述了一類重金屬與垂直磁化薄膜構成雙層薄膜體系中的斯格米子磁疇隨驅動電流的非線性響應.如圖12(a)[47]所示,啞鈴形狀的雙層薄膜條帶會引起電流密度的不均勻分布,這有利于進一步增強斯格米子運動的非線性行為.圖12(b)展示了斯格米子在幅度為±16 μA、脈沖寬度為14 ns的方波脈沖電流驅動的運動軌跡數(shù)據(jù).結果表明斯格米子的位置與脈沖電流寬度呈現(xiàn)非線性,其運動速度與其當前位置x密切相關,表現(xiàn)出短時記憶效應,符合儲備池神經(jīng)形態(tài)計算對實際物理器件或系統(tǒng)的要求.
2 自旋電子在類腦計算方面的應用
2.1 儲備池計算 儲備池計算(reservoir computing,RC)是一種基于動態(tài)系統(tǒng)的機器學習方法,廣泛應用于時間序列數(shù)據(jù)處理和預測任務.它是一種遞歸神經(jīng)網(wǎng)絡(recurrent neural network,RNN)的變種,以其簡單、高效的訓練方式而受到關注.如圖13[56]所示,儲備池計算可以分為3個部分:一個輸入層,一個儲備池層(隨機權重網(wǎng)絡)和一個輸出層.在傳統(tǒng)遞歸神經(jīng)網(wǎng)絡中,所有神經(jīng)元之間的連接權重需要進行訓練,這將導致復雜的優(yōu)化問題.而在儲備池計算中,只有輸入層和輸出層之間的連接權重需要進行訓練,而儲備池的神經(jīng)元之間的連接權重是固定的,不需要進行訓練.這種設計使得儲備池計算具有更簡單的訓練過程和更高的計算效率.儲備池通常由一組具有隨機連接權重(即實際物理器件的固有動力特征)的神經(jīng)元組成,這些神經(jīng)元通過非線性的動力學方程進行演化.輸入數(shù)據(jù)經(jīng)過輸入層后,通過連接權重與儲備池中的神經(jīng)元相互作用,產生一組高維動態(tài)狀態(tài).這些狀態(tài)通過輸出層的連接權重進行線性組合,最終生成輸出結果.儲備池的動力學性質和非線性轉換能力使其能夠捕捉時間序列數(shù)據(jù)中的關鍵特征,并用于預測、分類等任務.
儲備池計算的主要優(yōu)點之一是其對于訓練數(shù)據(jù)的依賴性較低.由于儲備池的連接權重是隨機設置的,并且在訓練過程中不發(fā)生變化,因此非常適用于非線性動力學物理體系或器件構建儲備池硬件.儲備池計算在處理大規(guī)模時間序列數(shù)據(jù)或實時應用中具有優(yōu)勢.目前研究發(fā)現(xiàn),在某些時間序列問題上,相對其他機器學習算法,儲備池計算具有最優(yōu)表現(xiàn)[57-58].總體而言,儲備池計算作為一種簡單高效的機器學習方法,特別適用于時間序列數(shù)據(jù)的處理和預測.它在各種領域,如語音識別、圖像處理、金融預測等方面具有廣泛的應用潛力,因此學術界對各類物理儲備池硬件展開了廣泛探索研究.例如,2017年,Grollier等[59]利用隧道結磁渦旋型納米振蕩器的儲備池計算系統(tǒng),在10個數(shù)字語音識別任務中識別率高達80%.2019年,本課題組[47]構建了斯格米子磁疇型憶阻器和24個獨立自旋納米振蕩器構成2類自旋型儲備池神經(jīng)網(wǎng)絡.如圖14所示,該儲備池神經(jīng)網(wǎng)絡可劃分為3部分:輸入層、物理儲備池和輸出層.待處理數(shù)據(jù)在輸入層中先進行信號預處理.如圖14(a)所示,例如28×28像素的手寫數(shù)字“6”灰度圖,在輸入層轉換為196×4的矩陣,矩陣每一行的灰度被編碼成4位“0”與“1”電流脈沖序列后,按時間順序輸給磁疇壁憶阻器(圖14(b)).磁疇壁憶阻器接收這4位電流脈沖后,其位置P被記錄.由于這樣電流脈沖序列有196條,所以對應196個斯格米子位置Pi=1~196,這196個x組成一個向量P.最后該位置向量P在輸出層由196×10權重矩陣W196×10線性映射到10個十進制數(shù)字結果.該儲備池的學習過程是通過梯度下降法對W進行更新訓練的.測試結果顯示,該物理儲備池系統(tǒng)對手寫數(shù)字的識別正確率高達88%,對二階及十階非線性動力學系統(tǒng)的預測方差NMSE小于0.001 3.2019年,Moon等[60]采用基于憶阻器的儲備池計算系統(tǒng),對450 個數(shù)字語音樣本進行訓練后,其語音數(shù)字識別分類的準確率高達99.2%.2020年,夏鈳團隊[61]提出由800個MTJ構建的遞歸神經(jīng)網(wǎng)絡,可以實現(xiàn)對手寫漢字“師”的筆順這樣的復雜時空序列進行識別和重現(xiàn).2021年,Nakane等[62]采用條狀磁疇結構和調幅三角輸入波調控自旋波,構建儲備池計算系統(tǒng).通過適度抑制其中的非線性現(xiàn)象,系統(tǒng)在延遲步長為5的時間異或問題中實現(xiàn)了100%的預測精度.
2.2 伊辛機 伊辛(Ising-Lenz)模型,以物理學家Ernst Ising和Wilhelm Lenz命名,是統(tǒng)計力學中鐵磁性的數(shù)學模型.伊辛模型的基本架構是一個離散格點網(wǎng)絡,每個格點上存在一個自旋.自旋可以取2個離散的值,通常表示為“+1”和“-1”,分別對應于自旋向上和向下的方向.這些自旋之間通過相鄰格點之間的相互作用進行耦合.這類自旋排列圖形,通常為網(wǎng)格狀(局部結構在各個方向周期性重復),允許每個自旋與其相鄰自旋相互作用.相鄰自旋同向時,其能量低于不同向狀態(tài).這類自旋物理系統(tǒng)趨向于能量最低狀態(tài),但熱噪聲會擾亂這種趨勢,從而產生了不同結構相的可能性.該模型將相變具象化為現(xiàn)實的簡化模型,其中二維方格Ising模型是表示相變過程的最簡單統(tǒng)計模型之一.
在類腦計算方面,如果將伊辛模型中每個格點的自旋向上和向下狀態(tài)比作神經(jīng)元的激活和抑制狀態(tài),2個點之間的相互作用比作神經(jīng)元之間的信號,則這種伊辛模型可以用于構建人工自旋神經(jīng)網(wǎng)絡系統(tǒng)進行自適應、自我學習的機器(Hopfield網(wǎng)絡或Boltzmann機).磁性系統(tǒng)的海森堡(Heisenberg)模型為:H=±J∑〈i,j〉SiSj.因此,伊辛模型系統(tǒng)的哈密頓量可表示為:
H=±J∑〈i,j〉σiσj+μB∑iσi,
(3)
其中,〈i,j〉表示近鄰相互作用,B表示外場,耦合強度J由材料和溫度決定.伊辛模型使用加權來定義伊辛哈密頓量,其中每個頂點與一個二元變量(自旋狀態(tài)σi)相關聯(lián),取值為“±1”.這樣伊辛問題就轉變?yōu)檎业绞挂列凉茴D量最小化的自旋分配問題.由于許多經(jīng)典難解的組合優(yōu)化問題(例如NP問題)都可以轉為伊辛問題[31],因此引起了人們對伊辛機極大興趣.然而,軟件上解決伊辛問題是非常困難的[63],但近年來人們發(fā)現(xiàn)使用物理系統(tǒng)或硬件可以快速解決該問題[33-34,64-68].下面將以最大割問題為例,來展現(xiàn)物理伊辛機在NP問題上的應用.
最大割問題是一個與圖像相關的組合優(yōu)化問題,其目標是將一個給定的無向圖的節(jié)點集合劃分為2個互不重疊的子集,使得2個子集之間的邊數(shù)最大化,如圖15(a)所示.最大割問題是一個NP困難問題,在實際中很難找到多項式時間算法的精確解.因此,常常采用啟發(fā)式算法和近似算法來求解最大割問題,這些算法能夠在合理的時間內找到接近最優(yōu)解的解決方案.伊辛模型的自旋可以被視為神經(jīng)元的狀態(tài),而相互作用能和外部磁場可以表示神經(jīng)元之間的連接強度和輸入信號.因此,通過模擬自旋之間以及與外磁場的相互作用,最終獲得系統(tǒng)的自旋基態(tài),解決最大分割問題.2019年,Wang等[69]提出利用8個相互耦合振蕩器的相位作為伊辛模型網(wǎng)絡的自旋格點,構成伊辛機來解決如圖15(b)所示的維數(shù)為8的最大分割問題.頻率在GHz的自旋力矩納米振蕩器,相比于其他常規(guī)的LC振蕩器,在能耗、集成度和運算速度上都存在明顯優(yōu)勢.2022年,Houshang等[63]利用上述方法,展示了其利用磁耦合的2×2納米自旋霍爾振蕩器(SHNO)陣列構建的伊辛機,使用二次諧波電流注入鎖定振蕩器陣列,實現(xiàn)其相位二值化來解決最大割問題,最終實現(xiàn)21 μs的采樣時間和每個樣本0.003 8 J的能耗,其能耗比D-Wave AdvantageTM系統(tǒng)低了約500倍.相對于自旋振蕩器之間的磁耦合,電耦合可以更加方便地實現(xiàn)不同節(jié)點振蕩器之間的連接權重的可調節(jié)性.2022年,McGoldrick等[70]基于電耦合的SHNO陣列構建的伊辛機進行了數(shù)值分析.
圖16(a)為4個耦合的非線性振蕩器網(wǎng)絡的示意圖,其耦合強度Jij可通過振蕩器之間的連接電阻值進行調控.圖16(b)顯示一個擁有16節(jié)點(自旋或振蕩器)的無向(Jij=Jji)莫比烏斯(Mobius)梯形圖,圖中的箭頭為自旋的2個取向“1”“-1”或振蕩器的相位“0”“π”,虛線為一條切割線,分割不同自旋取向或相位,實現(xiàn)最大化連接權重合∑Wij.在圖16(c)中對比了LC和SHNO陣列的伊辛機以99%的確定性達到其基態(tài)解所需時間tsol隨振蕩器個數(shù)n的函數(shù)依賴.結果表明,GHz的SHNO伊辛機比MHz的LC振蕩器伊辛機的運算速度快2個量級.
2.3 脈沖神經(jīng)網(wǎng)絡 脈沖神經(jīng)網(wǎng)絡(spiking neural network,SNN)是一種基于神經(jīng)脈沖傳遞方式的人工神經(jīng)網(wǎng)絡模型,其神經(jīng)元之間的信息傳遞是通過離散的脈沖信號(也稱為“尖峰”或“脈沖”)來完成的.每個神經(jīng)元都有一個膜電位來描述其內部電勢的狀態(tài),都會根據(jù)輸入信號的強度和時間來決定是否產生脈沖響應.只有當某個神經(jīng)元的膜電位超過閾值時,該神經(jīng)元才會發(fā)出一個脈沖信號,傳遞到與其相連的其他神經(jīng)元上,從而引起下一層神經(jīng)元的膜電位變化.SNN模型這種時間依賴的脈沖傳遞方式類似于生物神經(jīng)系統(tǒng)的信息處理過程,擁有很低的能耗和很強的時空信息處理能力,在處理動態(tài)模式、序列數(shù)據(jù)和時間序列任務時具有很大的優(yōu)勢,例如語音識別、運動控制和事件預測等.因此,在機器學習、神經(jīng)形態(tài)計算和類腦計算領域具有很好的應用前景.例如,2016年,Srinivasan等[71]提出一種MTJ與重金屬層構成異質結三端器,利用其磁矩隨機特征來模擬生物二元突觸行為,并發(fā)現(xiàn)利用2個不同三端器件組合成一個長期-短期雜化突觸,來進一步提高突觸學習的效率,在訓練階段實現(xiàn)更快的收斂.2022年,張亞軍等[72]利用超順磁隧道結構建群體編碼的SNN網(wǎng)絡模型,實現(xiàn)了鳶尾花樣本的無監(jiān)督分類,在輸出層神經(jīng)元為20個時,其正確率達90%,當神經(jīng)元個數(shù)增加到30時,其正確率高達92.6%.2023年,本文作者課題組[73]基于自旋軌道力矩調控磁矩翻轉概率模擬生物突觸的脈沖時序依賴可塑性(STDP),構建了物理SNN網(wǎng)絡.該自旋軌道力矩霍爾器件是由多層薄膜Ta(2)/Pt(5)/Co(0.8)/Ta(2)構成,如圖17(a)所示.該SNN網(wǎng)絡對手寫數(shù)字的識別的流程圖如圖17(b)所示,其包含輸入層、興奮層和抑制層.其中,輸入層由28×28個神經(jīng)元的組成,對應于手寫數(shù)字圖像的28×28個像素點;興奮層和抑制層分別包含100個神經(jīng)元.研究結果表明,該隨機SOT器件構建的物理SNN網(wǎng)絡,在無監(jiān)督手寫數(shù)字識別和邏輯運算學習方面表現(xiàn)出良好的性能,準確率超過80%.
2.4 真隨機數(shù)生成器 真隨機數(shù)生成器(true random number generator,TRNG)是一種利用物理隨機事件來生成真正隨機數(shù)的裝置.與偽隨機數(shù)生成器(pseudo-random number generator,PRNG)不同,TRNG利用物理隨機過程或環(huán)境噪聲源來生成隨機數(shù),而不是基于確定性算法生成的PRNG.這些物理隨機事件是不可預測和不可復制的,因此生成的隨機數(shù)是真正隨機的.真隨機數(shù)生成器在許多領域中被廣泛應用,特別是需要高度隨機性和安全性的應用.首先,在密碼學和安全通信領域,TRNG用于生成加密密鑰、隨機初始化向量和隨機種子,以確保密碼算法的安全性和隨機性.它們在對稱密鑰加密、公鑰加密、數(shù)字簽名等密碼學協(xié)議中起著關鍵作用.其次,在計算物理學與工程領域的研究中,TRNG用于生成模擬和仿真中所需的隨機數(shù).這些領域需要隨機性來模擬復雜系統(tǒng)、進行蒙特卡洛方法、優(yōu)化算法等.然后,在抽樣和調查研究中,TRNG可以用于生成隨機樣本和隨機分配實驗條件,用于統(tǒng)計學、社會科學和市場研究等領域的抽樣和實驗設計.最后,在物理模擬和天氣預測中,TRNG用于生成隨機數(shù)種子,以初始化模型的起始條件,并引入隨機性來模擬現(xiàn)實世界的不確定性.
近年來,已有很多研究人員對基于MTJ的真隨機數(shù)生成器的實現(xiàn)及其在神經(jīng)計算的應用展開了深入的研究[74-82].2017年,Vodenicarevic等[83]利用超順磁性隧道結的隨機行為構建了真隨機數(shù)生成器,并以極低的能耗和空間占用使用隨機比特流隨機計算實現(xiàn)了電子郵件的分類.2019年,Borders等[41]提出使用MTJ的磁矩隨機翻轉進行概率計算的試驗性實驗,并演示了整數(shù)分解.為了構建隨機神經(jīng)網(wǎng)絡,他們將隨機 MTJ與標準n型金屬氧化物半導體(NMOS)晶體管連接起來,以獲得三端概率比特(p-bit),如圖18(a)所示.圖18(b)展示了他們的實驗架構,其包含8個隨機翻轉MTJ構成的概率比特、一個微控制器和一個數(shù)模轉換器(DAC).微控制器負責讀取每個p-bit的輸出電壓,并進行編程以計算給定成本函數(shù)E的輸入電流Iin;DAC將結果轉換為模擬電壓.微控制器和DAC一起充當確定Iin的突觸權重邏輯,從p-bit讀取數(shù)字輸出并反饋模擬輸入.他們利用這8個相連的隨機翻轉MTJ進行基本異步概率計算,演示對高達945的整數(shù)進行因式分解,并預計能夠對具有n個p-bit的2n+2大小的整數(shù)進行因式分解,為優(yōu)化和采樣等難題提供了一種潛在可擴展的硬件方法.
3 總結
本綜述前部分介紹了自旋電子學中各類磁電阻效應、自旋轉移力矩和自旋軌道力矩效應、電控磁各向異性效應和磁化動力學的非線性效應,以及它們在高速低功耗磁隨機存儲器和非馮若依曼架構的人工神經(jīng)網(wǎng)絡類腦計算硬件方面的具體應用.由于類腦智能芯片是人工智能最前沿的發(fā)展領域,本文后部分著重介紹利用上述各類自旋效應和自旋器件如何構建自旋型儲備池計算、伊辛機、脈沖神經(jīng)網(wǎng)絡以及真隨機數(shù)生成器,以及它們在圖像和語音識別、邏輯運算、非確定性多項式(NP)算法以及整數(shù)因式分解等問題上的性能表現(xiàn).自旋電子學器件能提供高并行、高能效和強容錯性的存算一體計算平臺,隨著與神經(jīng)形態(tài)架構不斷融合和發(fā)展,自旋類腦芯片將在人工智能領域發(fā)揮重要作用,帶來計算范式的創(chuàng)新和突破.致謝 南京郵電大學科技基金(NY220164)對本文給予了資助,謹致謝意.
參考文獻
[1] KRIZHEVSKY A, SUTSKEVER I, HINTON G. Imagenet classification with deep convolutional neural networks[J]. Advances in neural information processing systems,2012,60(6):84-90.
[2] HNAFF O J, SRINIVAS A, DE FAUW J, et al. Data-efficient image recognition with contrastive predictive coding[EB/OL]. (2020-07-01)[2024-01-11]. https://arxiv.org/abs/1905.09272v3.
[3] KANADE T, THORPE C, WHITTAKER W. Autonomous land vehicle project at CMU[C]//Proceedings of the 1986 ACM fourteenth annual conference on Computer science-CSC’86. Cincinnati:ACM,1986:71-80.
[4] BOJARSKI M, DEL TESTA D, DWORAKOWSKI D, et al. End to end learning for self-driving cars[EB/OL]. (2016-04-25)[2024-01-11]. https://arxiv.org/abs/1604.07316.
[5] NADKARNI P M, OHNO-MACHADO L, CHAPMAN W W. Natural language processing: an introduction[J]. Journal of the American Medical Informatics Association,2011,18(5):544-551.
[6] YI C C, TIAN Y L. Assistive text reading from complex background for blind persons[M]//Lecture Notes in Computer Science. Berlin, Heidelberg: Springer Berlin Heidelberg,2012:15-28.
[7] NAJAFABADI M M, VILLANUSTRE F, KHOSHGOFTAAR T M, et al. Deep learning applications and challenges in big data analytics[J]. Journal of Big Data,2015,2(1):1-21.
[8] STURM B L T, IGLESIAS M, BEN-TAL O, et al. Artificial intelligence and music: open questions of copyright law and engineering praxis[J]. Arts,2019,8(3):115.
[9] CHAKRABORTY I, JAISWAL A, SAHA A K, et al. Pathways to efficient neuromorphic computing with non-volatile memory technologies[J]. Applied Physics Reviews,2020,7(2):021308J.
[10] GROLLIER J, QUERLIOZ D, CAMSARI K Y, et al. Neuromorphic spintronics[J]. Nature Electronics,2020,3:360-370.
[11] ROY K, JAISWAL A, PANDA P. Towards spike-based machine intelligence with neuromorphic computing[J]. Nature,2019,575(7784):607-617.
[12] SENGUPTA A, ROY K. Encoding neural and synaptic functionalities in electron spin: a pathway to efficient neuromorphic computing[J]. Applied Physics Reviews,2017,4(4):041105.
[13] FINOCCHIO G, VENTRA M D, CAMSARI K Y, et al. The promise of spintronics for unconventional computing[J]. Journal of Magnetism and Magnetic Materials,2021,521:167506.
[14] IELMINI D, AMBROGIO S. Emerging neuromorphic devices[J]. Nanotechnology,2020,31:092001
[15] CAMSARI K Y, SUTTON B M, DATTA S. p-Bits for probabilistic spin logic[J]. Applied Physics Reviews,2019,6:011305.
[16] PINNA D, ABREU ARAUJO F, KIM J V, et al. Skyrmion gas manipulation for probabilistic computing[J]. Physical Review Applied,2018,9:064018.
[17] SENGUPTA A, PANDA P, WIJESINGHE P, et al. Magnetic tunnel junction mimics stochastic cortical spiking neurons[J]. Scientific Reports,2016,6:30039.
[18] ROMERA M, TALATCHIAN P, TSUNEGI S, et al. Vowel recognition with four coupled spin-torque nano-oscillators[J]. Nature,2018,563(7730):230-234.
[19] ZAHEDINEJAD M, AWAD A A, MURALIDHAR S, et al. Two-dimensional mutually synchronized spin Hall nano-oscillator arrays for neuromorphic computing[J]. Nature Nanotechnology,2020,15:47-52.
[20] CAI J L, FANG B, ZHANG L K, et al. Voltage-controlled spintronic stochastic neuron based on a magnetic tunnel junction[J]. Physical Review Applied,2019,11:034015.
[21] CAI W, HUANG Y, ZHANG X, et al. Spintronics intelligent devices[J]. Science China: Physics, Mechanics amp; Astronomy,2023,66:117503.
[22] TAN Y, ZHENG J, NIU X. et al. Research progress on 2D ferroelectric and ferrovalley materials and their neuromorphic application[J]. Science China: Physics, Mechanics amp; Astronomy,2023,66:117505.
[23] TORREJON J, RIOU M, ARAUJO F A, et al. Neuromorphic computing with nanoscale spintronic oscillators[J]. Nature,2017,547(7664):428-431.
[24] BAI Y, FAN D, LIN M. Stochastic-based synapse and soft-limiting neuron with spintronic devices for low power and robust artificial neural networks[J]. IEEE Transactions on Multi-Scale Computing Systems,2018,4(3):463-476.
[25] ZHANG Y J, ZHENG Q, ZHU X R, et al. Spintronic devices for neuromorphic computing[J]. Science China: Physics, Mechanics amp; Astronomy,2020,63:277531.
[26] WU X Z, TONG Z H, SHAO Q M. Optimizing reservoir computing based on an alternating input-driven spin-torque oscillator[J]. Physical Review Applied,2023,20:024069.
[27] KURENKOV A, FUKAMI S, OHNO H. Neuromorphic computing with antiferromagnetic spintronics[J]. Journal of Applied Physics,2020,128(1):010902.
[28] THOMSON W. On the electro-dynamic qualities of metals: effects of magnetization on the electric conductivity of nickel and of iron[J]. Proceedings of the Royal Society of London,1857,8:546-550.
[29] BAIBICH M N, BROTO J M, FERT A, et al. Giant magnetoresistance of (001) Fe/(001) Cr magnetic superlattices[J]. Physical Review Letters,1988,61(21):2472.
[30] BINASCH G, GRNBERG P, SAURENBACH, et al. Enhanced magnetoresistance in layered magnetic structures with antiferromagnetic interlayer exchange[J]. Physical Review B: Condensed Matter,1989,39(7):4828-4830.
[31] JULLIERE M.Tunneling between ferromagnetic films[J]. Physics Letters A,1975,54:225-226.
[32] IKEDA S, HAYAKAWA J, ASHIZAWA Y, et al. Tunnel magnetoresistance of 604% at 300 K by suppression of Ta diffusion in CoFeB/MgO/CoFeB pseudo-spin-valves annealed at high temperature[J]. Applied Physics Letters,2008,93(8):082508.
[33] SLONCZEWSKI J C. Current-driven excitation of magnetic multilayers[J]. Journal of Magnetism and Magnetic Materials,1996,159(1/2):1-7.
[34] BERGER L. Emission of spin waves by a magnetic multilayer traversed by a current[J]. Physical Review B: Condensed Matter,1996,54(13):9353.
[35] 王天宇,宋琪,韓偉,等. 自旋軌道轉矩[J]. 物理,2017,46:288-298.
[36] SENNI S, TORRES L, SASSATELLI G, et al. Exploring mram technologies for energy efficient systems-on-chip[J]. IEEE Journal on Emerging and Selected Topics in Circuits and Systems,2016,6(3):279-292.
[37] KANG W, RAN Y, ZHANG Y, et al. Modeling and exploration of the voltage-controlled magnetic anisotropy effect for the next-generation low-power and high-speed mram applications[J]. IEEE Transactions on Nanotechnology,2017,16:387-395.
[38] BARNES S E, IEDA J I, MAEKAWA S. Rashba spin-orbit anisotropy and the electric field control of magnetism[J]. Scientific Reports,2014,4:1-5.
[39] VELEV J P, JASWAL S S, TSYMBAL E Y. Multi-ferroic and magnetoelectric materials and interfaces[J]. Philosophical Transactions Series A: Mathematical, Physical, and Engineering Sciences,2011,369(1948):3069-3097.
[40] CAI H, WANG Y, KANG W, et al. Enabling resilient voltage-controlled meram using write assist techniques[C]//2018 IEEE International Symposium on Circuits and Systems (ISCAS). Florence:IEEE,2018:1-5.
[41] BORDERS W A, PERVAIZ A Z, FUKAMI S, et al. Integer factorization using stochastic magnetic tunnel junctions[J]. Nature,2019,573(7774):390-393.
[42] LI Q Y, ZHANG P H, LI H T, et al. Experiments and SPICE simulations of double MgO-based perpendicular magnetic tunnel junction[J]. Chinese Physics B,2021,30(4):047504.
[43] KARI S R. Realization of stochastic neural networks and its potential applications[EB/OL]. (2011-06-27)[2024-02-11]. http://arxiv.org/abs/2011.06427v1.
[44] 劉榮華,李麗媛,陳麗娜,等. 自旋霍爾納米振蕩器的非線性動力學及其應用[J]. 物理學進展,2020,40(6):195-210.
[45] BRATAAS A, KENT A, OHNO H. Current-induced torques in magnetic materials[J]. Nature Materials,2012,11(5):372-381.
[46] RALPH D C, STILES M D. Spin transfer torques[J]. Journal of Magnetism and Magnetic Materials,2008,320(7):1190-1216.
[47] JIANG W C, CHEN L N, ZHOU K Y. Physical reservoir computing using magnetic Skyrmion memristor and spin torque nano-oscillator[J]. Applied Physics Letters,2019,115(19):192403.
[48] MACIA F, HOPPENSTEADT F C, KENT A D. Spin wave excitation patterns generated by spin torque oscillators[J]. Nanotechnology,2014,25:045303.
[49] LI L Y, CHEN L N, LIU R H, et al, Recent progress on excitation and manipulation of spin-waves in spin Hall nano-oscillators[J]. Chinese Physics B,2020,29(11):117102.
[50] CLERC M G, COULIBALY S, LAROZE D, et al. Alternating spin-polarized current induces parametric resonance in spin valves[J]. Physical Review B,2015,91(22):224426.
[51] CHOI Y S, YOO M W, LEE K S, et al. Out-of-plane current controlled switching of the fourfold degenerate state of a magnetic vortex in soft magnetic nanodots[J]. Applied Physics Letters,2010,96(7):072507.
[52] KAKA S, PUFALL M R, RIPPARD W H, et al. Mutual phase-locking of microwave spin torque nano-oscillators[J]. Nature,2005,437:389-392.
[53] URAZHDIN S, TABOR P, TIBERKEVICH V, et al. Fractional synchronization of spin-torque nano-oscillators[J]. Physical Review Letters,2010,105(10):104101.
[54] SLONCZEWSKI J. C. Excitation of spin waves by an electric current[J]. Journal of Magnetism and Magnetic Materials,1999,195(2):L261-L268.
[55] YOKOUCHI T, SUGIMOTO S, RANA B, et al. Pattern recognition with neuromorphic computing using magnetic field-induced dynamics of Skyrmions[J].Science Advances,2022,8(39):5652.
[56] APPELTANT L, SORIANO M, VAN DER SANDE G, et al. Information processing using a single dynamical node as complex system[J]. Nature Communications,2011,2:468.
[57] JAEGER H, HAAS H. Harnessing nonlinearity: predicting chaoticsystems and saving energy in wireless communication[J]. Science,2004,304(5667):78-80.
[58] PUSKORIUS G, FELDKAMP L. Neurocontrol of nonlinear dynamical systems with Kalman filter trained recurrent networks[J]. IEEE Transactions on Neural Networks,1994,5(2):279-297.
[59] GROLLIER J, QUERLIOZ D, STILES M D. Spintronic nanodevices for bioinspired computing[J]. Proceedings of the IEEE,2016,104(10):2024-2039.
[60] MOON J, MA W, SHIN J H, et al. Temporal data classification and forecasting using a memristor-based reservoir computing system[J]. Nature Electronics,2019,2:480-487.
[61] ZHENG Q, ZHU X R, MI Y Y, et al. Recurrent neural networks made of magnetic tunnel junctions[J]. AIP Advances,2020,10(2):025116.
[62] NAKANE R, HIROSE A, TANAKA G. Spin waves propagating through a stripe magnetic domain structure and their applications to reservoir computing[J]. Physical Review Research,2021,3(3):033243.
[63] HOUSHANG A, ZAHEDINEJAD M, MURALIDHAR S, et al, Phase-binarized spin hall nano-oscillator arrays: towards spin hall ising machines[J]. Physical Review Applied,2022,17:014003.
[64] SLAVIN A, TIBERKEVICH V. Nonlinear auto-oscillator theory of microwave generation by spin-polarized current[J]. IEEE Transactions on Magnetics,2009,45(4):1875-1918.
[65] UCHIDA K, TAKAHASHI S, HARII K, et al. Observation of the spin Seebeck effect[J]. Nature,2008,455(7214):778-781.
[66] LITVINENKO A, KHYMYN R, GONZLEZ V H, et al. A spinwave Ising machine[J]. Communications Physics,2023,6(1):227.
[67] MOY W, AHMED I, CHIU P W, et al. A1,968-node coupled ring oscillator circuit for combinatorial optimization problem solving[J]. Nature Electronics,2022,5:310-317.
[68] ALBERTSSON D I, RUSU A N. Highly reconfigurable oscillator-based Ising Machine through quasiperiodic modulation of coupling strength[J]. Scientific Reports,2023,13:4005.
[69] WANG T S, ROYCHOWDHURY J. OIM: oscillator-based ising machines for solving combinatorial optimisation problems[C]//MCQUILLAN I, SEKI S. Lecture Notes in Computer Science. Cham: Springer International Publishing,2019:232-256.
[70] MCGOLDRICK B C, SUN J Z, LIU L Q. Ising machine based on electrically coupled spin hall nano-oscillators[J]. Physical Review Applied,2022,17:014006.
[71] SRINIVASAN G, SENGUPTA A, ROY K. Magnetic tunnel junction based long-term short-term stochastic synapse for a spiking neural network with on-chip STDP learning[J]. Sci Rep,2016,6:29545.
[72] 張亞君,蔡佳林,喬亞,等. 基于磁性隧道結的群體編碼實現(xiàn)無監(jiān)督聚類[J]. 物理學報,2022,71(14):148506.
[73] LI H T, LI L L, ZHOU K Y, et al. Stochastic spin-orbit-torque device as the STDP synapse for spiking neural networks[J]. Science China: Physics, Mechanics amp; Astronomy,2023,66(5):257512.
[74] DEBASHIS P, CHEN Z H. Tunable random number generation using single superparamagnet with perpendicular magnetic anisotropy[C]//2018 76th Device Research Conference (DRC). Santa Barbara:IEEE,2018:1-2.
[75] KIM Y, FONG X, ROY K. Spin-orbit-torque-based spin-dice: a true random-number generator[J]. IEEE Magnetics Letters,2015,6:3001004.
[76] FUKUSHIMA A, SEKI T, YAKUSHIJI K, et al. Spin dice: a scalable truly random number generator based on spintronics[J]. Applied Physics Express,2014,7(8):083001.
[77] CHOI W H, L Y, KIM J, et al. A magnetic tunnel junction based true random number generator with conditional perturb and real-time output probability tracking[C]//2014 IEEE International Electron Devices Meeting. San Francisco:IEEE,2014.
[78] FU S Q, LI T J, ZHANG C Y, et al. RHS-TRNG: a resilient high-speed true random number generator based on STT-MTJ device[J]. IEEE Transactions on Very Large Scale Integration (VLSI) Systems,2023,31(10):1578-1591.
[79] VATAJELU E I, DI NATALE G. High-entropy STT-MTJ-based TRNG[J]. IEEE Transactions on Very Large Scale Integration (VLSI) Systems,2019,27(2):491-495.
[80] PERACH B, KVATINSKY S. An asynchronous and low-power true random number generator using STT-MTJ[J]. IEEE Transactions on Very Large Scale Integration (VLSI) Systems,2019,27(11):2473-2484.
[81] VATAJELU E I, DI NATALE G, PRINETTO P. STT-MTJ-based TRNG with on-the-fly temperature/current variation compensation[C]//2016 IEEE 22nd International Symposium on On-Line Testing and Robust System Design (IOLTS). Sant Feliu de Guixols:IEEE,2016:179-184.
[82] PARKS B, BAPNA M, IGBOKWE J, et al. Superparamagnetic perpendicular magnetic tunnel junctions for true random number generators[J]. AIP Advances,2018,8(5):055903.
[83] VODENICAREVIC D, LOCATELLI N, MIZRAHI A, et al. Low-energy truly random number generation with superparamagnetic tunnel junctions for unconventional computing[J]. Physical Review Applied,2017,8(5):054045.
Spin-based Brain-like Neuromorphic Computing
ZHANG Shuai1, CHEN Lina2, LIU Ronghua1
(1. School of Physics, Nanjing University, Nanjing 210093, Jiangsu;
2. School of Science, Nanjing University of Posts and Telecommunications, Nanjing 210023, Jiangsu)
Brain-like neuromorphic computing aims to simulate and implement the brain's information processing and learning capabilities to address complex computational problems. One of the key ideas is to mimic the behavior of biological neurons and synapses to achieve information transmission, processing, and storage. With their non-volatile nature, high speed, low power consumption, near-infinite durability, and inherent nonlinearity, spintronic devices have been widely explored and shown remarkable performance in neuromorphic computing. Based on various magnetoresistance effects, spin-transfer and spin-orbit torques, voltage-controlled magnetic anisotropy, and nonlinear magnetization dynamics, this review provides an overview of the application of different spintronic devices in reservoir computing, Ising machines, spiking neural networks, and true random number generators. These examples are just the tip of the iceberg, but they demonstrate the promising potential of spin-based brain-like neuromorphic computing hardware in artificial intelligence chips.
spintronics; neural network; neuromorphic computing; brain-inspired artificial intelligence chip
(編輯 陶志寧)