業(yè)界開(kāi)始重新審視十年前開(kāi)發(fā)的處理器架構,看好速度較GPU更快1萬(wàn)倍的所謂 ” 記憶體式運算 “ (In-Memory Computing;IMC),將有助于新一代AI加速器發(fā)展。電子模塊
新創(chuàng )公司、企業(yè)巨擘和學(xué)術(shù)界開(kāi)始重新審視十年前開(kāi)發(fā)的處理器架構,看好它或許剛好就是機器學(xué)習(machine learning)的理想選擇。他們認為,“ 記憶體式運算 ” (In-Memory Computing;IMC)架構可望推動(dòng)新型的人工智能(AI)加速器進(jìn)展,使其速度較現行的GPU更快1萬(wàn)倍。
這些處理器承諾可在CMOS微縮速度放緩之際擴展晶片性能,而要求密集乘法累積陣列的深度學(xué)習演算法也正逐漸獲得動(dòng)能。這些晶片雖然距離商用化上市還有一年多的時(shí)間,但也可能成為推動(dòng)新興非揮發(fā)性記憶體成長(cháng)的引擎。
例如,新創(chuàng )公司Mythic瞄淮在快閃記憶體(flash)陣列內部進(jìn)行神經(jīng)網(wǎng)路運算任務(wù),致力于從類(lèi)比領(lǐng)域降低功耗。該公司的目標是在2019年底量產(chǎn)晶片,成為率先推出這一類(lèi)新晶片的公司之一。
美國圣母大學(xué)(Notre Dame)電子工程系系主任Suman Datta說(shuō):“ 在我們學(xué)術(shù)界大多數的人認為,新興記憶體將成為實(shí)現記憶體處理器(processor-in-memory;PIM)的技術(shù)之一。采用新的非揮發(fā)性記憶體將意味著(zhù)創(chuàng )造新的使用模式,而記憶體式運算架構將是關(guān)鍵之一。”
Datta指出,在1990年代,有幾位學(xué)者試圖打造這樣的處理器。諸如EXECUBE、IRAM和FlexRAM之類(lèi)的設計都 “ 失敗了,而今,隨著(zhù)相變記憶體(PCM)、電阻式RAM (RRAM)和STT MRAM等新興記憶體出現,以及業(yè)界對于機器學(xué)習硬體加速器的興趣濃厚,開(kāi)始振興這個(gè)領(lǐng)域的研究。不過(guò),據我所知,大部份的展示都還是在元件或元件陣列層級進(jìn)行,而不是一個(gè)完整的加速器。”
其中一家競爭對手來(lái)自IBM于2016年首次披露的 " 電阻處理器 “(Resistive Processing Unit;RPU)。這是一款4,096 x 4,096交叉陣列的類(lèi)比元件。
IBM研究員Vijay Narayanan認為,” 其挑戰在于找出正確的類(lèi)比記憶體元素是什么——我們正在評估相變、RRAM和鐵電。“ Vijay Narayanan同時(shí)也是一位材料科學(xué)家,他主要的研究領(lǐng)域是在高K金屬閘極。
在2015年,美國史丹佛大學(xué)(Stanford University)也曾經(jīng)發(fā)布在這一領(lǐng)域的研究。中國和韓國的研究人員也在追求這一理念。
為了實(shí)現成功,研究人員需要找到相容于CMOS晶圓廠(chǎng)的記憶體元件所需材料。此外,Narayanan說(shuō),”真正的挑戰“就在于必須在施加電壓時(shí)展現對稱(chēng)的電導或電阻。
IBM Research的材料科學(xué)家Vijay Narayanan表示,大多數用于A(yíng)I的記憶體處理器仍處于研究階段,距離可上市的時(shí)間約三至五年 (來(lái)源:IBM)
關(guān)于未來(lái)電晶體的幾點(diǎn)思考
IBM至今已經(jīng)制造出一些離散式元件和陣列,但并不是一款具有4Kx4K陣列的完整測試晶片,也尚未采用目前所認為的理想材料。Narayanan表示,IBM的Geoff Burr在500 x 661陣列上采用相變材料進(jìn)行深度神經(jīng)網(wǎng)路(DNN)訓練,而其結果顯示”合理的精確度和加速度“。
” 我們正穩步前進(jìn),但了解還必須改善現有的材料,而且也在評估新材料。“
IBM希望使用類(lèi)比元件,以便能夠定義多個(gè)電導狀態(tài),從而較數位元件更有助于為低功耗操作開(kāi)啟大門(mén)。該公司還看好大型陣列可望成為平行執行多項AI操作的大好機會(huì )。
Narayanan樂(lè )觀(guān)地認為,IBM可以利用其于高k金屬閘極方面累積的多年經(jīng)驗,找到調整AI加速器電阻的材料。他花了十幾年的時(shí)間,才將IBM在該領(lǐng)域的專(zhuān)業(yè)知識從研究轉向商業(yè)產(chǎn)品,并與格芯(Globalfoundries)和三星(Samsung)等業(yè)界伙伴合作。
展望未來(lái),IBM將致力于開(kāi)發(fā)閘極全環(huán)(GAA)電晶體,將奈米片用于7nm節點(diǎn)以外的應用。他認為這一類(lèi)的設計并不存在根本的障礙,而只是實(shí)施的問(wèn)題。
除了奈米片之外,研究人員正在探索負電容場(chǎng)效電晶體(FET),這些FET可在電壓變化很小的情況下提供較大的電流變化。從研究人員發(fā)現這種摻雜氧化哈是鐵電材料,而且可能相容于CMOS后,過(guò)去這五年來(lái),這種想法越來(lái)越受到關(guān)注。
但Narayanan也說(shuō),” 目前還有很多反對者以及同時(shí)支持二者的人。“
” 我們的研究顯示,負電容是一種短暫的效應,“Notre Dame的Datta說(shuō),”因此,當極化開(kāi)關(guān)切換時(shí),通道電荷得以暫時(shí)啟動(dòng),而一旦暫態(tài)穩定后就不會(huì )再取得任何結果。“