憶阻器AI芯片或可大幅降低功耗

ISTOCK

模仿神經(jīng)元連接突觸的記憶裝置可以作為復(fù)制大腦學(xué)習(xí)方式的神經(jīng)網(wǎng)絡(luò)的硬件。現(xiàn)在，兩項(xiàng)新的研究可能有助于解決這些組件面臨的關(guān)鍵問題，不僅是產(chǎn)量和可靠性，而且還有助于發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)以外的應(yīng)用。

憶阻器，或稱記憶電阻器，本質(zhì)上是一種開關(guān)，可以在電源關(guān)閉后記住它們被切換到哪種電狀態(tài)。世界各地的科學(xué)家致力于使用憶阻器和類似組件來構(gòu)建電子器件，像神經(jīng)元一樣，既能計(jì)算又能存儲(chǔ)數(shù)據(jù)。這些憶阻器件可以大大減少傳統(tǒng)微芯片在處理器和存儲(chǔ)器之間來回傳輸數(shù)據(jù)時(shí)所損失的能量和時(shí)間。這種受大腦啟發(fā)的神經(jīng)形態(tài)硬件也可能被證明是實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的理想選擇。人工智能系統(tǒng)越來越多地應(yīng)用于分析醫(yī)學(xué)掃描和增強(qiáng)自動(dòng)駕駛汽車等應(yīng)用。

然而，當(dāng)前的憶阻器件通常依賴于具有低產(chǎn)量和不可靠電子性能的新興技術(shù)。為了幫助克服這些挑戰(zhàn)，以色列和中國的研究人員使用標(biāo)準(zhǔn)CMOS生產(chǎn)線制造了憶阻器件。該團(tuán)隊(duì)建造的硅突觸的產(chǎn)量達(dá)到了100%，與高性能Nvidia Tesla V100圖形處理單元相比，能量效率提高了170至350倍。

科學(xué)家們利用商用閃存中使用的浮柵晶體管技術(shù)開發(fā)了新器件。傳統(tǒng)的浮柵晶體管有三個(gè)端子，而新的元件只有兩個(gè)端子。這大大簡化了制造和操作，并減小了它們的尺寸。此外，該研究的資深作者、海法以色列理工學(xué)院電氣與計(jì)算機(jī)工程副教授Shahar Kvatinsky表示，憶阻器只有二進(jìn)制輸入和輸出，因此不需要通常用于神經(jīng)形態(tài)硬件的大型、耗能、模數(shù)和數(shù)模轉(zhuǎn)換器。

新設(shè)備顯示出高耐久性，通過使用電壓脈沖編程和擦除超過100000個(gè)周期。此外，他們只顯示了中等的設(shè)備間變化，預(yù)計(jì)數(shù)據(jù)保留時(shí)間超過10年。

研究人員使用大約150個(gè)這些組件的陣列來實(shí)現(xiàn)一種僅使用二進(jìn)制信號(hào)操作的神經(jīng)網(wǎng)絡(luò)。在實(shí)驗(yàn)中，它可以以大約97%的準(zhǔn)確率識(shí)別手寫數(shù)字。Kvatinsky表示，這項(xiàng)工作“只是一個(gè)開始——概念的證明，而不是一個(gè)完整的集成芯片或大型神經(jīng)網(wǎng)絡(luò)。集成和擴(kuò)展是一個(gè)重大挑戰(zhàn)”。

在另一項(xiàng)研究中，一組法國研究人員研究了使用憶阻器進(jìn)行統(tǒng)計(jì)計(jì)算技術(shù)，即貝葉斯推理（Bayesian reasoning），其中先驗(yàn)知識(shí)有助于計(jì)算不確定選擇可能正確的可能性。與許多幾乎無法理解的人工智能計(jì)算不同，它的結(jié)果是完全可解釋的，并且當(dāng)可用數(shù)據(jù)很少時(shí)，它可以很好地執(zhí)行，因?yàn)樗梢越Y(jié)合先前的專家知識(shí)。然而，“如何用憶阻器計(jì)算貝葉斯推理還不明顯，”研究合著者Damien Querlioz表示，他是巴黎薩克萊大學(xué)CNRS的研究科學(xué)家。

蘇黎世神經(jīng)信息學(xué)研究所的神經(jīng)形態(tài)學(xué)家Melika Payvand表示，使用傳統(tǒng)電子技術(shù)實(shí)現(xiàn)貝葉斯推理需要復(fù)雜的記憶模式，“這種模式隨著觀察次數(shù)的增加呈指數(shù)級(jí)增長”，她沒有參與這兩項(xiàng)研究。然而，Querlioz和他的同事“找到了一種簡化方法”，她指出。

科學(xué)家們重寫了貝葉斯方程，以便記憶陣列可以進(jìn)行統(tǒng)計(jì)分析，利用隨機(jī)性，也就是“隨機(jī)計(jì)算”。使用這種方法，陣列在時(shí)鐘的每一刻產(chǎn)生半隨機(jī)比特流。這些位通常是“0”，但有時(shí)是“1”。0與1的比例編碼了陣列執(zhí)行統(tǒng)計(jì)計(jì)算所需的概率。與非隨機(jī)方法相比，這種數(shù)字策略使用了相對(duì)簡單的電路，所有這些都減少了系統(tǒng)的尺寸和能量需求。

研究人員在同一芯片上的30080個(gè)CMOS晶體管上制作了一個(gè)包含2048個(gè)氧化鉿憶阻器的原型電路。在實(shí)驗(yàn)中，他們讓新電路從戴在手腕上的設(shè)備發(fā)出的信號(hào)中識(shí)別出一個(gè)人的手寫簽名。

貝葉斯推理通常被認(rèn)為是傳統(tǒng)電子計(jì)算的昂貴計(jì)算。Querlioz說，新電路使用傳統(tǒng)計(jì)算機(jī)處理器的1/800到1/5000倍的能量進(jìn)行手寫識(shí)別，這表明“憶阻器是提供低能耗人工智能的一個(gè)非常有前途的先導(dǎo)”。

新設(shè)備還可以立即打開和關(guān)閉，這表明它能夠只在需要時(shí)工作，以節(jié)省電力。此外，研究人員表示，它對(duì)隨機(jī)事件的錯(cuò)誤也適應(yīng)性很強(qiáng)，因此在極端環(huán)境中很有用。總而言之，Querlioz表示，新電路“在安全關(guān)鍵情況下表現(xiàn)出色，在這種情況下，存在高度不確定性，可用數(shù)據(jù)很少，需要做出可說明的決定。例如，用于監(jiān)測(cè)工業(yè)設(shè)施安全的醫(yī)用傳感器或電路”。

Payvand表示，貝葉斯電路的未來方向可能包括收集多種類型的感官數(shù)據(jù)的機(jī)器，其中可能包括自動(dòng)駕駛汽車或無人機(jī)。她指出，如果機(jī)器對(duì)基于一種感覺做出的預(yù)測(cè)不自信，它可以通過分析不同的數(shù)據(jù)來增強(qiáng)信心。

Payvand警告說，貝葉斯系統(tǒng)面臨的一個(gè)關(guān)鍵障礙“是它們對(duì)更大問題或網(wǎng)絡(luò)的可擴(kuò)展性”。Querlioz指出，該團(tuán)隊(duì)已經(jīng)設(shè)計(jì)了一個(gè)“目前正在制造中”的設(shè)備的大規(guī)模版本。他指出，他們的電路目前只是專門用于某些類型的貝葉斯計(jì)算，但他們希望在未來創(chuàng)造出更具適應(yīng)性的設(shè)計(jì)。

在一定程度上，這兩項(xiàng)研究都使用了隨機(jī)性 —— Querlioz和他的同事將其用于統(tǒng)計(jì)分析，而Kvatinsky和他的合作者讓他們的神經(jīng)網(wǎng)絡(luò)以隨機(jī)間隔采樣數(shù)據(jù)，以避免在有限次數(shù)采樣數(shù)據(jù)時(shí)可能出現(xiàn)的錯(cuò)誤。

惠普實(shí)驗(yàn)室的高級(jí)人工智能研究科學(xué)家Giacomo Pedretti表示：“這些方法與憶阻器設(shè)備的遺傳隨機(jī)性非常吻合。” 他說，嘗試使用這些電子設(shè)備中的固有噪聲來產(chǎn)生受控的隨機(jī)性“而不是使用昂貴的數(shù)字偽隨機(jī)數(shù)發(fā)生器”將是“非常有趣的”。

這些研究成果于12月19日發(fā)表在《自然電子》雜志上，https://www.nature.com/articles/s41928-022-00886-9.epdf?sharing_token=ILlWCzeQnBSekKsKASeAjdRgN0jAjWel9jnR3ZoTv0NtXNKH535TKSJRUs86AFU5pMOKYbVrb1yfjh2r509igCJJ2FkbPiixTC99PUXfW0Ty_dD9QLWAlpSj58bl_qMp6VjAHINUTy8e2ECjljD7n7WAvjuKNi9ZOWJfCakj0g3iqXrErlnAbO-NtqpjTErDtf2-ygA-3gbliT07PpKuubaVndVV6EeCfw3kwhEobTIYHLOYv5vVH-v_uyvVVSmE&tracking_referrer=spectrum.ieee.org。