在上海新氦類腦智能，一個個手寫體數字得到精準識別，正飛速在屏幕上閃出。MNIST數字識別場景可以說是圖像識別的“hello world”，而在曦智科技Hummingbird 處理器上運行新氦類腦智能SNN（Spiking Neural Network）類腦神經網絡算法，可使MNIST數字識別分類精度達到90%以上。
新氦類腦智能總經理梁龍飛表示：“作為一個功能型平臺，新氦類腦智能的使命是創(chuàng)新、研發(fā)和轉化新型架構AI芯片和片上智能系統(tǒng)。經過長時間的合作，新氦類腦智能與曦智科技共同打造以片上光網絡（oNOC）技術和Hummingbird計算卡為基礎的類腦計算、圖像識別、大語言模型對話等落地應用PoC (Proof of Concept)，取得了良好的效果?！?/p>
曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士表示：“從光子矩陣計算（oMAC）、片上光網絡（oNOC）、片間光網絡（oNET）三大核心技術出發(fā)，曦智科技打造了光子計算與光子網絡兩條產品線，并且始終致力于為客戶持續(xù)提供更具創(chuàng)造性的高效算力支撐。通過與新氦類腦智能的合作，光電混合計算的優(yōu)越性得到了進一步驗證。”
光電混合助力機器學習性能表現顯著提升
在近日舉行的Hot Chips大會上，曦智科技推出了基于oNOC技術、用于特定領域人工智能（AI）工作負載的計算卡Hummingbird。該計算卡采用先進封裝技術，將光芯片和電芯片進行垂直堆疊，集成到一張PCIe板卡上，可直接用于目前通用的服務器。
曦智科技Hummingbird計算卡
在晶體管密度提升放緩的背景下，制程工藝迭代所能帶來的性能提升愈發(fā)有限，單個節(jié)點的算力提升出現了多種思路。比如通過在單個封裝內互連多個芯粒來獲得更高的算力。然而，由于這種方式還是采用電互連，每個電芯片只與最近鄰芯片相連，限制了軟件可編程性，進而限制了計算效率。
Hummingbird計算卡可以將電信號轉化為光信號，經由光芯片中的光波導網絡進行數據通信。結合曦智科技的軟件開發(fā)工具包，該計算卡可以充分利用oNOC技術的優(yōu)勢。在此基礎上，客戶可實現算力和內存擴展，降低延時，拓展互連帶寬，拓撲結構的選擇也將更加靈活，從而深度賦能機器學習和人工智能工作負載的性能提升。
oNOC技術賦能三大PoC使用場景
除了類腦計算，新氦類腦智能使用8張曦智科技Hummingbird計算卡并行計算實現了8路1080P視頻的圖像識別應用，識別效率、準確率表現良好，運行穩(wěn)定可靠。
在大語言模型的浪潮下，新氦類腦智能采用曦智科技光電混合計算方案，已經成功運行MOSS 160億參數大語言模型。目前，該項目仍在進行中。
新氦類腦智能實際使用的PoC案例，證明了曦智科技的oNOC技術及Hummingbird計算卡的應用可行性，充分發(fā)揮了該技術在算力擴展方面所具有的低延時和低功耗等優(yōu)勢。借助oNOC技術，在單顆電芯片上擴展算力及數據交換帶寬成為可能。
新氦類腦智能在支持初創(chuàng)及科技創(chuàng)新企業(yè)方面發(fā)揮了研發(fā)與轉發(fā)功能型平臺的積極作用，匯聚下游應用場景及高校資源，為革命性新型硬件、器件技術提供了實驗性平臺并在實際應用場景中落地。PoC方面的合作讓創(chuàng)新型技術可以在實際應用方面進行產品化及商業(yè)化，最終把技術和產品推向市場。
曦智科技近日連續(xù)發(fā)布了Photowave、Hummingbird等全新產品，產品的應用性及優(yōu)越性進一步得到客戶認可。接下來，曦智科技將繼續(xù)堅持以客戶需求為導向，提供“端到端”的定制化完整解決方案，進而建立圍繞軟硬件、開發(fā)者、產業(yè)三大生態(tài)的完整光電混合計算新生態(tài)。
NeuHelium新氦、曦智科技原創(chuàng)內容，未經允許，不得轉載
滬公網安備 31011002003093號