寒武紀:專注智能芯片研發(fā) 重點優(yōu)化訓練推理場景

寒武紀是智能芯片領域全球知名的新興公司,自2016年3月成立以來,寒武紀先后推出了用于終端場景的寒武紀1A、寒武紀1H、寒武紀1M系列智能處理器;基于思元100、思元270、思元290芯片和思元370的云端智能加速卡系列產(chǎn)品;基于思元220芯片的邊緣智能加速卡。

寒武紀能提供云邊端一體、軟硬件協(xié)同、訓練推理融合、具備統(tǒng)一生態(tài)的系列化智能芯片產(chǎn)品和平臺化基礎系統(tǒng)軟件。公司重點推動智能處理器微架構及指令集的迭代優(yōu)化工作。新一代智能處理器微架構及指令集將對自然語言處理大模型、視頻圖像生成大模型及推薦系統(tǒng)大模型的訓練推理等場景進行重點優(yōu)化。同時公司持續(xù)推進訓練和推理軟件平臺研發(fā):

(1)訓練軟件平臺:公司持續(xù)增加框架算子的支持數(shù)量,完善大模型的訓練軟件棧研發(fā),進行了多個大模型的微調及預訓練支持工作,在大模型訓練的性能和精度方面都取得了較強的競爭力,且計算效率達到了業(yè)界領先水平。

(2)推理軟件平臺:公司開發(fā)了支持大語言模型和多模態(tài) AIGC 推理業(yè)務的基礎軟件,并對傳統(tǒng)模型和生成式大模型進行了持續(xù)性能優(yōu)化,加速了實際應用部署。公司研發(fā)了分布式推理加速庫 BangTransformer,大模型推理達到了業(yè)界領先的模型計算效率。

寒武紀掌握的智能處理器指令集、智能處理器微架構、智能芯片編程語言、智能芯片數(shù)學庫等核心技術,具有壁壘高、研發(fā)難、應用廣等特點,對集成電路行業(yè)與人工智能產(chǎn)業(yè)具有重要的技術價值、經(jīng)濟價值和生態(tài)價值。

(免責聲明:本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )