據(jù)寒武紀(jì)公眾號(hào)顯示，11月3日，其發(fā)布了第三代云端AI芯片思元370、基于思元370的兩款加速卡MLU370-S4和MLU370-X4、全新升級(jí)的Cambricon Neuware軟件棧。

圖源：寒武紀(jì)公眾號(hào)

據(jù)悉，思元370基于7nm制程工藝，是寒武紀(jì)首款采用chiplet（芯粒）技術(shù)的AI芯片，集成了390億個(gè)晶體管，最大算力高達(dá)256TOPS(INT8)，是寒武紀(jì)第二代產(chǎn)品思元270算力的2倍。憑借寒武紀(jì)最新智能芯片架構(gòu)MLUarch03，相較于峰值算力的提升，思元370實(shí)測(cè)性能表現(xiàn)更為優(yōu)秀：以ResNet-50為例，MLU370-S4加速卡（半高半長(zhǎng)）實(shí)測(cè)性能為同尺寸主流GPU的2倍；MLU370-X4加速卡（全高全長(zhǎng)）實(shí)測(cè)性能與同尺寸主流GPU相當(dāng)，能效則大幅領(lǐng)先。

思元370也是國(guó)內(nèi)第一顆支持LPDDR5內(nèi)存的云端AI芯片，內(nèi)存帶寬是上一代產(chǎn)品的3倍，訪存能效達(dá)GDDR6的1.5倍。

寒武紀(jì)指出，思元370在2020年三季度流片，相關(guān)加速卡產(chǎn)品于2021年二季度陸續(xù)送測(cè)客戶。目前，部分客戶已完成測(cè)試、導(dǎo)入，產(chǎn)品進(jìn)入早期銷售階段。

此次發(fā)布中，兩款基于思元370的加速卡正式亮相：高密度、半高半長(zhǎng)、功耗75W的MLU370-S4智能加速卡和高性能、全高全長(zhǎng)、功耗150W的MLU370-X4智能加速卡。與上一代產(chǎn)品相比，370系列加速卡在性能、能效方面都有更為卓越的表現(xiàn)。例如，對(duì)標(biāo)準(zhǔn)ResNet-50v1進(jìn)行軟件定制優(yōu)化后，MLU370-X4加速卡性能高達(dá)30204fps。

圖源：寒武紀(jì)公眾號(hào)

同時(shí)，寒武紀(jì)全新升級(jí)了Cambricon Neuware軟件棧，新增推理加速引擎MagicMind，實(shí)現(xiàn)訓(xùn)推一體，顯著提升了開(kāi)發(fā)部署的效率，降低用戶的學(xué)習(xí)成本、開(kāi)發(fā)成本和運(yùn)營(yíng)成本。（日新）