來源:互聯網
10月16日(rì)-18日,首(shǒu)屆灣(wān)區半導體產(chǎn)業(yè)生態博覽會在深圳舉行。
本次展會是(shì)在深圳市政府指導和(hé)深圳市發展和改革委員(yuán)會支持下(xià),由深圳市半導體與集成電路產(chǎn)業聯盟攜手深圳市重大產業(yè)投資集團有限公司共同主辦,以"半導體重大項目集群和最大(dà)增量市場"為基礎,邀(yāo)請來自灣區、全國及全球的(de)半導體產業鏈上下遊頭部企業參加。
作為AI芯片領(lǐng)域代表企業,雲天勵飛受邀出(chū)席“AI芯片與高性能計算應用論壇”,分享國產邊緣AI芯片架構(gòu)創新思路。

雲天勵飛副總裁、芯片產品線總經理李愛軍在演講中說道,過(guò)去一年半,大模型(xíng)經曆了從語(yǔ)言到多模態的轉變,並且正快速向物理世界演進;大模型落地應用也從雲端逐漸走向邊緣端,而大模(mó)型在邊(biān)緣(yuán)端(duān)的應用(yòng)給(gěi)AI芯(xīn)片帶來了全新的挑戰。
邊緣端場景具有(yǒu)“多且碎”的(de)特點,不同(tóng)場景應用對算力、內存、帶寬的要求也不盡相同。如何通過更靈活的(de)芯(xīn)片架構設(shè)計,盡可能讓AI芯片滿足不同場景的需求(qiú),是業界共同思考的問題。
在此背景下,雲天勵飛提出了“算力積木”AI芯片架構(gòu),讓芯(xīn)片能夠像搭積木一樣靈活組(zǔ)建、靈活擴展(zhǎn)。
以(yǐ)雲天勵飛基於(yú)“算力積木”打造的國內首顆國(guó)產工藝邊緣(yuán)AI芯(xīn)片DeepEdge10係列為例,DeepEdge10係列芯片基(jī)於一個標準化的大模型計算單元打造,可實現1.8B大(dà)模型的實時高效推理。
通過D2D Chiplet技術、C2C Mesh技術和C2C Mes Torus技術,雲天勵飛將標準計算單元像(xiàng)搭積木一樣,封裝成不同算力的芯片,覆蓋8T-256T算(suàn)力(lì)應(yīng)用,可實現7B、14B、130B等不同參數量大模型在邊緣端的高(gāo)效(xiào)推理。
目(mù)前,DeepEdge10係列芯片可支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各類不同架構的主流模型,並在機器人、邊緣網關、服務器等領域實現(xiàn)商業化應用。
隨著大模型進一步深入行業和(hé)場景,市場(chǎng)對邊緣AI芯片的需求(qiú)將越來越大,而目前全球邊緣AI芯片市場仍處於萌芽階段。未(wèi)來雲天勵飛將堅持走自主研發路線,通過架構創(chuàng)新,在國產工藝上實現芯片性能的突破,為行業帶來更好用、更高性價比的國(guó)產AI芯(xīn)片產品。