首頁>消費 >
熱資訊!邊緣AI芯片有新消息 北大取得重要進展 達到世界先進水平!算力瓶頸下 邊緣AI崛起 2023-04-17 18:40:34  來源:證券時報

北京大學在邊緣AI芯片研究方面取得進展。


(相關資料圖)

據(jù)北京大學官網(wǎng),該校人工智能研究院在面向邊緣AI的可轉置存內計算芯片方向研究取得重要進展,該研究團隊提出了一種可同時實現(xiàn)高能效模型推斷前饋計算與訓練反向傳播計算的可轉置存內計算電路設計,該方案能夠直接在邊緣端完成神經網(wǎng)絡的重訓練。

報道表示,研究團隊在基于28nm標準的芯片原型驗證該技術,前饋計算時的能效和反向傳播計算能效均達到世界先進水平,該技術為邊緣端智能提供了低功耗、高魯棒性的AI加速器解決方案。

邊緣AI是傳統(tǒng)云端算力的補充

隨著以ChatGPT為代表的AIGC(人工智能技術生成內容)應用大量興起,算力需求大增,同時需要更多的網(wǎng)絡帶寬成本。此前由于算力資源缺口問題,ChatGPT官網(wǎng)一度停止Plus付費項目的購買,還頻頻下調提問限制次數(shù)。

傳統(tǒng)的云計算模型通常將大量的數(shù)據(jù)傳輸?shù)綌?shù)據(jù)中心進行處理,然后再將結果返回到用戶設備。這種傳統(tǒng)的云計算模型可能存在延遲高、網(wǎng)絡帶寬消耗大、對隱私和安全性的擔憂等問題。

邊緣AI運行在邊緣設備上,不需要將數(shù)據(jù)上傳云端來計算。相較于云端AI,邊緣AI具有低延遲、高安全性、高可靠性、保護用戶隱私等優(yōu)勢。國盛證券表示,由于算力爆發(fā)下產生的海量數(shù)據(jù)傳輸需求,完全依靠IDC(互聯(lián)網(wǎng)數(shù)據(jù)中心)提供中心化算力支撐乃是效率較低的選擇,在此背景下,邊緣計算便成為了傳統(tǒng)云端算力的很好補充。

由于邊緣AI的優(yōu)勢,科技巨頭已將目光盯上。華為、高通均推出邊緣AI產品。今年3月,高通中國在安卓手機上首次演示了模型參數(shù)超過10億的Stable Diffusion;華為將發(fā)布智慧搜圖功能,該功能通過對模型進行小型化處理 。

中信證券表示,華為與高通一定程度上驗證了高性能邊緣AI的可行性,并且表明通過模型壓縮+聯(lián)網(wǎng)智能的方式有望在邊緣端實現(xiàn)AI大模型的體驗。

除了巨頭角逐,邊緣AI應用場景持續(xù)豐富。4月初,天貓精靈接入GPT大模型;4月11日,美國智能眼鏡開發(fā)商推出可以為智能眼鏡用戶提供ChatGPT的語音服務。

國盛證券表示,大模型將大幅提升智能硬件的使用體驗,同時智能硬件本身也將成為愈發(fā)重要的AI入口。當前隨著物聯(lián)網(wǎng)模組邁入“智能化”時代,集成了邊緣算力的“智能模組”,正在逐漸成為支撐硬件智能化與邊緣算力的核心形式。

邊緣計算市場廣闊

市場空間方面,根據(jù)中國信息通信研究院顯示,2021年我國邊緣計算市場規(guī)模為436億元,預計2024年規(guī)模將達1804億元,2022年-2024年復合增速達61%。研究機構ABI Research預測,到2025年邊緣AI芯片組市場的收入將達到122億美元,邊緣AI芯片組市場將超過云AI芯片組市場。

具體公司方面,國盛證券指出,智能模組作為承載邊緣算力的最佳模式,是智能硬件放量下最具有確定性和彈性的投資方向。模組龍頭關注移遠通信、美格智能、廣和通;通信設備及芯片關注中興通訊、翱捷科技、初靈信息。

證券時報·數(shù)據(jù)寶梳理,移遠通信是全球通信模組龍頭,其智能模組產品管線最為齊全,截至目前已有超過10款智能模組正在商用或處于工程樣片、商業(yè)樣片階段。

美格智能深耕智能模組產品研發(fā),智能模組出貨量居于行業(yè)前列,并于行業(yè)內首家推出5G 智能模組。

中科創(chuàng)達在接受結構調研時表示,公司在邊緣計算和行業(yè)領域已經初具規(guī)模,以公司邊緣計算技術為核心的智能行業(yè)相關業(yè)務,2022年度實現(xiàn)營業(yè)收入2.2億元。

初靈信息在互動平臺表示,公司的邊緣計算、邊緣端的數(shù)據(jù)處理是支持“萬物互聯(lián)”的關鍵終端要素之一。

廣和通是首家A股上市的模組廠商,公司已有AI智能模組布局。

在互動平臺上,奧拓電子、南凌科技、中科信息、狄耐克、中富通、拓維信息等均有回復涉及邊緣計算業(yè)務的問題。

(文章來源:證券時報)

關鍵詞:

相關閱讀:
熱點
圖片