侵權投訴

有效解決內存墻問題 存算一體正處在快速發展階段

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2021-10-26 07:45 ? 次閱讀

電子發燒友網報道(文/李彎彎)隨著技術的發展,現在計算的任務越來越復雜,需要的數據也越來越多,而在馮諾依曼架構中,數據需要在存儲、內存、緩存、計算單元中不斷搬運,造成大部分時間、帶寬、緩存、功耗都消耗在數據搬運上,而不是計算上,因此內存墻都成了一個越來越嚴重的問題。

這種問題在人工智能計算中尤為明顯,知存科技創始人兼CEO王紹迪近日在某論壇分享到:“這種數據搬運消耗的功耗超過95%以上,帶寬也會達到80%以上,比如片上緩存,1MB的SRAM和8KB的SRAM在數據搬運上消耗的功耗相差10倍?!币虼藰I界都在思考減少內存墻問題。

存算一體有效解決內存墻問題

存算一體主要有近存計算和存內計算。近存計算可以理解為通過先進封裝拉近存儲、內存和計算單元的距離,比如SRAM,在馮諾依曼架構中,很多時候SRAM用作緩存,多核共同使用,這樣緩存到每個核都有一定距離,數據搬運、訪問時間、功耗都會增加,王紹迪介紹:“近緩存計算把SRAM與計算單元合在一起,這個SRAM只供本地計算單元使用,數據訪問時間和帶寬都有很大提升?!?br />
存內計算比近存計算更高效,同時也更難以實現,存內計算一般是使用存儲的參數去完成計算,比如SRAM存內計算,Flash存內計算、以及RRAM存內計算。存內計算實際上是一個計算的模塊,而不再是存儲的模塊,實踐的方式是用存儲的參數去完成運算,從存儲器中讀出的數據是運算的結果,而不是存儲的數據。

在馮諾依曼架構中,不管是做加法運算還是乘法運算,都需要把數據從存儲架構中讀出來,包括緩存、內存、以及片外的存儲,最終將數據讀到計算單元中完成運算。從緩存中讀取數據,要消耗運算幾倍、幾十倍、甚至幾百倍的功耗,從內存讀取數據,搬運功耗是運算的近千倍,從外部的存儲讀取,達到上萬倍。

因此在數據量很大的計算中,馮諾依曼架構的效率就會非常低,而存內計算,存儲器中存儲了參數,被處理的數據作為輸入信號,被處理的信號流過存儲器中所有的參數,從存儲器中輸出的數據就是運算的結果。王紹迪表示,“存內計算的優勢在于,能夠將存儲器中眾多的存儲單元轉化為運算單元,這樣能計算的并行度就會大幅提高,從原來幾十、幾百個并行,到存內計算幾百萬、幾千萬、甚至幾億個乘加法的并行度,運算效率很高?!?br />
除了可以大規模并行運算,還可以很大程度節省數據帶寬。簡單來說,一個傳統的存儲器,多行多列,一次至多激活一行,讀取出一行的數據,而要把多行數據讀取出來,需要進行多個存儲器周期,分別激活每一行,讀出每一行的數據。而存內計算可以同時把輸入數據給多行,同時多行的輸入數據與每一行的參數做乘法運算,在列的方向直接把運算的結果讀取出來,它是同時多行多列并行激活的方法。


現在的存內計算可以做到千行千列同時開啟,使用效率比傳統存儲器提高近千倍,王紹迪談到:“整體來看,包括輸入輸出,存內計算運算效率一般會有幾十倍的提升,而且提升倍數還一直在增加,存內計算的發展速度很快,最近處于早期的快速發展階段,每年都有數倍性能的提升?!?br />
知存科技WTM2101智能解決方案

知存科技目前在存內計算領域較為領先,公司成立于2017年底,目前已經推出兩款存算一體芯片,其中WTM1001已經批量量產,WTM2101處于小批量階段,知存科技目前已經完成五輪融資。


WTM2101是一款尺寸很小的SOC芯片,包括一個1.8MB存內計算的Flash,該存儲模塊除了用于存內計算,也可以用于普通的存儲。王紹迪介紹:“這款芯片的封裝很小,可以用在可穿戴設備中,目前計算的功耗非常低,比如如果做連續100個詞到300個詞的識別,功耗可以控制在1mA以內,其中100個詞可以功耗可以到60微安。該芯片在運行語音識別、語音增強、物體識別、智能健康,以及其他的一些AI算法上,可以把算力和效率提升20倍到50倍?!?br />
另外WTM2101首次用了獨有的專利HPU,它是一個混合計算單元,實際上是把數字計算和模擬計算結合在一起,因為模擬計算有精度上限,為了提高精度,加了一個稀疏的計算單元,可以把存內計算的精度進一步提高,最高提高4比特。


存內計算未來的發展趨勢

隨著存內計算的發展,未來的應用場景也會越來越廣,當前存內計算主要應用在端側,一是受精度的限制,8比特,二是受容量,在幾兆的級別,三是算力,基本在0.1T到1T的范圍。

不過未來一兩年將會發展到邊側,精度會提高到12比特,容量會達到16兆到64兆,算力也可以提升到最大32T,這樣可以覆蓋很多邊緣側的應用需求。未來還會向云端發展,存內計算精度會達到到16比特,容量會超過1000M,算力會達到256T到1024T。

存內計算在云側、邊側、端側,存內計算的優勢各不相同,在端側,存內計算在功耗的限制下可以提供大的算力,在邊緣側,在功耗、體積限制下也有很強的算力,在云端,可以提供更低成本的解決方案。

存內計算現在處于一個很快的發展階段,未來幾年,每年都會有很快的迭代速度。早期,產業界對存內計算的關注不多,投入也很少,最近存內計算逐漸得到越來越多的關注,王紹迪認為,未來五年存內計算都會在處在非??焖俚陌l展階段,在各種各樣的場景中,進行規?;穆涞貞?。

收藏 人收藏
分享:

評論

相關推薦

【MCU】一種"靈活且省資源"的IAP升級方案

1、聊一聊 每當你疲憊的時候聽一下這首歌曲,或許會重新振奮,其實我們每個人都是"一名soldier....
發表于 11-05 18:05 ? 3次 閱讀
【MCU】一種"靈活且省資源"的IAP升級方案

快訊:個人信息保護法正式上線 曝華為Mate X3明年年初發布

近日,針對11月1日正式實施的個人信息保護法,中國工信部已經對個人信息保護法草案將開始進行再次審核,....
的頭像 lhl545545 發表于 11-05 17:39 ? 624次 閱讀

MCU從入門到躺平

關注+星標公眾號,不錯過精彩內容來源 |工程師的廢紙簍伴隨著ST一封又一封漲價函的發布,國產MCU像....
發表于 11-05 17:35 ? 4次 閱讀
MCU從入門到躺平

中科曙光與南京氣象研究院成立氣象科技與人工智能應用聯合實驗室

近年來,大數據、云計算、人工智能等先進技術開啟智慧氣象服務的新篇章。而發展精細化氣象服務業務、滿足城....
的頭像 中科曙光 發表于 11-05 17:10 ? 77次 閱讀

系統級方法使 AIoT 的 MCU 受益

微控制器 (MCU) 供應商正在穩步增加其設備中的內存容量,但這足以支持人工智能 (AI) 和物聯網....
發表于 11-05 16:50 ? 6次 閱讀
系統級方法使 AIoT 的 MCU 受益

MCU,RTOS,物聯網之間的關系

關注+星標公眾號,不錯過精彩內容來源 |小麥大叔概述嵌入式物聯網開發平臺是一個系統,是微控制器+物+....
發表于 11-05 16:21 ? 4次 閱讀
MCU,RTOS,物聯網之間的關系

如何改進雙塔模型才能更好的提升你的算法效果

來自:對白的算法屋 今天寫點技術干貨來回饋一下我的粉絲們。本來想繼續寫對比學習(Contrastiv....
的頭像 深度學習自然語言處理 發表于 11-05 15:38 ? 91次 閱讀
如何改進雙塔模型才能更好的提升你的算法效果

探博M1受邀參加“青少年機器人與人工智能科普教育活動”

2021年10月,深圳市探博智能機器人有限公司受“廣州市科學技術協會”及“廣東省機器人協會”的邀請,....
的頭像 話說科技 發表于 11-05 14:38 ? 60次 閱讀

元宇宙借助什么技術_元宇宙的技術支柱

近些年隨著區塊鏈、人工智能、量子計算的高速發展,人類的科技發展已經進入非凡時代,元宇宙作為眾多行業的....
的頭像 電子魔法師 發表于 11-05 14:32 ? 112次 閱讀

曠視5G+AI 深度融合 打造軟硬一體利民數智服務

作為全球領先的人工智能產品和解決方案提供商,曠視受邀參會共享對”推動社會經濟數智化轉型“的前沿應用思....
的頭像 曠視MEGVII 發表于 11-05 11:45 ? 350次 閱讀

ScaleFlux發布新一代產品 引領數據中心高效計算存儲

2021年11月5日,計算存儲產業的領跑者ScaleFLux在其CSD 2000產品成功量產并規?;?...
發表于 11-05 11:36 ? 81次 閱讀
ScaleFlux發布新一代產品 引領數據中心高效計算存儲

元宇宙真的要到來了嗎

今年,元宇宙突然爆火,各大媒體都報道了,各大科技巨頭也紛紛入局元宇宙,全球科技大佬們已經有的布局元宇....
的頭像 璟琰乀 發表于 11-05 11:35 ? 286次 閱讀

AI智能攝像頭的用途

電動自行車用起來很方便、快捷,但是使用不當帶來的安全隱患,是慘痛的…4月11日6時57分左右,太原市....
發表于 11-05 11:33 ? 34次 閱讀

5g技術與元宇宙如何結合

5g技術與元宇宙如何結合?元宇宙成為2021年度熱門詞匯,發展元宇宙,僅僅靠5G技術是不夠的。人工智....
的頭像 lhl545545 發表于 11-05 11:13 ? 232次 閱讀

元宇宙電影失控玩家

《失控玩家》是近期比較火爆的電影,《失控玩家》腦洞很大,給元宇宙增添無限想象力,電影里面體現了關于人....
的頭像 lhl545545 發表于 11-05 10:35 ? 218次 閱讀

元宇宙六大支撐技術中電子游戲技術是什么

元宇宙最近爆火,元宇宙是在擴展現實、區塊鏈、云計算、數字孿生等新技術下的概念具化,元宇宙主要是靠六大....
的頭像 璟琰乀 發表于 11-05 10:34 ? 345次 閱讀

新思科技收購AI驅動的實時性能優化領導企業Concertio

本次收購強化了新思科技SiliconMAX芯片生命周期管理平臺,擴充了芯片在應用端和系統端的動態優化....
發表于 11-05 10:33 ? 71次 閱讀

物聯網企業如何在元宇宙時代創造效益

物聯網在元宇宙中起到什么作用? 扎克伯格近日表示Facebook將在未來五年內轉型成元宇宙公司,要將....
的頭像 ss 發表于 11-05 10:31 ? 176次 閱讀

SensiML與安森美合作 開展工業邊緣AI感知應用

開發AI工具以構建智能物聯網(IoT)終端的領先開發商之一SensiML?公司宣布與安森美(onse....
發表于 11-05 10:25 ? 129次 閱讀
SensiML與安森美合作 開展工業邊緣AI感知應用

“亞馬遜云科技+西點云”方案的優點

擁有90余家自營門店的好鄰居連鎖超市在實施跨區域發展戰略中,決定采用云服務替代傳統的本地數據中心。在....
發表于 11-05 10:02 ? 61次 閱讀
“亞馬遜云科技+西點云”方案的優點

千億級市場!這家AI視覺芯片公司找到了新應用

電子發燒友網報道(文/李彎彎)在人工智能領域,計算機視覺是其中重要的組成部分,因此AI視覺芯片的市場....
的頭像 Carol Li 發表于 11-05 09:45 ? 560次 閱讀
千億級市場!這家AI視覺芯片公司找到了新應用

Java開發和嵌入式開發該怎樣去選擇呢

首先,Java開發和嵌入式開發都是目前IT行業內比較常見的開發崗位,也都有大量的從業人員,所以從就業的角度來看,學習Java開...
發表于 11-05 08:45 ? 0次 閱讀

南潮物聯:多重傳感結合AI技術實現智慧工地全場景未沖洗抓拍

自2019年南潮物聯智慧工地車輛未沖洗抓拍產品正式上線以來,已經陸續迭代了兩代產品,幫助上千個工地實....
的頭像 科訊視點 發表于 11-05 08:45 ? 339次 閱讀
南潮物聯:多重傳感結合AI技術實現智慧工地全場景未沖洗抓拍

嵌入式開發中程序下載后存儲在什么地方

Q1:    嵌入式開發中程序下載后存儲在什么地方?      嵌入式開發范圍較廣,根據系統處理器的處理能力以及資源分配情...
發表于 11-05 08:31 ? 0次 閱讀

如何去玩轉內存

我們去做嵌入式開發就是針對內存,一個非常優秀的工程師尤其是嵌入式工程師,他去看別人代碼他一眼就能看出來他內存使用情況怎么...
發表于 11-05 07:15 ? 0次 閱讀

嵌入式linux有何重要性

隨著技術的發展,嵌入式的硬件越來越好,價格越來越便宜,可以開發的功能也越來越多,要求完成的功能越來越快,面對這樣的需求,...
發表于 11-05 06:42 ? 0次 閱讀

基于MCU的嵌入式軟件開發

關注+星標公眾號,不錯過精彩內容作者 | strongerHuang微信公眾號|嵌入式專欄基于MCU的嵌入式軟件開發,可能在某些情況下沒有...
發表于 11-05 06:39 ? 0次 閱讀

嵌入式開發中的程序構架有哪幾種呢

發表于 11-05 06:23 ? 0次 閱讀

基于單片機的酒精濃度測試儀的設計

基于單片機的酒精濃度測試儀的設計本文設計了一款便攜式的酒精濃度測試儀,該設計方案采用的是89C52單....
發表于 11-04 21:06 ? 11次 閱讀
基于單片機的酒精濃度測試儀的設計

中小學人工智能編程什么書比較好,人工智能入門書籍推薦

雙減政策之下,為你梳理人工智能教育好書指南,輕松讓孩子打開人工智能教育大門,激發孩子AI學習創新興趣....
的頭像 創客生活 發表于 11-04 16:12 ? 135次 閱讀
中小學人工智能編程什么書比較好,人工智能入門書籍推薦

智能音箱控制智能家居的工作原理

數字功放是一種具有失真小、噪音低、動態范圍大等特點的音頻功率放大器,在音質的冷暖度、解析力,背景的寧....
發表于 11-04 14:52 ? 42次 閱讀

詳細介紹如何從零開始制作51單片機控制的智能小車(一)———讓小車動起來

?? 從本文開始,在之后的一段時間里,我會通過本系列文章,詳細介紹如何從零開始用51單片機去實現智....
發表于 11-04 14:51 ? 6次 閱讀
詳細介紹如何從零開始制作51單片機控制的智能小車(一)———讓小車動起來

基于51單片機的自動電梯控制模擬系統設計

文章目錄研究現狀總體方案設計硬件電路設計電梯邏輯控制電梯運行控制硬件仿真系統測試方向優先測試距離優先....
發表于 11-04 14:36 ? 9次 閱讀
基于51單片機的自動電梯控制模擬系統設計

鎂光燈下彰顯硬核實力,艾邁斯歐司朗斬獲2021全球電子成就獎重磅獎項!

全球領先的光學解決方案領導者艾邁斯歐司朗在2021全球電子成就獎(WEAA)頒獎典禮上榮獲兩項業界重....
發表于 11-04 14:31 ? 166次 閱讀
鎂光燈下彰顯硬核實力,艾邁斯歐司朗斬獲2021全球電子成就獎重磅獎項!

華為云在華為全聯接2021期間發布了新一代天籌AI求解器

二戰期間,盟軍要為規??涨褒嫶?、結構無比復雜的潛艇與艦船規劃路線,制定運輸策略,于是軍方請來了數學家....
的頭像 腦極體 發表于 11-04 14:02 ? 118次 閱讀

總結了一份嵌入式硬件開發的具體流程

關注、星標公眾號,直達精彩內容來源:網絡素材整理:李肖遙傳送門: 總結了一份嵌入式產品研發的具體流程....
發表于 11-04 10:51 ? 9次 閱讀
總結了一份嵌入式硬件開發的具體流程

嵌入式系統與人工智能

工業4.0(又名工業物聯網)和智能工廠等當前的技術趨勢正在深刻地改變工業價值創造過程,其特點是更高程....
發表于 11-04 10:51 ? 7次 閱讀
嵌入式系統與人工智能

凌華科技發布首款基于NVIDIA Jetson AGX Xavier工業級模塊的堅固型鐵路應用AI平臺

AI影像分析(AVA)平臺提供高密度計算與I/O彈性配置,適用于嚴苛環境下空間有限的邊緣應用。
發表于 11-04 10:46 ? 301次 閱讀
凌華科技發布首款基于NVIDIA Jetson AGX Xavier工業級模塊的堅固型鐵路應用AI平臺

嵌入式中的人工神經網絡

人工神經網絡在AI中具有舉足輕重的地位,除了找到最好的神經網絡模型和訓練數據集之外,人工神經網絡的另....
發表于 11-04 10:36 ? 5次 閱讀
嵌入式中的人工神經網絡

元宇宙六大支撐技術的區塊鏈是什么

元宇宙是最近很火的話題,元宇宙主要靠區塊鏈技術、交互技術、電子游戲技術、人工智能技術、網絡及運算技術....
的頭像 璟琰乀 發表于 11-04 10:31 ? 381次 閱讀

Adobe推出網頁版Photoshop

Adobe公司近日在Adobe MAX 2021大會上正式推出了網頁版Photoshop,針對網頁版....
的頭像 lhl545545 發表于 11-04 09:13 ? 1332次 閱讀

Xilinx Zynq-7000嵌入式系統設計與實現 學習教程(1)

學習資料下載地址:http://www.edawiki.com開篇體會;  Xilinx的ZYNQ系....
發表于 11-04 09:05 ? 2次 閱讀
Xilinx Zynq-7000嵌入式系統設計與實現 學習教程(1)

嵌入式linux內存泄露的調試方法是什么

發表于 11-04 08:56 ? 0次 閱讀

2021全屋智能為何依然進展緩慢?怎么賦能未來家居空間

進入數智化時代,無論是自動駕駛的落地還是AI技術的迭代,都有了質的飛躍,與產業的結合中也落地了很多應....
的頭像 腦極體 發表于 11-04 08:24 ? 507次 閱讀

嵌入式Linux初學者要了解哪些知識呢

有去了解過嵌入式的學員應該都會知道現在嵌入式是在什么位置上,就發展來說,嵌入式還有很大的發展空間的,所以想要去學習嵌入式...
發表于 11-04 07:10 ? 0次 閱讀

嵌入式Linux驅動領域開發

嵌入式Linux的靈活性,為嵌入式計算而設計的高效、節能的處理器的可用性,以及新處理器的低成本,使許多工業公司在嵌入式處理器...
發表于 11-04 06:50 ? 0次 閱讀

嵌入式系統內存優化使用

嵌入式系統功能的提高,占用了較大內存空間,繼而時常出現運行無響應?;谟脩舴矫婵?,由于系統內存問題影響運行,針對系統內存...
發表于 11-04 06:23 ? 0次 閱讀

基于嵌入式平臺與深度學習的智能氣象監測儀器設計方案

基于嵌入式平臺與深度學習的智能氣象監測儀器設計方案一、 概述二、 整體框架三、人工智能部分:四、 嵌....
發表于 11-03 20:21 ? 2次 閱讀
基于嵌入式平臺與深度學習的智能氣象監測儀器設計方案

嵌入式開發中為什么很少用設計模式?

關注+星標公眾號,不錯過精彩內容作者|李肖遙來源 |技術讓夢想更偉大剛開始工作的兩年,我做項目寫代碼....
發表于 11-03 18:06 ? 6次 閱讀
嵌入式開發中為什么很少用設計模式?

干貨:嵌入式系統設計開發大全?。ㄈf字總結)

出品21ic中國電子網 付斌整理網站:21ic.com01嵌入式系統設計方法變化的背景嵌入式系統設計....
發表于 11-03 18:06 ? 5次 閱讀
干貨:嵌入式系統設計開發大全?。ㄈf字總結)

2020備考[嵌入式系統設計師]你準備好了嗎?

2020年準備參加軟考獲取中級職業技術資格認證的小伙伴咱們約起吧?!去年剛參加完嵌入式系統設計師考試....
發表于 11-03 17:36 ? 4次 閱讀
2020備考[嵌入式系統設計師]你準備好了嗎?

嵌入式大佬們都在用的8款軟件工具

正文大家好,我是bug菌!今天跟大家分享一些嵌入式開發中常用的好評工具,也是我手頭上一直在使用的一些....
發表于 11-03 17:21 ? 11次 閱讀
嵌入式大佬們都在用的8款軟件工具

嵌入式如何入門,要不要學習Python

#提問我是你的公眾號讀者朋友,江蘇省在讀大學生一名,目前是大四免研。研究生方向是嵌入式系統與應用(導....
發表于 11-03 17:06 ? 7次 閱讀
嵌入式如何入門,要不要學習Python

元宇宙為什么突然火了 元宇宙魅力在哪里

今年,元宇宙突然就火了,科技巨頭們也紛紛入局元宇宙。全球互聯網巨頭Facebook因為元宇宙改名,元....
的頭像 璟琰乀 發表于 11-03 17:05 ? 484次 閱讀

“RT-Thread杯”2020第三屆全國大學生嵌入式芯片與系統設計競賽圓滿落幕

2020第三屆全國大學生嵌入式芯片與系統設計競賽暨第五屆全國大學生智能互聯創新大賽總決賽暨頒獎典禮日....
發表于 11-03 16:36 ? 19次 閱讀
“RT-Thread杯”2020第三屆全國大學生嵌入式芯片與系統設計競賽圓滿落幕

【硬創嘉賓】九核資本-于紅梅:提供最有價值的資金與資源賦能,協助企業成長和發展

視頻鏈接: https://media.elecfans.com/elecfans/2021/10/....
的頭像 中國硬件創新大賽 發表于 11-03 16:15 ? 690次 閱讀
【硬創嘉賓】九核資本-于紅梅:提供最有價值的資金與資源賦能,協助企業成長和發展

科技巨頭紛紛元宇宙 元宇宙為什么這么火

科技巨頭紛紛元宇宙 元宇宙為什么這么火 最近元宇宙很火,許多科技巨頭都入局了元宇宙,那么元宇宙為什么....
的頭像 璟琰乀 發表于 11-03 16:09 ? 499次 閱讀

嵌入式方案設計文檔該怎么寫?

關注+星標公眾號,不錯過精彩內容作者 | strongerHuang微信公眾號|嵌入式專欄俗話說,不....
發表于 11-03 15:36 ? 4次 閱讀
嵌入式方案設計文檔該怎么寫?

嵌入式崗位國內有哪些企業不錯?

關注、星標公眾號,直達精彩內容ID:技術讓夢想更偉大作者:李肖遙最近上班比較摸魚,混跡在群聊當中,大....
發表于 11-03 15:21 ? 4次 閱讀
嵌入式崗位國內有哪些企業不錯?

知乎高贊:Java和嵌入式,選哪個?

大家好,我是張巧龍,最近看知乎有一個問題,是關于java和嵌入式的,看到一個回答,還不錯,分享給大家....
發表于 11-03 15:06 ? 2次 閱讀
知乎高贊:Java和嵌入式,選哪個?
正在播放黑人无码专区