
作為 Rambus 行業(yè)領(lǐng)先的接口和安全數(shù)字 IP 產(chǎn)品組合的最新成員,GDDR7 內(nèi)存控制器將為下一波AI推理浪潮中的服務(wù)器和客戶端提供所需的突破性內(nèi)存吞吐量。
面向AI 2.0的內(nèi)存解決方案
AI 2.0代表著生成式AI革命性世界的到來。AI 2.0借助大語言模型(LLM)及其衍生模型的巨大增長創(chuàng)建新的多模態(tài)內(nèi)容。多模態(tài)意味著可以將文本、圖像、語音、音樂、視頻等混合輸入到模型中,從而創(chuàng)建出這些以及其他媒體格式的輸出,例如根據(jù)圖像創(chuàng)建3D模型或根據(jù)文本提示創(chuàng)建視頻等。
LLM的參數(shù)規(guī)模已超過萬億,數(shù)據(jù)集樣本規(guī)模也已達到數(shù)十億。訓(xùn)練LLM需要巨大的算力,這離不開最新高性能內(nèi)存解決方案的支持。
通過GDDR7增強AI推理能力
AI 2.0訓(xùn)練流程的輸出結(jié)果是一個推理模型,該模型可根據(jù)用戶提示創(chuàng)建新的多模態(tài)內(nèi)容。由于準確性和保真度會隨著模型規(guī)模的擴大而提高,因此推理模型的規(guī)模也在不斷擴大。隨著AI推理變得越來越普遍,并從數(shù)據(jù)中心向邊緣和終端移動,這就促使整個計算領(lǐng)域需要更加強大的處理引擎和量身定制的高性能內(nèi)存解決方案。
GPU一直是推理引擎的首選,在服務(wù)器和臺式機等邊緣和終端應(yīng)用中,GPU一直使用的是GDDR6內(nèi)存。但GDDR6的數(shù)據(jù)傳輸速率已達到標準NRZ信號的實際極限——24Gbps。為了滿足未來GPU的帶寬需求,需要使用新信號機制的新一代GDDR。而使用PAM3信號的GDDR7內(nèi)存可將數(shù)據(jù)傳輸速率提高至40 Gbps或以上。
面向AI 2.0的Rambus半導(dǎo)體IP
作為AI 2.0的首選半導(dǎo)體IP供應(yīng)商,Rambus提供業(yè)界領(lǐng)先的 HBM、PCIe和 CXL控制器 IP,現(xiàn)在更提供業(yè)界首個GDDR7內(nèi)存控制器IP。Rambus GDDR7控制器為GDDR7存儲器的實現(xiàn)提供了功能齊全且具有高帶寬效率的解決方案。它支持40 Gbps的運行速度,為GDDR7存儲器設(shè)備提供160 GB/s的吞吐量,較業(yè)界吞吐量最高的GDDR6控制器(同樣來自Rambus)提高了67%。Rambus GDDR7控制器實現(xiàn)了適用于最先進AI加速器、圖形和高性能計算(HPC)應(yīng)用的GDDR內(nèi)存部署。
Rambus半導(dǎo)體IP總經(jīng)理Neeraj Paliwal表示:“AI 2.0工作負載對帶寬提出了前所未有的高要求,因此提供更高的內(nèi)存性能變得至關(guān)重要。借助我們開創(chuàng)性的GDDR7控制器IP解決方案,設(shè)計人員可以快速利用最新一代GDDR存儲器的優(yōu)勢,實現(xiàn)業(yè)界領(lǐng)先的吞吐量?!?
IDC內(nèi)存半導(dǎo)體副總裁Soo-Kyoum Kim表示:“GDDR7內(nèi)存的性能較GDDR6大幅提升。對任何希望充分利用GDDR7優(yōu)化的速率和延遲特性的人來說, Rambus GDDR7控制器IP將成為重要的工具?!?
Rambus GDDR7控制器的主要特點:
-支持包括PAM3和NRZ信號在內(nèi)的所有GDDR7鏈路功能
-支持多種GDDR7設(shè)備尺寸和速率
-專門針對各種流量情況進行優(yōu)化,可實現(xiàn)高效率和低延遲
-靈活的AXI接口支持
-低功耗支持(自刷新、休眠自刷新、動態(tài)頻率縮放等)
-可靠性、可用性和可維護性(RAS)功能,例如端到端數(shù)據(jù)路徑奇偶校驗、存儲寄存器奇偶校驗保護等
-全方位的內(nèi)存測試支持
-對現(xiàn)有第三方PHY的集成支持
-使用最新的GDDR7 VIP和內(nèi)存供應(yīng)商內(nèi)存模型進行驗證
Rambus GDDR7內(nèi)存控制器IP現(xiàn)已上市。如需了解更多Rambus GDDR7控制器有關(guān)信息,敬請點擊此處訪問。
聲明:本內(nèi)容為作者獨立觀點,不代表電源網(wǎng)。本網(wǎng)站原創(chuàng)內(nèi)容,如需轉(zhuǎn)載,請注明出處;本網(wǎng)站轉(zhuǎn)載的內(nèi)容(文章、圖片、視頻)等資料版權(quán)歸原作者所有。如我們采用了您不宜公開的文章或圖片,未能及時和您確認,避免給雙方造成不必要的經(jīng)濟損失,請電郵聯(lián)系我們,以便迅速采取適當處理措施;歡迎投稿,郵箱∶editor@netbroad.com。
Rambus推出面向下一代AI PC內(nèi)存模塊的業(yè)界領(lǐng)先客戶端芯片組 | 25-05-15 16:16 |
---|---|
Rambus 通過新一代CryptoManager安全IP解決方案增強數(shù)據(jù)中心與人工智能保護 | 25-04-16 14:18 |
【信息圖】汽車行業(yè)正在發(fā)生變化:創(chuàng)新半導(dǎo)體解決方案如何解決車載連接挑戰(zhàn) | 25-02-20 15:12 |
Rambus宣布推出業(yè)界首款HBM4控制器IP,加速下一代AI工作負載 | 24-11-13 15:47 |
Rambus推出DDR5客戶端時鐘驅(qū)動器,將業(yè)界領(lǐng)先的內(nèi)存接口芯片產(chǎn)品擴展到高性能 PC領(lǐng)域 | 24-08-29 16:08 |
微信關(guān)注 | ||
![]() |
技術(shù)專題 | 更多>> | |
![]() |
技術(shù)專題之EMC |
![]() |
技術(shù)專題之PCB |