近日，AMD發(fā)布了全新Alveo? V80加速卡，專為內(nèi)存密集型工作負(fù)載提供靈活應(yīng)變的加速。

據(jù)AMD自適應(yīng)和嵌入式計(jì)算事業(yè)部（AECG）高級(jí)產(chǎn)品線經(jīng)理Shyam Chander介紹，Alveo? V80加速卡是AMD推出的首款大規(guī)模市場化的加速卡產(chǎn)品。它采用了Versal FPGA自適應(yīng)SoC，為大數(shù)據(jù)集提供FPGA靈活性與HBM，適用于處理計(jì)算密集型和內(nèi)存密集型的工作負(fù)載，主要服務(wù)于高性能計(jì)算、數(shù)據(jù)分析、金融科技、存儲(chǔ)等領(lǐng)域。

與前代產(chǎn)品相比，Alveo? V80的性能能提升至高2倍，并且邏輯密度翻倍，存儲(chǔ)器帶寬翻倍，存儲(chǔ)器的性能也有很大的提升。另外，Alveo? V80提供了非常熟悉的FPGA開發(fā)流程，有AMD的Vivado?工具設(shè)計(jì)框架可以用于Alveo硬件，可以幫助客戶更好地部署。目前，Alveo? V80加速卡已投入量產(chǎn)。

AMD Alveo? V80加速卡：為計(jì)算密集型工作負(fù)載解決內(nèi)存與帶寬挑戰(zhàn)

隨著高性能計(jì)算、數(shù)據(jù)分析、網(wǎng)絡(luò)安全、傳感器處理、計(jì)算存儲(chǔ)和金融科技等領(lǐng)域?qū)?nèi)存密集型工作負(fù)載的需求日益增長，這些應(yīng)用通常涉及大型數(shù)據(jù)集，并要求硬件具備足夠的靈活性以適應(yīng)工作負(fù)載的優(yōu)化需求。

傳統(tǒng)的大數(shù)據(jù)集工作負(fù)載處理流程示意圖

傳統(tǒng)的大數(shù)據(jù)集工作負(fù)載處理流程往往在存儲(chǔ)器和網(wǎng)絡(luò)訪問方面容易遇到瓶頸，在高性能計(jì)算等應(yīng)用場景中也不例外。

首先，在內(nèi)存方面，無論是DDR4還是DDR5，帶寬非常有限，無法和PCIe相媲美，經(jīng)常達(dá)不到CPU、FPGA等各種芯片、計(jì)算傳輸?shù)男枨?。其次，在網(wǎng)絡(luò)方面，傳統(tǒng)方案往往是固定網(wǎng)絡(luò)接口與帶寬，一旦需要超大規(guī)模數(shù)據(jù)傳輸，就難以滿足。因此，解決計(jì)算密集型工作負(fù)載內(nèi)存與帶寬的挑戰(zhàn)成為AMD 研發(fā)Alveo? V80的重要一環(huán)。

AMD Alveo? V80的大數(shù)據(jù)集工作負(fù)載處理流程示意圖

AMD Alveo? V80加速卡基于7nm Versal?自適應(yīng)SoC架構(gòu)，并配備了高帶寬存儲(chǔ)器 (HBM)，不再需要DDR4或其他外部芯片，打破了傳統(tǒng)的大數(shù)據(jù)集工作負(fù)載在內(nèi)存與網(wǎng)絡(luò)訪問的局限，把安全連接和靈活應(yīng)變的計(jì)算融合，可以幫助用戶實(shí)現(xiàn)性能最大化，同時(shí)減少功耗、占板面積以及時(shí)延。

此外，AMD Alveo? V80融合了FPGA的靈活應(yīng)變來處理大數(shù)據(jù)集的工作負(fù)載。與前代產(chǎn)品相比，它的性能提升至高2倍，包括邏輯密度翻倍、存儲(chǔ)器帶寬翻倍。并且，Alveo? V80支持使用AMD Vivado? Design Suite的傳統(tǒng)FPGA設(shè)計(jì)流程，使得開發(fā)人員可以更加容易地利用這款加速器卡。

基于對(duì)提升邏輯密度、存儲(chǔ)器帶寬和網(wǎng)絡(luò)帶寬的著重設(shè)計(jì)，AMD Alveo? V80加速卡能夠有效處理多種大數(shù)據(jù)工作負(fù)載，涵蓋了從高性能計(jì)算（如基因組學(xué)和傳感器數(shù)據(jù)處理）、數(shù)據(jù)分析（例如欺詐檢測）、金融科技（包括風(fēng)險(xiǎn)分析和算法交易）、網(wǎng)絡(luò)安全（如數(shù)據(jù)包檢查）到存儲(chǔ)（其中數(shù)據(jù)壓縮尤為關(guān)鍵）等多個(gè)領(lǐng)域。此外，它在AI計(jì)算領(lǐng)域也表現(xiàn)出色，支持推薦引擎和大型語言模型等應(yīng)用。因此，Alveo? V80能夠幫助客戶顯著提升這些工作負(fù)載的處理速度，優(yōu)化數(shù)據(jù)處理流程，提升整體工作效率。

AMD Alveo? V80：滿足大規(guī)模加速內(nèi)存密集型工作負(fù)載

作為Versal HBM系列中最大的器件，AMD Alveo? V80采用全高、3/4 長（ FH?L ）尺寸規(guī)格，由 AMD Versal? HBM 自適應(yīng)SoC提供支持，整體包含一個(gè)32GB的DDR4 DIMM擴(kuò)展插槽、能夠提供250萬個(gè)LUT的可編程邏輯、10,890個(gè)DSP計(jì)算邏輯片以及820GB/s的存儲(chǔ)器帶寬。 Alveo? V80還采用了PCIe Gen5接口，支持64G的傳輸速率，并支持MCIO的連接，有可擴(kuò)展的GTY，可以實(shí)現(xiàn)存儲(chǔ)卡的一系列連接。

AMD Alveo? V80加速卡整體架構(gòu)

Shyam Chander表示， Alveo? V80芯片的關(guān)鍵特點(diǎn)包括其超高的帶寬，集成了高帶寬網(wǎng)絡(luò)核心和加密引擎。其次，它配備了大量的DSP計(jì)算邏輯片，提供比前代產(chǎn)品高達(dá)2到3倍的DSP性能。此外，V80還具備硬化的計(jì)算基礎(chǔ)設(shè)施連接，即所謂的超級(jí)通道，這使得集成過程更加輕松便捷。

據(jù)了解，預(yù)構(gòu)建、硬化的數(shù)據(jù)中心基礎(chǔ)設(shè)施連接正是使用了V80加速卡來實(shí)現(xiàn)這種硬化的Versal連接，可以非常方便地連接板載擴(kuò)展內(nèi)存、以太網(wǎng)絡(luò)、MCIO端口，以及高性能的EPYC處理器。

AMD Alveo? V80硬化的計(jì)算基礎(chǔ)設(shè)施連接

Shyam Chander通過列舉了AMD Alveo? V80在澳大利亞聯(lián)邦科學(xué)與工業(yè)研究組織天文天線陣列和在金融科技方面的應(yīng)用案例，說明了V80計(jì)算加速卡在高性能計(jì)算、AI、數(shù)據(jù)中心等應(yīng)用領(lǐng)域的優(yōu)勢。

聯(lián)邦科學(xué)與工業(yè)研究組織CSIRO是澳大利亞國家級(jí)研究機(jī)構(gòu)，參與了世界最大射電天文天線陣列的建設(shè)。該陣列目前包含420塊Alveo U55C加速卡，主要通過處理無線電波來研究早期宇宙并探索信息演化。該陣列持續(xù)傳感器數(shù)據(jù)傳輸速度能達(dá)到每秒15TB，工作負(fù)載主要是傳感器的實(shí)時(shí)傳輸還有波束成型和連接器。

由于工作負(fù)載主要涉及DSP，CSIRO的工作負(fù)載就愈發(fā)復(fù)雜，不僅需要迅速擴(kuò)展計(jì)算資源，而且需要在有限的機(jī)架空間內(nèi)優(yōu)化設(shè)備布局，以便數(shù)據(jù)中心能夠容納更多的設(shè)備。在這個(gè)過程中，還需要支持不斷提高的計(jì)算功耗和功能靈活性需求。簡而言之，在相近的總擁有成本下，目標(biāo)是在相近的總擁有成本下，實(shí)現(xiàn)比前代產(chǎn)品高出三倍的算力，同時(shí)考慮到有限的機(jī)架空間限制。

因此，CSIRO選擇了V80計(jì)算加速卡來提升計(jì)算性能，并增強(qiáng)Versal上的DSP引擎，以降低時(shí)延并實(shí)現(xiàn)高精度的實(shí)時(shí)工作負(fù)載。而DSP58相關(guān)功能得到了顯著增強(qiáng)，其強(qiáng)化的Versal DSP計(jì)算邏輯片相較于前代產(chǎn)品，性能提升了大約2到3倍。并且每張卡的密集計(jì)算簡化了集成、擴(kuò)展和集群的部署過程。

傳感器處理擴(kuò)展算力及總擁有成本降低的估算情況

金融建模和算法交易是金融科技領(lǐng)域的兩個(gè)重要應(yīng)用。AMD Alveo? V80為金融科技領(lǐng)域提供了強(qiáng)大的技術(shù)支持，能夠處理復(fù)雜的金融模型和算法交易，同時(shí)確保了數(shù)據(jù)處理的高速度和準(zhǔn)確性。

一方面，建模仿真和回測的用例依賴于密集計(jì)算架構(gòu)和DSP，主要在FPGA上實(shí)現(xiàn)，而HBM被用于處理大數(shù)據(jù)集和歷史定價(jià)數(shù)據(jù)。另一方面，低時(shí)延算法交易用例體現(xiàn)在加速交易策略和期權(quán)定價(jià)的過程。此外，還有752Mb的RAM用于存儲(chǔ)定價(jià)數(shù)據(jù)和交易記錄。同樣，HBM也用于處理訂單信息。

金融建模和算法交易案例

正如Shyam Chander所說，AMD計(jì)算加速卡采用的自適應(yīng)SoC架構(gòu)能夠在計(jì)算和存儲(chǔ)器帶寬方面提供非常高的性價(jià)比，Versal系列產(chǎn)品能夠給客戶提供包括邏輯資源和低時(shí)延、可擴(kuò)展性、能效、存儲(chǔ)器、帶寬等各方面的價(jià)值，而Alveo? V80可以應(yīng)對(duì)非常廣泛的工作負(fù)載和需求。