日前，在北京舉行的2018 XDF賽靈思開發(fā)者大會上，浪潮聯(lián)合賽靈思宣布推出全球首款集成HBM2高速緩存的FPGA AI加速卡F37X，可在不到75W典型應(yīng)用功耗提供28.1TOPS的INT8計算性能和460GB/s的超高數(shù)據(jù)帶寬，適合于機(jī)器學(xué)習(xí)推理、視頻轉(zhuǎn)碼、圖像識別、語音識別、自然語言處理、基因組測序分析、NFV、大數(shù)據(jù)分析查詢等各類應(yīng)用場景，實(shí)現(xiàn)高性能、高帶寬、低延遲、低功耗的AI計算加速。
浪潮集團(tuán)副總裁李金在2018 XDF賽靈思開發(fā)者大會發(fā)表主題演講
F37X是浪潮專為AI極致性能設(shè)計的尖端FPGA加速卡，它采用Xilinx Virtex UltraScale+架構(gòu)，提供285萬個系統(tǒng)邏輯單元和9024個DSP單元，INT8計算性能達(dá)到了28.1TOPS，集成8GB HBM2高速緩存，帶寬達(dá)460GB/s，相比單DDR4 DIMM提升20倍。當(dāng)AI計算模型尺寸小于HBM2容量時，可全部預(yù)先載入高速緩存之中，消除了外部讀寫帶來的數(shù)據(jù)傳輸延遲并提高處理速度，使AI計算完全放到片上成為可能。性能數(shù)據(jù)顯示，浪潮F37X在AI圖像識別實(shí)時推理場景，基于GoogLeNet深度學(xué)習(xí)網(wǎng)絡(luò)模型，當(dāng)BatchSize=1時性能高達(dá)8600 images/s，是CPU性能的40倍。F37X典型應(yīng)用功耗僅為75瓦，性能功耗比高達(dá)375Gops/W。此外，F(xiàn)37X板載24GB DDR4內(nèi)存及雙端口100Gbps高速網(wǎng)絡(luò)接口。F37X設(shè)計為全高半長PCI-E 3.0板卡，緊致的尺寸可使得單臺AI服務(wù)器支持更多加速卡設(shè)備，從而提供極限計算與通信性能。
全球首款集成HBM2的FPGA AI加速卡F37X
F37X可支持C/C++、OpenCL和RTL三種主流的編程語言開發(fā)環(huán)境。相應(yīng)SDx工具套件內(nèi)含SDAccel?、Vivado?及SDK工具，應(yīng)用已有的OpenCV、BLAS、Encoder、DNN、CNN等加速庫，實(shí)現(xiàn)對主流深度學(xué)習(xí)框架如Caffe、TensorFlow、Torch、Theano等的支持，覆蓋機(jī)器學(xué)習(xí)推理、視頻圖像處理、數(shù)據(jù)庫分析、金融、安全等典型AI應(yīng)用領(lǐng)域，提供強(qiáng)大的生態(tài)支持，具備更加出色的易編程性，可靈活快速開發(fā)和遷移不同的AI定制算法應(yīng)用，在軟件生產(chǎn)力上實(shí)現(xiàn)了質(zhì)的飛躍。
浪潮集團(tuán)副總裁李金表示：“AI正以前所未有的速度重構(gòu)產(chǎn)業(yè)創(chuàng)新，AI算法將不斷快速迭代，線上推理將成為AI計算的主要場景。浪潮一直致力創(chuàng)新FPGA軟硬件技術(shù)，幫助客戶持續(xù)獲得領(lǐng)先的AI計算競爭力。浪潮F37X加速卡將為全球用戶提供快速可定制、實(shí)時高性能、高密低功耗的先進(jìn)的FPGA解決方案，加速AI應(yīng)用的線上部署?！?/FONT>
賽靈思公司數(shù)據(jù)中心銷售副總裁Freddy Engineer表示：“浪潮因產(chǎn)品執(zhí)行和創(chuàng)新而享譽(yù)全球。浪潮將為客戶提供搭載Xilinx加速卡的服務(wù)器，我們?yōu)榇硕院馈Ｎ覀兎浅８吲d能成為浪潮的開發(fā)合作伙伴，聯(lián)合推出突破性產(chǎn)品F37X，它通過HBM2提供前所未有的內(nèi)存帶寬，將加速數(shù)據(jù)分析、AI和需要最低延遲數(shù)據(jù)訪問的工作負(fù)載。”
浪潮是全球領(lǐng)先的AI計算力廠商，從計算平臺、管理套件、框架優(yōu)化、應(yīng)用加速等四個層次致力于打造敏捷、高效、優(yōu)化的AI基礎(chǔ)設(shè)施。浪潮幫助AI客戶在語音、圖像、視頻、搜索、網(wǎng)絡(luò)等方面取得數(shù)量級的應(yīng)用性能提升。據(jù)IDC《2017年中國AI基礎(chǔ)架構(gòu)市場調(diào)查報告》顯示，浪潮AI服務(wù)器市場份額達(dá)57%高居第一。
（轉(zhuǎn)載）
