2018年3月5日,深鑒科技宣布在亞馬遜AWS正式上線基于深鑒Descartes稀疏神經(jīng)網(wǎng)絡(luò)處理架構(gòu)的自動(dòng)語音識別引擎DDESE (DeePhi Descartes Efficient Speech Recognition Engine),開始面向全球用戶提供加速試用服務(wù)。DDESE自動(dòng)語音識別加速引擎在AWS的發(fā)布,標(biāo)志著深鑒科技成為首個(gè)在AWS上線基于FPGA平臺(tái)加速方案的中國人工智能公司。
FPGA芯片可定制化和多功能的靈活特性,滿足了云計(jì)算便捷經(jīng)濟(jì)、易于擴(kuò)展的需求。從2016年起,各大云服務(wù)提供商就開始部署FPGA云加速業(yè)務(wù)。全球最大的云供應(yīng)商亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)與FPGA龍頭廠商賽靈思 (Xilinx)達(dá)成合作,充分證明了云計(jì)算數(shù)據(jù)中心將是FPGA應(yīng)用釋放潛力的重要市場。同時(shí),通過大型數(shù)據(jù)中心的影響力和服務(wù)能力,F(xiàn)PGA影響著數(shù)十萬應(yīng)用開發(fā)商和企業(yè)用戶,快速成為公有云服務(wù)青睞的應(yīng)用趨勢。
深鑒所發(fā)布的DDESE聚焦語音識別場景,構(gòu)建了以賽靈思FPGA為計(jì)算平臺(tái)的自動(dòng)語音識別系統(tǒng)加速引擎,可以為用戶提供在AWS上端到端的語音識別服務(wù)。基于FPGA平臺(tái),結(jié)合深鑒科技算法、軟件和硬件協(xié)同設(shè)計(jì)的深度學(xué)習(xí)加速解決方案,目前DDESE初始版本在語音識別的計(jì)算環(huán)節(jié)是GPU計(jì)算速度的2倍。此次深鑒科技獲得AWS系統(tǒng)服務(wù)授權(quán),在云端部署FPGA語音識別加速方案,從而可以面向全球用戶提供加速服務(wù),并支持其降低開發(fā)與部署成本,消除硬件壁壘,同時(shí)通過軟硬件的協(xié)同優(yōu)化,取得更高效的云運(yùn)算能力。
深鑒的LSTM加速引擎能夠有效地縮短語音識別、機(jī)器翻譯等AI時(shí)序類應(yīng)用的延時(shí)。深鑒CTO單羿表示:“我們在亞馬遜AWS上發(fā)布DDESE的目的,是通過基于Xilinx FPGA的ESE引擎來展示AI加速能力,并通過云端推廣讓更多客戶了解深鑒的語音識別全流程解決方案。我們非常高興可以和Xilinx與AWS一起來構(gòu)建AI云端加速生態(tài)。”
技術(shù)測試階段,采用相同的網(wǎng)絡(luò)和輸入數(shù)據(jù),該款自動(dòng)語音識別引擎端到端延遲相比GPU(Tesla P4 + cudnn6020)、CPU(Intel(R) Xeon(R) CPU E5-2686 v4 @ 2.30GHz, 8 processors)的加速比分別為2.06倍和6.59倍,其中LSTM部分的加速比分別為2.82倍和8.64倍。不久之后深鑒還將發(fā)布新版本的DDESE。未來FPGA與云端業(yè)務(wù)結(jié)合還將不斷擴(kuò)展及深入,深鑒科技將持續(xù)優(yōu)化技術(shù)的功耗性能,擴(kuò)大FPGA的加速特性,實(shí)現(xiàn)公有云服務(wù)的提速。
關(guān)于深鑒科技
深鑒科技由美國斯坦福與中國清華大學(xué)的深度學(xué)習(xí)硬件加速研究者創(chuàng)立,在FPGA領(lǐng)域的技術(shù)潛能及深度學(xué)習(xí)AI專用芯片發(fā)展速度在行業(yè)內(nèi)一直處于領(lǐng)先地位。與FPGA巨頭賽靈思保持長期深度合作,DDESE的核心技術(shù)ESE(高效的語音識別引擎)的研究早于2017年獲得FPGA芯片領(lǐng)域頂級會(huì)議 FPGA2017最佳論文獎(jiǎng)。深鑒科技期待通過與AWS的深度合作輸出更便捷、更高效、更經(jīng)濟(jì)的AI云加速服務(wù)。
關(guān)于賽靈思
賽靈思(Xilinx, Inc.,NASDAQ:XLNX)是All Programmable FPGA、SoC、MPSoC、RFSoC和3D IC的全球領(lǐng)先供應(yīng)商,獨(dú)特地實(shí)現(xiàn)了既能軟件定義又能硬件優(yōu)化的各種應(yīng)用,推動(dòng)了云計(jì)算、5G無線、嵌入式視覺和工業(yè)物聯(lián)網(wǎng)等行業(yè)的發(fā)展。