中文字幕无码久久精品,13—14同岁无码A片,99热门精品一区二区三区无码,菠萝菠萝蜜在线观看视频高清1

您當(dāng)前的位置是:  首頁(yè) > 行業(yè) > 電信通信 > 新聞 >
   首頁(yè) > 行業(yè) > 電信通信 > 新聞 > 中興通訊Adlik基于云燧i20的高效AI模型部署 提供高性能云端推理服務(wù)

中興通訊Adlik基于云燧i20的高效AI模型部署 提供高性能云端推理服務(wù)

2023-03-14 09:47:57   作者:   來(lái)源:C114通信網(wǎng)    評(píng)論:0  點(diǎn)擊:


  近日,中興通訊開源的Adlik深度學(xué)習(xí)推理工具鏈新增對(duì)人工智能推理加速卡云燧i20的支持,可實(shí)現(xiàn)基于云燧i20的高效AI模型部署,提供高性能的云端推理服務(wù)。

  Adlik是由中興通訊在Linux基金會(huì)人工智能&數(shù)據(jù)基金會(huì)(LF AI & Data)發(fā)起的開源項(xiàng)目,旨在提升深度學(xué)習(xí)、機(jī)器學(xué)習(xí)等模型在各種硬件平臺(tái)下的推理效率,助力人工智能在云、邊、端等多種場(chǎng)景快速落地。

  對(duì)異構(gòu)硬件的推理支持是Adlik的核心亮點(diǎn)之一。目前人工智能推理芯片處于百花齊放的狀態(tài),不同芯片之間的架構(gòu)差異導(dǎo)致推理引擎也層出不窮。利用Adlik,可快速實(shí)現(xiàn)各種主流深度學(xué)習(xí)框架所訓(xùn)練出的模型在多種不同硬件環(huán)境中的高效統(tǒng)一部署,引入云燧i20使得 Adlik的適用場(chǎng)景得以進(jìn)一步拓展。

  云燧i20是由燧原科技打造的面向數(shù)據(jù)中心的第二代人工智能推理加速卡,具有高性能高能效、模型覆蓋面廣、易部署易運(yùn)維等特點(diǎn),結(jié)合燧原科技推出的鑒算TopsInference推理引擎,能夠?yàn)樯疃葘W(xué)習(xí)應(yīng)用提供低延遲、高吞吐率的推理性能。

  Adlik能夠充分發(fā)揮云燧i20性能優(yōu)勢(shì),同時(shí)提升在云燧i20上部署AI模型的易用性。首先Adlik編譯器會(huì)將深度學(xué)習(xí)模型轉(zhuǎn)化為云燧i20可支持并優(yōu)化的模型表示,然后由Adlik推理引擎為其自動(dòng)匹配加載插件式的推理運(yùn)行,以實(shí)現(xiàn)模型的版本管理、運(yùn)行調(diào)度,為人工智能應(yīng)用提供滿足性能要求的推理服務(wù)。此外,由Adlik提供統(tǒng)一的推理接口,模型也可以從其它硬件快速、無(wú)縫遷移到云燧i20。

  近年來(lái)我國(guó)的AI新基建蓬勃發(fā)展,AI開源框架、加速芯片、開放平臺(tái)等呈現(xiàn)百花齊放的態(tài)勢(shì),為國(guó)內(nèi)的數(shù)字化轉(zhuǎn)型提供了有力支撐。Adlik作為深度學(xué)習(xí)模型推理領(lǐng)域的端到端工具鏈,也加快了構(gòu)建國(guó)內(nèi)技術(shù)生態(tài)的腳步,本次和云燧i20的合作是Adlik打造我國(guó)AI生態(tài)鏈的又一次嘗試。

  中興通訊Adlik開源項(xiàng)目首席架構(gòu)師劉濤表示:“中興通訊開源Adlik社區(qū),期望可以引領(lǐng)建設(shè)融合的AI生態(tài)圈,使用統(tǒng)一的工具鏈打通不同框架和硬件相互割裂的生態(tài)現(xiàn)狀,從而真正實(shí)現(xiàn)高效率、低成本的AI應(yīng)用落地。這次Adlik與燧原科技的云燧i20成功合作,就是基于生態(tài)建設(shè)思想的一次有力實(shí)踐,后續(xù)期待雙方在深度學(xué)習(xí)模型訓(xùn)練、優(yōu)化、編譯、部署等關(guān)鍵技術(shù)上展開合作,助力不同行業(yè)智慧化轉(zhuǎn)型,有力推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展”。

  燧原科技軟件生態(tài)負(fù)責(zé)人李彬表示“構(gòu)建開放和軟硬協(xié)同的生態(tài)環(huán)境,是推動(dòng)人工智能產(chǎn)業(yè)快速發(fā)展的戰(zhàn)略路徑。燧原科技的云燧i20與中興通訊Adlik的合作,是AI芯片與工具鏈軟件生態(tài)在推理業(yè)務(wù)領(lǐng)域的深度融合,可以充分發(fā)揮人工智能基礎(chǔ)設(shè)施的整體效能,加快人工智能應(yīng)用場(chǎng)景的落地,打造數(shù)字化經(jīng)濟(jì)。”

【免責(zé)聲明】本文僅代表作者本人觀點(diǎn),與CTI論壇無(wú)關(guān)。CTI論壇對(duì)文中陳述、觀點(diǎn)判斷保持中立,不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請(qǐng)讀者僅作參考,并請(qǐng)自行承擔(dān)全部責(zé)任。

相關(guān)閱讀:

專題

CTI論壇會(huì)員企業(yè)