張宇指出，近期，人工智能新技術(shù)、新產(chǎn)品、新應(yīng)用和新生態(tài)層出不窮，通用人工智能、大模型等等讓人工智能芯片的技術(shù)升級(jí)再次成為業(yè)內(nèi)熱點(diǎn)。人工智能技術(shù)在各個(gè)行業(yè)得到迅速普及和應(yīng)用，例如交通、醫(yī)療、零售、工業(yè)等等。隨著行業(yè)以及連接、智能應(yīng)用、數(shù)據(jù)隱私保護(hù)等方面訴求增加，推動(dòng)了邊緣計(jì)算尤其是邊緣智能事業(yè)的發(fā)展。
邊緣AutoML階段：邊緣人工智能發(fā)展的一個(gè)最終的形態(tài)
張宇指出，人工智能尤其是邊緣人工智能的發(fā)展應(yīng)該分為三個(gè)階段：邊緣推理階段、邊緣訓(xùn)練階段和邊緣的自主機(jī)器學(xué)習(xí)階段。
當(dāng)下人工智能在邊緣的應(yīng)用大多數(shù)還是停留在邊緣的推理階段，行業(yè)還是需要利用數(shù)據(jù)中心極大的算力或者大量數(shù)據(jù)訓(xùn)練一個(gè)模型，把訓(xùn)練的結(jié)果推送到前端進(jìn)行推理操作，這是目前絕大多數(shù)邊緣人工智能使用的模式。這種模式是現(xiàn)實(shí)，但是同時(shí)也有局限性，最大的局限性是對(duì)模型的更新頻率有限。
以自動(dòng)駕駛為例，它所代表的是邊緣人工智能發(fā)展的下一個(gè)趨勢(shì)——邊緣訓(xùn)練。邊緣訓(xùn)練實(shí)現(xiàn)人工智能的訓(xùn)練要面臨一系列的特定挑戰(zhàn)。如資源有限、缺乏專業(yè)知識(shí)、邊緣訓(xùn)練碎片化、難以在運(yùn)行時(shí)保護(hù)數(shù)據(jù)和模型并在多樣化硬件平臺(tái)上部署等。
在當(dāng)下的人工智能里頭，不管在邊緣應(yīng)用還是在數(shù)據(jù)中心的應(yīng)用，人在人工智能里仍然扮演一個(gè)非常重要的角色。
張宇認(rèn)為，今后人工智能發(fā)展應(yīng)該進(jìn)入邊緣AutoML階段，它是邊緣人工智能發(fā)展的一個(gè)最終的形態(tài)。這個(gè)階段網(wǎng)絡(luò)模型應(yīng)該感知人的意圖，選取適宜的樣本集訓(xùn)練這個(gè)模型，將訓(xùn)練結(jié)果推送到訓(xùn)練階段進(jìn)行相應(yīng)操作。甚至根據(jù)訓(xùn)練的結(jié)果不斷更新、不斷重新訓(xùn)練網(wǎng)絡(luò)模型，進(jìn)行不斷迭代，達(dá)到最佳的理想結(jié)果。
同時(shí)，他也指出，現(xiàn)在的大模型和AIGC，也只是說(shuō)在往AutoML方向上前進(jìn)的一小步。在大模型里頭也有很大的局限性，目前像ChatGPT等等這樣的一些應(yīng)用，它都工作在開(kāi)放的狀態(tài)，而不是閉環(huán)的狀態(tài)。而真正到AutoML的狀態(tài)應(yīng)該有一個(gè)人工智能的閉環(huán)。
“如果把攀登高峰比喻人工智能不同階段，實(shí)現(xiàn)邊緣推理只是意味著我們站到山腳，到我們能實(shí)現(xiàn)邊緣訓(xùn)練只是站到半山腰，真正站到山頂是真正實(shí)現(xiàn)AutoML的時(shí)刻，這個(gè)還有很長(zhǎng)的路要走。”張宇指出。
提供面向邊緣人工智能完整硬件和軟件解決方案 賦能合作伙伴
張宇指出，解決在邊緣人工智能快速發(fā)展過(guò)程中面臨的多種挑戰(zhàn)，還需要產(chǎn)業(yè)界的通力合作。英特爾作為一家數(shù)據(jù)公司，給業(yè)界所提供的是面向邊緣人工智能、網(wǎng)絡(luò)、數(shù)據(jù)中心的完整硬件和軟件解決方案。尤其在人工智能方面，英特爾提供了從計(jì)算、通訊到存儲(chǔ)等一系列的產(chǎn)品，供開(kāi)發(fā)人員進(jìn)行選擇。
計(jì)算方面，英特爾提供包括CPU、GPU及各種人工智能芯片等多種產(chǎn)品的組合，滿足用戶對(duì)人工智能算力不同的要求。針對(duì)人工智能大模型的訓(xùn)練和推理，英特爾在今年推出第二代Gaudi處理器，它不僅能提供大量的算力，還能提供通訊、存儲(chǔ)能力。張宇指出，英特爾的Gaudi2是全球唯二能提供針對(duì)大模型訓(xùn)練極佳性能的產(chǎn)品，而且在今年英特爾公司把Gaudi的產(chǎn)品已經(jīng)引入到國(guó)內(nèi)，已經(jīng)在國(guó)內(nèi)上市。
構(gòu)建端到端的人工智能系統(tǒng)，離不開(kāi)跟通訊相關(guān)的產(chǎn)品。英特爾提供像可編程的以太網(wǎng)交換芯片等等數(shù)據(jù)中心的產(chǎn)品以及網(wǎng)絡(luò)產(chǎn)品，幫助構(gòu)建軟件定義的網(wǎng)絡(luò)。
硬件方面，英特爾通過(guò)增強(qiáng)通用處理器的同時(shí)，還提供專用的人工智能加速芯片，滿足用戶對(duì)邊緣人工智能算力的要求。2023年發(fā)布的第四代至強(qiáng)可擴(kuò)展處理器，包含了一系列面向人工智能的技術(shù)創(chuàng)新，如高級(jí)矩陣擴(kuò)展技術(shù)AMX技術(shù)、AMX技術(shù)、SGX技術(shù)。
其中，SGX技術(shù)能在運(yùn)行時(shí)態(tài)為關(guān)鍵的數(shù)據(jù)和程序提供一個(gè)有別于其他應(yīng)用的安全可執(zhí)行的區(qū)域，能提供一個(gè)更小的安全邊界、安全顆粒，使得人工智能應(yīng)用可以部署在比如像金融、醫(yī)療等等這些對(duì)于安全有比較強(qiáng)訴求的應(yīng)用行業(yè)里。
專用方面，英特爾提供獨(dú)立顯卡產(chǎn)品，包含了面向矩陣加速、矢量加速等等一些加速專業(yè)引擎，使得在面向科技計(jì)算和人工智能推理計(jì)算的時(shí)候能有更好的性能。
除了硬件以外英特爾還提供了很多軟的工具，例如Geti平臺(tái)，能提供自動(dòng)化的標(biāo)注手段以及采取主動(dòng)學(xué)習(xí)的技術(shù)，幫助開(kāi)發(fā)人員選取最有效的訓(xùn)練樣本，從而縮小訓(xùn)練周期，減少訓(xùn)練時(shí)間，提高訓(xùn)練效果。
軟件方面，英特爾還提供OpenVINO套件，能幫助開(kāi)發(fā)人員快速進(jìn)行部署。OpenVINO包含兩個(gè)關(guān)鍵組件，一個(gè)是模型開(kāi)發(fā)器，一個(gè)是推理引擎。幫助開(kāi)發(fā)人員把開(kāi)發(fā)好的網(wǎng)絡(luò)模型部署在不同的平臺(tái)去進(jìn)行訓(xùn)練，極大地降低軟件開(kāi)發(fā)成本。
張宇介紹，在新的OpenVINO版本即2023.0的版本里，增加了對(duì)AIGC新的技術(shù)的加持，OpenVINO可以把文生圖這樣一些比較常用的大模型通過(guò)網(wǎng)絡(luò)壓縮以后，部署在通用CPU以及一些獨(dú)立顯卡，或者英特爾所帶的顯卡之上，進(jìn)行邊緣推理操作，在一些平臺(tái)上已經(jīng)得到非常好的驗(yàn)證。
除了提供這樣一些硬件和軟件的底層技術(shù)支撐，英特爾在行業(yè)方面也做了大量的工作，比如在智能制造領(lǐng)域和合作伙伴利用機(jī)器視覺(jué)合作，例如激光焊接等等一些技術(shù)，利用低時(shí)延的技術(shù)，把實(shí)時(shí)性和智能化結(jié)合起來(lái)，提供給合作伙伴全面的解決方案。
